亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例韶关市某某电气有限公司亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马韶关市某某电气有限公司用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读(责任编辑:热门资讯)
-
南方财经全媒体记者 孙诗卉 上海报道近日,21世纪经济报道记者从业内独家获悉平安人寿总经理余宏已经向董事会递交辞呈。21世纪经济报道记者发现,平安人寿官网董事名单中已经没有了余宏的相关信息,目前平安人 ...[详细]
-
版权声明:本文版权为网易汽车所有,转载请注明出处。网易汽车7月4日报道近日,宝马集团官方宣布,全新一代宝马1系在德国莱比锡工厂正式下线,日产能约500台。值得一提的是,该工厂还同时制造着宝马2系家族车 ...[详细]
-
中新健康丨高水平医院初级技术经纪人认证培训班在穗开班2024-06-28 22:41:33 来源:中国新闻网 ...[详细]
-
很多网友调侃,现代家庭的构成很简单:父母、孩子与手机。对于孩子来说,手机似乎替代了父母、教育和陪伴。不少孩子于成长的不知不觉中,在手机中寻找慰藉、刺激与玩伴。手机该不该成为“禁果”已然成为了当前家庭教 ...[详细]
-
北京:中小学不得强制学生购买校服,可“以旧换新”“以小换大”
日前,北京市教委、北京市市场监督管理局印发《关于进一步加强中小学生校服管理工作的意见》,强调中小学校服坚持学生自愿购买原则;同时提出,学校可探索学生校服循环使用,创新校服以旧换新、以小换大等回收利用机 ...[详细] -
据总台记者消息,当地时间2日下午印度北方邦一场宗教活动上发生的踩踏事件死亡人数增加到122人。 据悉,参加本次宗教活动的人数超过2万人,伤亡人数恐进一步增加。总台记者 张玥) ...[详细]
-
央视网消息新闻联播):中国物流与采购联合会今天7月2日)公布:6月份中国物流业景气指数为51.6%,连续4个月位于扩张区间。从分项指数看,6月份新订单指数为51.9%,道路运输、铁路运输、航空运输 ...[详细]
-
想去高原耍一耍?先收好这份“高反”防治宝典 | 科普时间2024-07-02 16:10:04 来源:健康中国微信公众号 ...[详细]
-
参考消息网9月14日报道美国“治国方略”网站9月12日刊登题为《德国总理为何推动乌克兰实现和平》的文章,作者是埃尔达·马梅多夫。文章摘编如下:7日,德国总理朔尔茨在接受采访时呼吁通过外交途径解决乌克兰 ...[详细]
-
版权声明:本文版权为网易汽车所有,转载请注明出处。网易汽车7月2日报道 享界S9的内饰发布了,作为鸿蒙智行旗下的行政级轿车,享界S9也是带来了一套高定设计的内装。行政级扶手屏、电子后视镜、贯穿的“星河 ...[详细]