关注我们
QRcode 邮件联系 新浪微博
首页 > 科技 » 正文

英特尔昨日发布第五代至强处理器 ,支持200亿的大语言模型

 ssw

英特尔在昨夜举办的“让AI无处不在”主题活动上还正式发布了第五代英特尔至强可扩展处理器系列,在性能和能效方面实现了重大飞跃。英特尔表示,与上一代产品相比,在相同的热设计功率范围内,平均性能提升21%,并在一系列工作负载中将每瓦性能提升高达36%。对于遵循典型的五年更新周期并从更前一代处理器进行升级的客户,总体拥有成本最多可降低77%。

英特尔至强可扩展处理器是业界领先的内置AI加速器的主流数据中心处理器,而全新第五代英特尔至强可扩展处理器更是能够微调参数量多达200亿的大语言模型,并将其推理性能提高42%。现阶段,英特尔至强可扩展处理器也是唯一一款拥有MLPerf训练和推理基准测试结果并持续提升性能的CPU。得益于内置AI加速器,以及优化的软件和增强的遥测功能,英特尔至强可扩展处理器能够让通信服务提供商、内容分发网络以及包括零售、医疗和制造业在内的广泛垂直市场,更灵活和高效地部署对网络和边缘工作负载要求严苛的解决方案。

在今天的活动上,IBM表示,与上一代英特尔至强可扩展处理器的测试数据相比,第五代英特尔至强可扩展处理器在其watsonx.data平台上的网络查询吞吐量提高了2.7倍。将于明年部署第五代英特尔至强可扩展处理器的谷歌云指出,得益于谷歌云中第四代英特尔至强可扩展处理器内置的加速器,Palo Alto Networks在其基于深度学习模型的威胁检测的性能得到两倍提升。独立游戏工作室Gallium Studios采用在英特尔至强可扩展处理器上运行的Numenta AI平台,推理性能比基于GPU的云实例提高了6.5倍,从而为其基于AI的游戏Proxi节省成本并缩短延迟。这种高性能也为在数据中心、云,以及全球网络和边缘应用中解锁领先的AI功能提供了更多新的可能性。

法拉第CEO:担忧FF可能已成为市场操纵、非法卖空的目标
国产大模型应用加速落地,加速垂直行业数智化升级
美国法院推翻英特尔21.8亿美元专利侵权裁定美国法院推翻英特尔21.8亿美元专利侵权裁定英特尔五代至强新处理器跑分亮相 隔壁AMD表示开心英特尔五代至强新处理器跑分亮相 隔壁AMD表