关注我们
QRcode 邮件联系 新浪微博
首页 > 科技 » 正文

摩尔线程千卡GPU集群!憨侯完成700亿参数大模型训练

 小尚

快科技5月17日消息, 摩尔线程、憨猴科技集团联合宣布,基于摩尔线程的夸娥(KUAE)千卡智算集群,憨猴集团成功完成了7B、34B、70B不同参数量级的大模型分布式训练。

经双方共同严苛测试, 兼容适配程度高,训练效率达到预期,精度符合要求,整个训练过程持续稳定。

这充分验证了夸娥智算集群作为国产全功能GPU千卡千亿大模型预训练平台,在稳定性、高效能、易用性和高算力利用率的先进性。

这也是憨猴集团首次使用国产AI算力完成大模型训练测试,后续可为其服务的国有企业与运营商等关键领域,提供更加坚实可靠的国产AI训练平台,以及成本效益更优的国产算力解决方案。 

本文标签:
湖北首个合成生物产业技术创新联合体在宜昌签署战略合作协议
雷克沙发布Ares 战神之翼 DDR5 7600&8000旗舰内存条:精选海力士A-die颗粒