关注我们
QRcode 邮件联系 新浪微博
首页 > 科技 » 正文

火山引擎谭待:大模型的超低定价 来自对技术的信心

 小尚

“降价的基本逻辑是,我们有信心用技术手段降低成本,市场也需要更低价的大模型。”

5月15日,字节跳动豆包大模型在火山引擎原动力大会上正式发布。火山引擎总裁谭待在接受媒体采访时,谈到了大模型的定价策略。

豆包大模型的超低价格引发行业震动。据悉,豆包主力模型的推理输入价格只有0.0008元/千Tokens,比行业便宜99.3%。对此,谭待坦言,“降价是用技术优化成本来实现的。如果只是补贴,用亏损换收入是不可持续的,火山引擎不会走这条路。”

据介绍,大模型推理成本的优化,技术上有很多手段。首先是模型本身,模型结构、训练方法都可以持续改进,包括业界很关注的MoE(混合专家模型),就是优化推理成本很好的解决方案。

本文标签:
昆泰磁悬浮完成A轮融资 将用于磁悬浮分子泵的研发及产能建设
国云注智 聚力向新 2024智算云生态大会·智算云论坛即将启幕