快科技12月22日消息,据VB报道,苹果公司最近公布的两篇论文,展示了该公司在人工智能研究方面取得的重大进展。
其中,一项高效的语言模型推理新技术,有望让复杂的AI系统在iPhone、iPad等小内存设备上流畅运行。
在一篇论文中, 苹果研究人员解决了在内存有限的设备上部署大语言模型(LLM)的一个关键挑战。
大家都知道,像GPT-4这样的大模型包含前千亿个参数,如果直接在消费类硬件上运行的话,推理成本会非常高昂。