联发科发布天玑AI开发套件:终端生成式AI应用开发一站式解决方案
快科技5月7日消息,今天,联发科举办天玑开发者大会2024(MDDC 2024)。
在这次大会上,联发科正式发布天玑AI开发套件, 旨在为合作伙伴打造终端生成式AI应用开发一站式解决方案。
据悉, 联发科天玑AI开发套件包含快速高效的GenAI最佳实践、覆盖全球主流大模型的GenAI Model Hub、高效提升性能的GenAI优化技术和Neuron Studio一站式视觉化开发环境等四大模块, 为开发者提供“快、全、强、易”的专业开发体验,赋能终端生成式AI应用开发全流程。
其中,GenAI最佳实践通过模型量化、模型编译和模型推理技术加速了大模型的终端部署,可从数周加速到一天;GenAI Model Hub适配行业前沿主流的大模型,为开发者高效构建生成式AI应用提供丰富的大模型资源。
本文标签: