阿里云与MediaTek

阿里云与MediaTek联合宣布，已经将通义千问系列大模型（包括18亿和40亿参数版本）部署到了MediaTek天玑9300移动平台上，使得智能手机可以在离线状态下流畅运行多轮即时且精准的AI对话应用。

该部署实现了芯片级的软硬适配，标志着Model-on-Chip（片上大模型）技术从验证阶段迈向商业化落地的新台阶，展示了端侧AI的巨大潜力。

通义千问18亿参数开源大模型具有高性能、低成本、易部署的特点，在权威测试集中表现出色，并且在资源占用方面极为友好，只需约1.8GB内存即可运行。

天玑9300搭载MediaTek第七代AI处理器APU790，显著提升了生成式AI的处理速度。

阿里云与MediaTek通过在模型压缩、工具链优化、推理优化、内存优化、算子优化等方面深入合作，成功实现在手机芯片上的高效异构加速，确保大模型能在终端设备上以较低的功耗（连续推理功耗增量小于3W）和较高的性能运行。

在天玑9300芯片上的通义千问模型能够以低CPU占有率、低RAM占用及快速推理速度（超过20tokens/秒）实现多轮AI对话，并将在SDK形式下提供给手机厂商和开发者。

双方还完成了更大规模参数（如40亿参数）大模型与天玑9300的适配，并计划继续扩展至70亿等更大尺寸模型，旨在推动更多AI智能体和应用的开发。

阿里云与MediaTek联合启动了AI智能体解决方案计划，结合天玑移动平台的AI算力与通义千问的能力，为开发者和企业搭建更加完善的软硬一体化开发平台，目标是催生下一代智能终端应用生态，增强情境感知、自主学习和实时交互等功能。

通义大模型已经在诸多领域得到广泛应用，比如在钉钉、淘宝、一汽红旗、央视网、浙江大学等项目中发挥重要作用，其中“淘宝问问”依托通义千问改进了用户体验和推荐准确性，而GPT-BI则实现了企业数据分析自动化。