天玑 9300芯片集成了MediaTek第七代AI处理器APU 790,这款AI处理器专为生成式AI而设计,其性能和能效相比上一代有了显著提升。整数运算和浮点运算的性能是前一代的两倍,同时功耗降低了45%。这样的改进使得天玑 9300在处理AI任务时更加高效和节能。
APU 790内置了硬件级的生成式AI引擎,能够实现更快速且安全的边缘AI计算。特别值得一提的是,它针对目前大语言模型常用的Transformer进行了算子加速,使得大模型的处理速度是上一代的8倍。这意味着天玑 9300在运行复杂的AI模型时,能够提供更快的响应速度和更高的效率。
此外,天玑 9300支持终端运行不同规模的AI大模型,从10亿到最高330亿参数的模型都能够在其上得到有效处理。通过与vivo的深度合作,天玑 9300在vivo旗舰手机上首次实现了端侧落地70亿参数大语言模型的运行,这在行业中尚属首次。同时,它还突破了行业上限,将端侧运行大模型的规模提高到130亿参数。在快速处理方面,天玑 9300具备快速文字、图片生成能力,70亿参数模型下可实现每秒20 Tokens输出,几乎无需等待,就能立即在手机上获得最新的AI生成结果。
综上所述,天玑 9300芯片在AI领域的表现无疑是卓越的,它的发布标志着移动设备在AI处理能力上迈出了重要的一步。
网友评论