美文网首页
天玑 9300芯片在AI性能方面取得了显著的进步

天玑 9300芯片在AI性能方面取得了显著的进步

作者: 良友知音 | 来源:发表于2024-05-07 12:53 被阅读0次

    天玑 9300芯片集成了MediaTek第七代AI处理器APU 790,这款AI处理器专为生成式AI而设计,其性能和能效相比上一代有了显著提升。整数运算和浮点运算的性能是前一代的两倍,同时功耗降低了45%。这样的改进使得天玑 9300在处理AI任务时更加高效和节能。

    APU 790内置了硬件级的生成式AI引擎,能够实现更快速且安全的边缘AI计算。特别值得一提的是,它针对目前大语言模型常用的Transformer进行了算子加速,使得大模型的处理速度是上一代的8倍。这意味着天玑 9300在运行复杂的AI模型时,能够提供更快的响应速度和更高的效率。

    此外,天玑 9300支持终端运行不同规模的AI大模型,从10亿到最高330亿参数的模型都能够在其上得到有效处理。通过与vivo的深度合作,天玑 9300在vivo旗舰手机上首次实现了端侧落地70亿参数大语言模型的运行,这在行业中尚属首次。同时,它还突破了行业上限,将端侧运行大模型的规模提高到130亿参数。在快速处理方面,天玑 9300具备快速文字、图片生成能力,70亿参数模型下可实现每秒20 Tokens输出,几乎无需等待,就能立即在手机上获得最新的AI生成结果。

    综上所述,天玑 9300芯片在AI领域的表现无疑是卓越的,它的发布标志着移动设备在AI处理能力上迈出了重要的一步。

    相关文章

      网友评论

          本文标题:天玑 9300芯片在AI性能方面取得了显著的进步

          本文链接:https://www.haomeiwen.com/subject/esgrfjtx.html