骁龙8至尊版助力端侧AI全面提升 高通CEO安蒙:App生态将发生变革

   发布时间:2024-10-22 11:00 作者:顾雨柔

凤凰网科技讯(作者/于雷)北京时间10月22日,骁龙8至尊版正式发布,移动端AI表现全面发力。高通CEO克里斯蒂亚诺·安蒙表示,未来智能手机重要体验将围绕AI展开,手机将成为最重要的AI智能体,人们与手机之间的互动将围绕着个人需求展开,现有的App生态将产生巨大的变革。

骁龙8至尊版搭载第二代Oryon CPU和增强的高通HexagonNPU,利用高通AI引擎优势,能够带来更强大的终端侧生成式AI处理能力。

结合高通AI软件栈以及行业领先的工具套件,包括高通AI模型增效工具包(AIMET)等,为模型提供了全栈优化能力。通过使用基于硬件的INT4量化技术,可以大幅提升终端侧的运行效率,端侧推理实现首个token生成时延达到150ms,解码速率达到超过30 tokens/秒。

高通宣布与腾讯混元合作,基于骁龙8至尊版移动平台,共同推动了腾讯混元大模型7B和3B版本的终端侧部署。通过利用终端侧AI加速,降低运营成本,进一步扩展生成式AI在终端侧的应用和普及。

智谱也是高通在大模型方面的合作伙伴,智谱的GLM-4V端侧视觉大模型会面向骁龙8至尊版进行深度适配和推理优化,支持多模态交互。

 
 
更多>同类内容
全站最新
热门内容
本栏最新
 
智快科技微信账号
ITBear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群