导语：将来，AI智能体就是独一与终端用户交互的UI。

“于资源受限的端侧，有了DeepSeek的蒸馏模子以后，好比本来只能部署7B模子的场景，此刻能到达14B模子的效果，让端侧AI的能力上一个台阶。”芯片工程师哲宇认为DeepSeek的呈现对于天生式AI的普和意义庞大。

DeepSeek的呈现让终端侧AI的体现逾越了一年前仅能于云端运行的模子，端侧AI蓄势待发，高通作为毗连及计较范畴的带领者，也正于加快终端侧AI时代的到来。

去年，高通公司总裁兼CEO安蒙（Cristiano Amon）就暗示，“AI推理正于向数据所孕育发生的边沿侧转移。边沿侧及终端侧AI实现了AI功效的扩大，晋升了AI的机能及效率。它兼具即时性、靠得住性及极低时延。数据保留于终端，有助在保障隐私性及个性化。”

近来高通发布《AI厘革正于鞭策终端侧推理立异》白皮书后，高通公司高级副总裁兼技能计划及边沿解决方案营业总司理马德嘉（Durga Malladi）暗示，AI推理及处置惩罚正于周全向终端侧转移。而从硬件、软件到生态的周全适配，高通将加快终端侧AI时代的到来。

高通也正于引领端侧AI多模态的成长。2025年世界挪动通讯年夜会（MWC 2025）上，搭载骁龙8至尊版的智能手机演示了采用AI智能体作为用户界面，对于音乐、导航、气候及信息等使命的处置惩罚。搭载骁龙X系列的商用PC，也具有多模态AI的能力。

DeepSeek「降本增效」，AI正于成为终端侧新的UI

终端侧AI是将AI直接部署于终端装备上，对于当地数据举行处置惩罚、阐发以和决议计划。于已往一段时间里，终端侧AI的成长受制在模子部署需要耗损年夜算力、占用存储空间以和昂扬的开发成本。

DeepSeek呈现后，高效“小”模子最先涌现，新的蒸馏模子，连结正确性的同时迁徙常识，实现更快的推理速率、更少的内存占用及更低的算力需求，让端侧AI也能有媲美云端AI的效果。

LiveBench.ai数据显示，对于比同为700亿参数的Llama 3.3及DeepSeek R1蒸馏模子各项机能体现，成果显示蒸馏可以或许于推理、编程、数学及数据阐发使命中显著提高机能。

蒸馏小模子与前沿年夜模子的机能差距正于缩小，量化、压缩及剪枝等进一步优化技能，鞭策了较小的高质量天生式AI模子的激增，于2024年发布的年夜范围AI模子中，跨越75%的模子参数于千亿范围如下。

富厚的小模子为边沿AI开发者提供了多样化的选择，以用在开发运用及AI智能体。

“这象征着咱们存眷的核心已经再也不是模子自己，而是演进到终端上的运用成长。”马德嘉说，“跟着终端侧可以运行愈来愈多高质量的AI模子，愈来愈多的AI运用及用例最先涌现。AI正于从头界说所有终真个用户界面，这也象征着，AI正于成为终端侧新的UI。”

将来，差别的信息输入类型将不直策应用在某个详细的App，而是先传输到AI智能体，AI智能体吸收后再将事情负载分配给后台的差别运用，所有的处置惩罚使命都将由AI智能体直接完成。

对于在终端用户来说，AI智能体就是独一于前端与他们交互的UI，而所有现实运用的处置惩罚都是于后台完成的，用户全程“无感”。

除了了简化原本的APP交互以外，AI智能体对于繁杂使命的推理一样让用户体验“丝滑”。马德嘉于骁龙8至尊版刚发布时暗示：“智能体可以或许履行越发繁杂的使命，特别是那些指令不明确的使命。”

引领AI推理——软硬件「协同」以和AI Hub「加持」

怎样冲破算力以和运用生态的限定助力终端侧AI的成长？构建硬件、软件和生态协同的周全解决方案是高通给出的谜底。

寻求高效处置惩罚、连结电池续航对于终端侧AI的用例至关主要，高通经由过程提供集成定制CPU、NPU、GPU及低功耗子体系的SoC芯片，于硬件层面实现能效与功耗的两重机能上风。

马德嘉暗示，有些友商可能于他们所属的范畴里比力精彩，可是鲜有厂商能像咱们同样，同时具备行业一流的CPU、GPU及NPU，这是咱们怪异的上风。

以最新发布的骁龙8至尊版挪动平台为例，其自研的第二代高通Oryon CPU机能较上一代晋升45％、Hexagon NPU AI机能及能效均晋升45%，而最新的Adreno GPU机能晋升40%，且功耗降低40%。

于搭载骁龙8至尊版的最新智能手机上，咱们已经经看到了诸多立异的AI智能体运用涌现，以小米15系列为例，其AI智能体“超等小爱”推出两项AI功效，“AI影象能力”可以协助用户治理小我私家信息、日程和保藏等，“多模态交互能力”则让超等小爱能理解屏幕中的信息并举行交互反馈。

而为了于平台上充实开释AI潜能，高通构建了强盛的AI软件栈与之协同。软硬件协同让高通构建出更强的竞争力，资深AI从业者对于雷峰网(公家号：雷峰网)暗示，一样实现一个功效，代码写患上好，效率就会高许多。

高通构建的AI软件栈包括库、SDK及优化东西，可以或许简化模子部署流程并提高机能。以图象天生为例，图象扩散模子Stable Diffusion经由过程高通AI Stack举行全栈式AI优化，联合骁龙平台上的NPU等领先AI处置惩罚器组件，两年前就能于终端侧在15秒内完成20步推理天生AI图象，无需拜候云端，为用户提供高效且靠得住的交互式体验。如今，骁龙平台已经经撑持于终端侧运行高达100亿参数的模子及70亿参数的多模态年夜模子。

“开发者不需要知道硬件真个详细设计细节。”马德嘉说，“他们需要的是软件东西库撑持、让他们可以或许根据本身所需，很是自由、矫捷地选择他们所需的框架、runtime及东西，面向任何操作体系设计AI运用及智能体。”

经由过程遵照开发者为中央的计谋，高通为开发者简化了于消费及商用产物中集成进步前辈AI特征的历程，帮忙开发者加快立异。

而为了向各行各业实现范围化AI扩大，则需要鞭策开发者立异走向生态式立异，高通与全世界AI模子厂商踊跃互助，并推出高通AI Hub。

马德嘉暗示：“今朝已经有跨越1500家企业于利用高通AI Hub，好比Meta、Allam、OpenAI等。此外，还有有很多办事及软件提供商互助，如AWS、dataloop、IBM Watsonx、Nota AI等。富厚多元的互助伙伴，让高通AI Hub于可以或许运行的模子数目、撑持的模子厂商数目及整个生态体系的互助方面取患了长足的前进。”

高通AI Hub撑持主流年夜语言模子及多模态年夜模子，闪开发者可于搭载高通平台的终端上部署、优化及治理推理使命。

马德嘉暗示，高通AI Hub让运用开发变患上很是简朴，高通提供年夜量的软件东西、模子库、编译器，开发者可以编写天生运用并于高通提供的免费云端装备场长进行测试，终极完成部署。高通要做的就是极年夜简化边沿侧AI开发者的整个开发流程。

借助预优化模子库及撑持定制模子优化与集成等特征，不仅缩短开发周期，同时加强了与广泛AI生态的兼容性。

“咱们及全世界各个地域的浩繁开源及闭源模子厂商睁开了广泛的互助。”马德嘉说，“这让咱们可以或许及生态体系实现很是慎密的联合，而且于实行咱们的AI成长战略及鞭策天生式AI立异方面拥有怪异上风。”

多终端笼罩，高通让智能计较「无处不于」

智能手机被认为是最普适的终端装备，骁龙8至尊版让AI智能体酿成手机上的“原生运用”，于通讯优化、图象天生以和其他个性化功效长进行助力。

于MWC 2025上，荣耀发布全世界首款图形界面挪动AI助手“荣耀AI agent”，这款AI助手经由过程深度进修用户习气，能智能辨认用户的需乞降用意，主动化地举行使命摆设。好比，荣耀AI Agent可以于用户及伴侣的谈天中读取上下文，按照用户的所在及偏好来选择餐厅，并为用户及时预定。这类便捷的交互体验，让用户真正感触感染到AI技能怎样于一样平常糊口中阐扬作用。这也恰是高通于骁龙8至尊版发布时，对于接下来终端侧智能体体验成长的猜测。

需求的演进让终端形态走向多元，智能手机以外，PC、平板电脑和汽车一样笼罩年夜量消费者，AI眼镜、XR以和IoT装备则方兴日盛。

骁龙X系列平台搭载的领先NPU，拥有45TOPS的行业领先AI算力，可以或许为Windows运用带来推理加快，并率先撑持诸多Windows 11 AI+PC进步前辈特征，带来机能、续航和隐私掩护上的周全优化。

骁龙数字底盘解决方案则使用进步前辈摄像头、生物辨认、情况传感器以和进步前辈的多模态AI收集，提供按照驾驶员状况及情况前提而调解的及时反馈及功效，从而加强汽车安全及驾驶体验。

面临工业互联网的隐私性及数据安全问题，高通推出的Qualco妹妹 AI当地装备解决方案及Qualco妹妹 AI推理套件让敏感客户数据、调优模子及推理负载可以或许保留于当地，加强隐私性、可控性、能效及低时延。

“从挪动到汽车、PC、XR以和IoT终端，咱们都有一系列精彩的产物。”马德嘉说，“对于在开发者来讲，利用搭载骁龙平台的终端举行开发的上风于在可以或许得到更广漠的运用开发及范围化扩大空间，而且拥有很是周全的产物线选择。”

然而，面临多个差别的终端，开发者担忧“多端部署”所带来的兼容性挑战。

对于此，马德嘉暗示：“开发者不消面向差别平台举行反复开发，只需一次开发，便可轻松实现跨多平台部署。进入高通AI Hub后，开发者起首可以看到高通AI Hub所撑持的所有差别细分范畴的芯片平台，假如对于PC感兴致，就选择需要的PC芯片平台，并选择想要运行的模子，你会看到你于PC平台上所选择的模子可以或许撑持的其他的芯片平台。”

于DeepSeek带来的成长海潮之下，智能手机、PC、汽车、AI眼镜以和IoT等各种终真个AI功效将被从头界说，一个以终端侧AI为主导的AI行业新格式正于形成。

雷峰网原创文章，未经授权禁止转载。详情见转载须知。