欢迎访问科技网!

您当前的位置: 首页 > 科技动态

你的移动终端够智能吗

发布时间:2024-01-16 06:10:10 来源:科普时报 字号: [ 大 ] [ 中 ] [ 小 ]


科普时报记者 陈 杰

1月8日,OPPO发布植入70亿参数的端侧大模型智能手机新品。大模型终于不再仅仅以APP的形式出现在手机里,而是直接嵌入手机,这样的改变会给我们带来什么?

其实,自2023年下半年起,人工智能的热潮已经从软件应用开始转向硬件领域,更多大模型手机、人工智能电脑呼之欲出。“随着技术创新的深入及产品的不断迭代,大模型正在重构当前的芯片、硬件、软件、云服务和应用体系,并有望重新定义数字时代的智能终端。”赛智产业研究院院长赵刚接受科普时报记者采访时表示。


大模型终端异军突起

大模型在智能终端的应用主要分为云侧应用和端侧植入。赵刚表示,云侧应用就是在现有的智能终端上安装大模型应用APP,端侧是直接将大模型部署在终端,不用联网本地就可调取应用。“目前,智能手机和笔记本电脑都进行端侧大模型相关的产业布局,手机领域的动作则更具看头。”

智能手机由于受芯片和存储能力限制,很难支撑起端侧大模型的应用。直到谷歌宣布要在Pixel上内置端侧大模型之后,包括三星、华为、小米、OPPO、荣耀等主流手机厂商陆续被曝将在手机端支持大模型。OPPO的Find X7则首开先河,将70亿参数的大模型AndesGPT通过量化压缩及优化后装进了手机。“完全不同于云端的大模型APP应用,端侧大模型可以在保障用户隐私安全的前提下,带来响应更快、处理能力更强、生成质量更高的本地AI体验。”OPPO软件创新中心总经理张峻告诉记者。

对于通用大模型,70亿的参数或许不值一提,但也正是由于这70亿参数大模型的加持,手机的AIGC(人工智能生成内容)能力迅速增强。张峻透露,Find X7在文本内容摘要场景下,200字的摘要首字生成仅需0.2秒;在通话语音转文字方面,通话结束后端侧大模型就能准确地理解对话内容并生成重点明确、细节不遗漏的摘要内容。

在PC领域,大模型战略则略显低调。直到2023年的最后几天,英特尔基于全新的酷睿Ultra处理器和第五代至强可扩展处理器正式发布AI战略,并联合多家PC厂商正式拉开AIPC(人工智能个人电脑)时代的大幕。


端云结合是技术主流

不论是基于大模型手机还是AIPC,目前产业界传递出来的声音似乎都在强调端侧大模型更具应用优势。而实际情况是,即便是硬件强悍如拥有专用AI芯片的AIPC,英特尔也只能给出130亿参数的端侧大模型解决方案,略强于智能手机的端侧方案,但相较于动辄数千亿级参数的通用大模型,也就显得不太够看了。

赵刚认为,云侧和端侧大模型各具优劣。“云端大模型参数级别高,不会增加移动端的硬件成本,但数据和隐私有泄露的风险;端侧大模型则是低参数的轻量级大模型,对终端的芯片、存储、操作系统等都有新要求,但可以离线使用,对用户的个人数据安全保障能力更强。”

OPPO成功将大模型装进到手机端,但并没有将其能力限制在端侧。张峻认为,在移动终端,大模型应用需要大量的计算资源和存储空间,同时还需要进行高效的分布式训练和数据处理,而这些需求只有通过云端结合的方式才能得到满足。

行业人士也普遍认为,以目前硬件技术的迭代水平,云端结合才是大模型终端主流的技术路线。

 


【免责声明】本文转载自网络,与科技网无关。科技网站对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。请读者仅作参考,并请自行承担全部责任。