端侧AI, 大模型的新战场?

虎嗅APP2024-03-27 20:29:19  70

出品|虎嗅科技组

头图|视觉中国

有种观点认为,如今的智能手机已经成为人类的外部器官。但一个容易被忽视的事实是,这个器官在过去10年几乎没有任何革命性的进步。

10年前,全球智能手机市场出货量达到10.042亿部,同比暴涨38.4%。盛极而衰,那一年也成为了智能手机行业最后的辉煌,自此之后,市场增长开始逐渐放缓,直到完全失去增量。

最后一次回光返照——5G换机潮后的市场疲软,足以说明移动互联网的红利,其实早就被终端厂商和应用厂商消耗殆尽。

然而,有些事情正在这个行将就木的行业中悄然发生。

去年10月,高通发布全新骁龙8Gen3处理器,并重点强调了这枚芯片在AI方面上的能力:支持终端侧运行100亿参数的模型,面向70亿参数大语言模型每秒生成20个token;用时不到一秒就可以在终端侧通过StableDiffusion生成图片。

芯片厂商提供了基础能力,终端厂商也随即开启“你方唱罢我登场”的模式,在短短一个月内,几乎所有的手机厂商都宣布已经在端侧跑通了自研的大语言模型。

同一时期,更加“古老”的PC行业也没有闲下。年初,在英特尔酷睿Ultra处理器后,包括联想、华硕、惠普、戴尔在内的多家厂商,都拿出了自己的“AIPC”方案。

暂且不论“AI手机”、“AIPC”在功能实现上如何,一个需要被前置讨论的问题是:端侧AI存在的意义是什么?

目前最集中的观点是,端侧AI在效率和安全性上有着不可替代的优势。

安全性自然不必多说,在用户数据无需上传至云端的情况下,隐私安全的确能从根本上得到保障。在效率方面,PC行业的领军企业联想主张在端侧混合使用CPU、GPU和NPU,搭建异构计算架构,能够使计算效率达到最高。

而相较于联想的“大包大揽”,也有体量稍小的手机厂商提出了更加前卫的方案。

魅族认为,手机厂商缺少做大模型的基因,一味地拼参数没有意义。他们更倾向于打造一个完全开放的平台,供大模型平台使用,包括但不局限于向开发者提供系统权限、API文档,并开放处理器的AI算力,让开发者拥有充分的自由度,从而实现更多创新功能和应用服务的制作。

除以上的技术路径外,大模型在端侧还有哪些表现形式?目前端侧AI还有哪些前沿进展?未来端侧AI还有哪些商业机遇?

2024年1月27日,虎嗅前沿科技组特邀行业技术专家与创业者,共同讨论端侧AI领域的商业实践、技术实践、创投机会、探索方向。

活动概况:

活动名称:2024AI内参会

活动时间:2024年3月31日,14:00-17:00

活动地点:北京·虎嗅二层(万科时代中心·十里)

转载此文是出于传递更多信息目的。若来源标注错误或侵犯了您的合法权益,请与本站联系,我们将及时更正、删除、谢谢。
https://www.414w.com/read/46723.html
0
随机主题
杨紫在时尚圈弯道超车,拿下第二封五大星二代的四组对比, 一目了然的颜值差距告诉你, 遗传基因骗不了人英超蛋糕冠绝欧洲足坛, 瓜迪奥拉获誉三亿欧元玩家, 利物浦切尔西换帅相煎何急?三国杀:这才是真正的毒绣,以前我们都错了伊朗给印度送大礼,莫迪没来得及高兴一下,国内就传来了惨痛噩耗迪拜土豪14米长巨型豪车,奥尼尔看了都摇头!在上合转正,蒙古国迟迟不松口,拉夫罗夫亮明立场,不想再等20年华为智选车“第四界”进入倒计时!首款百万级豪车即将诞生参展机构增加2419家! 几组数据看深圳文博会蓬勃生机冠军信赖真靠谱 捷途X70 PLUS冠军版正式上市真我GT Neo6: 骁龙8s三代+ 6000nit无双屏 +120W光速秒充北京市首次 翠湖湿地公园来“新客”父亲是非洲人, 他却入选了中国男篮, 和肤白貌美的女友是青梅竹马纯电续航“虚标王”? 懂车帝实测长安UNI-Z纯电续航达成率1A股忽然全线下跌,真正原因明眼人都懂?逆向思维,把握逢低时机A股突发杀跌:市场绿油油的背后真相揭秘没有社媒的小因扎吉通过妻子账号告别张康阳: 谢谢你鲁能飞翼或成夏窗离队第一人, 本赛季外租表现不俗, 曾是亚冠主力开国大将陈赓有5个子女, 他们如今过得如何? 三个儿子是少将十个回合吃双车,惊天妙手,套路杀招,新手必备李金羽辞去中甲云南玉昆队主教练职务
最新回复(0)