2023年，毫无疑问是算力需求大爆发的转折之年，如今随着国内两批超20个大模型获得审批、种类多样的大模型相关应用显现，企业对私有化部署的需求也水涨船高。
面向这一行业趋势，2023年世界互联网大会乌镇峰会上，国内云端RISC-V大芯片创企希姆计算就联合国鑫发布了基于开源指令架构RISC-V打造的大模型系列一体机。其中包括2U4卡、4U8卡机，支持部署6B、7B、13B参数规模的大模型，这也是专门针对私有化部署提供的系统级解决方案。
RISC-V迈向AI计算和高性能领域
目前中国有数百家公司在关注或以RISC-V指令集进行开发。RISC-V International的25个高级会员中有阿里、华为、腾讯等12家中国企业，去年达摩院领导了13个技术小组的标准制定。
张建锋在演讲中分享了一些数据：RISC-V正呈高速发展，在可穿戴MCU、计算笔记本、通信5G、消费级AI加速、工业智能电网、自动驾驶AI驾驶等主流应用中的占比接近或达到30%；未来几年在主流市场年复合增长率预计超过40%。
倪光南院士预测，未来世界三大主流CPU生态将是：1）服务器/桌面的Wintel联盟；2）移动终端的安卓Arm生态；3）智能物联IoT的RV++（1套RISC-V指令集架构+1套基础软件+N种定制化芯片）。其中，AIoT生态会出现数万种定制化需求，而RISC-V最有优势。
他认为RISC-V自定义扩展指令是实现特定领域架构（DSA）的有效途径，随着RISC-V扩展指令集功能的充分发挥，芯片定制化或”芯片定义”将会被人们所普遍接受。
端侧AI迎来黄金增长期
端侧AI是大模型应用落地的重要场景之一，但面临着软硬件难适配、开发环境不完备等诸多挑战。通过与联发科的深度合作，双方共同攻克了一系列底层适配及上层开发的技术难题，成功将大模型“装进”手机芯片中，探索出了端侧AI的Model-on-Chip部署新模式。
这一模式的成功落地，不仅提升了手机在离线情况下的AI对话能力，使得多轮对话成为可能，更为未来端侧AI的发展奠定了坚实基础。随着云端大模型规模的指数级增长，端侧计算将逐渐承担起支撑大规模用户使用的重任。云端协同将成为未来的重要趋势，由云侧计算建立天花板，端侧计算将为用户提供更加流畅、高效的服务体验。
除了联发科外，其他芯片厂商也在积极推动大模型在手机终端的落地。例如，高通宣布推出了支持100亿参数级别大语言模型的第三代骁龙8s移动平台，并得到了小米Civi 4 Pro等手机的青睐。这一趋势表明，越来越多的手机厂商和芯片厂商开始认识到端侧AI的重要性，并纷纷加大投入力度，以期在激烈的市场竞争中抢占先机。
当然，端侧AI的发展也离不开政策的支持和市场的推动。随着国家对新一代信息技术产业的重视和扶持力度不断加大，以及消费者对智能手机功能的日益多样化需求，端侧AI的市场前景将更加广阔。根据咨询机构IDC的预测，2024年中国智能手机市场出货量将达到2.77亿台，其中AI手机出货量将大幅增长。可以预见，未来端侧AI将在智能手机领域发挥越来越重要的作用。
1、本号不对发布的任何信息的可用性、准确性、时效性、有效性或完整性作出声明或保证，并在此声明不承担信息可能产生的任何责任、任何后果。
2、 本号非商业、非营利性，转载的内容并不代表赞同其观点和对其真实性负责，也无意构成任何其他引导。本号不对转载或发布的任何信息存在的不准确或错误，负任何直接或间接责任。
3、本号部分资料、素材、文字、图片等来源于互联网，所有转载都已经注明来源出处。如果您发现有侵犯您的知识产权以及个人合法权益的作品，请与我们取得联系，我们会及时修改或删除。
