“怕错过”是生成式AI浪潮下企业的普遍焦虑。
针对大模型落地中的卡点,浪潮信息拿出了怎样的系统化解法?
2024年,曾经火热的“百模大战”,已经进入“千行百业”的实战考验中。
2023年,8个月内国内就诞生了238个大模型,相当于每隔1天就会官宣一个新的大模型,因此业界甚至有了“大模型日抛”的说法。
我们需要这么多大模型吗?2024年,借助市场之手,大模型将加速优胜劣汰。这双无形之手就是应用。
只有应用,才能把大模型这个算力吞金兽,破解为企业用得起、用得好的生产力工具。
从“百模”到“千行”,也是人工智能+的主战场。近日,在第十届浪潮信息合作伙伴大会IPF上,浪潮信息提出“以应用为导向,以系统为核心”的AI战略,并发布企业大模型开发平台元脑企智EPAI,从系统和全局视角,为大模型落地提供了新的解题思路。
人工智能+时代,谁来缓解“怕错过”的AI焦虑症
“谈到人工智能的发展,现在有一个词叫‘怕错过’,每个人都怕错过,我们的客户也怕错过,所以我们都在加速学习。”
在IPF大会上,作为元脑生态伙伴的中科软董事长左春这样表示。
“怕错过”代表了生成式AI浪潮下企业普遍的焦虑。
今年3月,《连线》杂志创始主编、畅销书作者凯文·凯利在中国的一场演讲中也提到,“你暂时不会被AI替代,但会被更擅长使用AI的人替代。”对于企业更是如此。
尤其在AI应用激增的当下,企业更是只争朝夕,等不起,慢不得。
智能进化论观察,目前在智能客服、智能营销、智能财务审核、投标助手等热门领域,已经涌现出大量同类应用。
一方面,大量的IT服务商、云服务商、ISV企业、SaaS企业都希望尽早开发出AI应用推向市场。另一方面,大模型的产业落地仍面临较高的技术门槛、复杂的开发环节、高昂的试错成本、较长的开发周期等挑战。
目前,大模型底层的算力基础设施日益复杂,同时2/3的大语言模型都选择了开源路线。这既促进了AI产业的繁荣发展,也为AI应用开发带来多元算力、多模算法的挑战,进一步推高了适配难度。
综上,“人工智能+”的卡点在效率和成本。而要解决这些挑战,不是单一产品和平台能做到的,需要借助系统和生态。
如果我们回顾上一轮移动互联网的创新创业浪潮,能够快速试错、不断迭代的精益创业模式大受追捧。在“人工智能+”的时代,这种模式依然有效。
面对大模型落地难的挑战,产业各方都需要一个能够低成本、高效率的应用开发方式,将大模型转化为MVP(最小可行性产品)尽快投向市场。
也就是说,大模型落地需要一个帮助企业由虚入实的平台。正如元脑生态伙伴拓尔思董事长施水才的观点,大模型的落地的重要挑战要解决三个"实",实在,实用,实效。实在是指 AI落地的时候工程化交付非常重要;实用是需要与业务高度相关,需要和用户的业务吻合;实效是需要降本增效。
在这样的产业背景下,浪潮信息推出了企业大模型开发平台元脑企智EPAI。
EPAI,端到端打通大模型落地障碍
EPAI是一个高效、易用、安全的端到端开发平台,提供数据准备、模型训练、知识检索、应用框架等系列工具,支持调度多元算力和多模算法,能够帮助各类企业“多快好省”地开发AI应用。
“生态的快速发展和繁荣需要有一个能够连接、聚集力量的产品,这就是今天我们推出企业大模型开发平台EPAI的思考。我们希望通过EPAI开发平台,为上万家合作伙伴提供工具箱,提供方法论,凝聚并激发生态的活力、伙伴的创新力,加速赋能千行百业的智能化转型。”浪潮信息高级副总裁刘军表示。
智能进化论观察,在帮助企业降低AI应用开发门槛方面,EPAI至少有五大优势:
高效率
EPAI支持Llama、ChatGLM、Baichuan、Qwen、“源”等中外主流开源与闭源大模型的应用快速开发,同时适配CPU、GPU、NPU、TPU在内的多元异构算力,能够实现大模型应用在跨算力平台上的无感迁移。这样企业就可以在多元多模的产业格局下快速试错。同时,EPAI可实现百万Token、千亿参数、领域大模型的高效微调。
高质量
EPAI提供上亿条基础知识数据,同时提供自动化的数据处理工具,帮助企业生成高质量的微调数据和行业/企业知识库。检索增强生成(RAG)技术,通过本地化检索基础知识+行业知识+企业知识,解决大模型知识更新不及时和幻觉等问题。
低成本
EPAI上层模型算法和下层基础设施的逻辑解耦,即便伙伴和客户要更换算力平台或者模型,都非常方便,试错成本极低。同时,EPAI提供API、对话UI、智能体三种使用方式,满足不同技术开发者的需求。
高安全
EPAI通过权限管理、数据加密、内容审查等方式,保护企业数据、模型的安全。在保护用户隐私、符合安全合规的基础上,充分利用数据价值。
全生态
EPAI对元脑伙伴的赋能是全生态的。算法、芯片、数据服务商等左手伙伴,可以将新的技术接入到平台里,为所有生态合作伙伴所用。咨询、ISV、集成商、分销商等右手伙伴,可以在平台上选择各类快速开发工具。
本届IPF大会,浪潮信息还宣布了EPAI种子计划,通过多种举措帮助伙伴提升商用大模型开发能力,计划3年内发展1000家伙伴。
目前,无论是面向企业客户和伙伴,还是浪潮信息自身业务,EPAI都展现出显著的降本增效的效果。
借助EPAI平台,企业和ISV服务商可以极大缩短AI应用开发周期。在浪潮信息内部,基于“源2.0”大模型开发的智能客服、智能编程、智能投标助手等应用已经投入使用。目前,智能编程助手完成超过65%的计算框架相关的代码生成,整体代码采纳率达到了50%。智能投标助手可准确识别85%的招标文件关键信息,秒级提取客户核心需求与招标关键信息。
系统创新+全局优化,让大模型加速奔向产业
行业内,大模型开发平台并不罕见,浪潮EPAI的优势何在?
智能进化论认为,浪潮信息围绕算法、算力、数据、互联四大维度,进行系统创新+全局优化,为EPAI提供了系统化、全局化的支撑。
算法方面,浪潮信息2021年就推出“源”大模型。2023年发布的“源”2.0基础大模型已经全面开源,并在编程、推理、逻辑等方面展示出了先进的能力。
同时,浪潮信息打通多元多模的协同路径,以平台化、全栈化的全局优化理念,通过工具赋能进一步提高大模型应用开发效率。
算力方面,浪潮信息提出“一切算力皆AI”的理念,认为算力的发展不仅仅源于芯片,更源自系统创新。
比如,2023年浪潮信息发布的融合架构3.0,打破了以芯片为核心的单机系统设计思路,是以万卡集群作为设计出发点的、以系统为核心的全新架构。这代表了AI算力基础设施的最新发展趋势。
数据方面,浪潮信息持续构建融合高效、安全可靠的数据存储平台,通过性能、融合、极致多方面的创新承载智能时代应用的数据需求。
互联方面,浪潮信息面向人工智能场景提供超级AI以太网、IB网络等多样化的网络解决方案。本届IPF发布的超级AI以太网交换机“X400”,国内率先支持Spectrum-X平台,相比传统RoCE网络性能提升至1.6倍。
浪潮信息董事长彭震认为,人工智能+既是目标,也是机会。应用创新源自需求驱动,需要算法、算力和数据协同发展,以系统为核心的全局创新已成为推动人工智能高速发展的产业新范式。
结语
Gartner曾在《2024年十大战略技术趋势》中预测,到2026年将有超过80%的企业使用生成式 AI。
丰富的数据和场景、完善的人工智能产业链,是中国发力生成式AI的独特优势。
从“百模”到“千行”的征途中,浪潮信息EPAI将扮演生态枢纽的角色,端到端连接AI与产业,让更多企业、个人共享生成式AI的技术红利。
文中图片来自摄图网
END
本文为「智能进化论」原创作品,
转载此文是出于传递更多信息目的。若来源标注错误或侵犯了您的合法权益,请与本站联系,我们将及时更正、删除、谢谢。
https://www.414w.com/read/382269.html