浪潮信息"源2.0"大模型YuanChat支持英特尔最新商用AI PC

美通社资讯2024-03-27 18:03:00  126

北京2024年3月27日/美通社/--3月26日,浪潮信息与英特尔正式宣布,浪潮信息"源2.0系列基础大模型"已和最新的英特尔?酷睿?Ultra处理器平台完成适配,本地推理速度提升100%。企业可以在全新的英特尔商用客户端AIPC上,使用AIPC大模型效率工具"YuanChat"快速本地化部署和运行"源2.0"大模型,以更快的访问速度、更高的性能和更好的数据安全控制,轻松完成自动编程、商业数据计算、公文写作等任务,释放大模型在企业应用场景中的生产力和创新力。

安全灵活高效,YuanChat基于英特尔?酷睿?Ultra处理器打造商用AIPC效率工具

2024年是"大模型落地应用的元年",AIPC(人工智能个人电脑),作为一种能够在本地运行大模型及AIGC应用的PC终端,已经成为AI实现规模化扩展及应用落地的重要载体。英特尔基于酷睿Ultra处理器强悍的CPU+GPU+NPU三大AI引擎,为商用客户端AIPC提供强劲性能,满足经济、物理、数据保密这三大生成式AIonAIPC法则,可支持200亿规模大语言模型的本地化运行,加速大模型应用落地。

浪潮信息与英特尔合作,针对"源2.0系列基础大模型",实现酷睿UltraAIPC平台推理优化,并推出为AIPC而生的大模型效率工具"YuanChat"。浪潮信息"源2.0系列基础大模型"作为首个全面开源的千亿参数模型,包含1026亿、518亿、21亿等三种参数规模。"YuanChat"是基于"源2.0系列基础大模型"设计的应用工具,旨在以对话形式调用大模型,帮助用户完成数据计算、公文写作、编程设计、知识问答、会议纪要、文本总结与摘要等任务导向型应用,真正实现重塑工作模式,提高生产力水平。

基于酷睿UltraAIPC上所部署的"YuanChat",用户能够流畅地使用"源2.0-2B模型(Yuan2-2B-Februa-hf)"。作为业界最强的小规模语言模型,"源2.0-2B模型"具有领先的自动编程、数值计算和逻辑推理能力,在Python编程测试(Humaneval)、数学计算测试(GSM8K)中展现出超越ChatGPT3.5及其他百亿(>10B)参数模型的评测结果,已成为最具竞争力的开源可商用模型。

在编程方面,"YuanChat"提供强大的自动编程、代码分析、代码优化与测试用例生成能力,支持Python、C++、Java等多种编程语言,每分钟可生成50+行参考代码,10分钟即可开发出小型软件项目;

在数据分析领域,"YuanChat"同样可以完成复杂的数学计算与问题推理,能够满足企业在不同场景下的复杂数据计算需求;

在文本创作领域,"YuanChat"支持十余种公文写作,可协助完成智能问答、会议纪要、文本摘要等高级文本处理任务,这意味着"YuanChat"不仅能够生成标准的公文,还能够理解和处理复杂的文本信息,提取关键信息,大大提高了文本创作的效率和质量。

基于英特尔商用客户端AIPC强大的独立运算能力,"YuanChat"能解决数据传输过程中的延迟问题与泄露风险,能够实现更高的数据安全性、性能和控制权。同时,"YuanChat"支持离线状态下的自主操作,这使得终端用户能够摆脱网络限制,在任何时间、任何地点都能够进行创造性的工作,享受更灵活的大模型交互体验。

在英特尔商用客户端AIPC上,可以基于BigDL-LLM大模型加速库实现对"YuanChat"的模型量化处理,进一步提高模型的可移植性并加快计算速度,减少资源占用,弥合终端有限的算力与对高精度模型和实时智能应用的需求之间的差距。实测数据显示,在处理复杂任务时,"YuanChat"在保证精度的同时,本地推理效率及性能提升达到100%,进一步降低了企业应用大模型的成本。

共建AIPC应用,惠及千行百业智能变革

未来,浪潮信息与英特尔将持续携手构建活跃的AIPC生态。双方将联合基于英特尔?酷睿?Ultra处理器平台进行"源2.0系列基础大模型"的进一步适配与优化,不断完善"YuanChat"应用系统,将大模型和商用平台的生产力、安全性、可管理性和稳定性有机结合,开拓商用AIPC更多的新应用、新场景、新形态,帮助企业用户在PC端打造更加安全、流畅、易用的大模型效率工具,惠及企业提升效率,赋能世界的智能化变革。

转载此文是出于传递更多信息目的。若来源标注错误或侵犯了您的合法权益,请与本站联系,我们将及时更正、删除、谢谢。
https://www.414w.com/read/43180.html
0
随机主题
跌跌不休!“疫苗大王”,没了295亿中国星智擎VS日本双擎, 5月23日东京秋名山燃爆全场!亚特兰大真神了! 7390万卖掉霍伊伦, 2550万淘到宝: 带队夺1冠1亚法国公开和美国对着干,马克龙真的醒悟了三年内迎来第三轮研发收获期 裕太微如何行稳致远辽篮恐剧变! CBA酿变革! 篮协新官宣, 球迷期待, 王芳姚明不安冠军信赖真靠谱 捷途X70 PLUS冠军版正式上市虎牢关时期, 谁能抵挡吕布100招? 仅2人可以, 关羽张飞赵云都不行俄报告显示: 全球机器人安装量50%位于中国空军有歼20, 海军有超级航母, 解放军陆军也终于迎来新型重装备?南海交锋, 外军4打2, 解放军战机遭火控雷达锁定, 现场惊心动魄斗破苍穹: 五位年轻一辈的佼佼者, 萧炎晋升六星斗圣, 萧薰儿第二Sensor Tower: 《Monopoly GO! 》4月蝉联全球手游畅销榜冠军, 《王者荣耀》位列第2名, 米哈游旗下两款手游表现强劲DNF: 新副本传奇页游风, 记录室钥匙千万留好! 每周7次奖励拉满揭秘抗战时期我党如何在老蒋眼皮底下不知不觉中壮大八路军实力。京圈太子爷发展差距?张若昀势头正猛,鹿晗不及从前,陈飞宇一直被力捧65年, 彭总拒绝主席让其复出的提议, 主席: 你先来我这一趟再说他曾担任煤炭工业部部长, 奉命组建神华集团, 留下了宝贵精神财富冈田武史调侃: 浙江队主场氛围非常好, 我执教时为何没这待遇?郭德纲最解气的时刻,用实力撑起了自己的狂妄明天会更好, 尤文多位球员开启续约计划, 门将补强盯上国米青训
最新回复(0)