作者丨巴里
编辑丨关雎
图源丨图虫创意
在这波生成式AI掀起的人工智能热潮中,英伟达可谓赚得盆满钵满,成为全球市值最高的半导体芯片企业。
而在边缘AI领域,几个以色列国防军的退役军人正试图挑战它。
4月初,边缘人工智能芯片制造商Hailo宣布C轮扩展轮再获1.2亿美元(约合人民币8.68亿元)融资。本轮投资方包括Zisapel家族、Gil Agmon、Delek Motors、Alfred Akirov、DCLBA、Vasuki、OurCrowd、Talcar、Comasco、Automotive Equipment (AEV)以及Poalim Equity等。
截至目前,Hailo累计融资金额已突破3.4亿美元(约合24.61亿元),公司估值达到12亿美元(约合86.85亿元)。
值得注意的是,来自中国的VC——耀途资本曾在2018年领投其A轮扩展轮。实际上,华为、阿里、腾讯、百度等中国科技企业以及VC早已扎堆涌进以色列。
挑战英伟达、英特尔,以色列退役军人打造又一AI独角兽
与一个月之前刚刚一样,Hailo的创始团队同样出身于以色列国防军(Israeli Defense Forces)。
据悉,Hailo的首席执行官Orr Danon、首席技术官Avi Baum和业务开发副总裁Hadar Zeitlin都是以色列国防军“Talpiot” (塔楼)项目的毕业生。
作为以色列培养网络安全、人工智能等领域拔尖技术人才的关键计划,其进入门槛极高。每年挑选最顶尖的2%的高中毕业生送往大学学习科学和工程,而后在2年的服兵役期间继续在该领域内进行深入学习,所接受的学术培训远远超出世界其他国家普通大学生,甚至比哈佛、耶鲁和牛津、剑桥这样的顶级院校也不遑多让。
也因此,从“塔楼”项目毕业的近三分之二人员成为了以色列顶级学术专家与成功企业的创始人。
其中,Orr Danon获得希伯来大学和特拉维夫大学的物理学学士学位和EE硕士学位,在以色列国防军服役了十年,曾赢得以色列国防奖。Avi Baum则在德州仪器担任过无线连接部门的首席技术官,工作了将近13年。Hadar Zeitlin在服役期间赢得了以色列国防军参谋长的技术卓越奖,之前则是Via Ltd.的第一位产品经理。第四位联合创始人是以色列国防奖获得者——已故上校Rami Feig,他在一场溺水事故中丧生。
Hailo 联合创始人Orr Danon, Hadar Zeitlin and Avi Baum
实际上,Orr Danon之所以想要创建一家边缘AI芯片公司,也正是源于他在实际工作中的真实需求。“在我和Rami Feig合作开发物联网安全解决方案时,‘深度学习’就不断在我们的研究中出现。”
Orr Danon在接受媒体采访时表示,“最终,我们在2017年召集了Avi Baum、Hadar Zeitlin两位精通机器学习、智慧交通领域的老战友,想要开发出一种全新的深度学习解决方案,来解决计算机体系结构老化的缺点,从而使得智能设备在边缘计算运行时更加高效。”
在不到两年的时间里,Hailo就成功地从概念转变为产品,推出了其第一款芯片Hailo-8。Hailo称,该芯片每秒可以执行多达26万亿次的操作,同时体积更小,功率更是低至约2.5瓦,显著优于英伟达对应产品,可应用于自动驾驶、工业机器人等场景。
通常,AI芯片根据部署位置和应用场景可分为云端、边缘端两大类。随着人工智能在智能家居、自动驾驶、智慧安防等IoT领域的快速发展,边缘端的低延迟、高带宽、隐私性等特性日益受到企业的青睐。同时,部分边缘AI芯片在靠近数据源头的网络服务器和网关,能够就近为终端设备提供安全高效的边缘AI服务,从而减轻云端AI的带宽压力。
“例如,智能零售店内需要数百个摄像头,数据必须在本地快速高效地处理,同时保持较低延迟。智慧城市需要大量摄像头和传感器提供相似的输出,否则,改善交通流量等关键城市管理任务将难以实现。”
Orr Danon表示,“包括但不仅限于这些行业,Hailo的AI芯片可以实时处理全分辨率数据流,使相机能够检测更远距离的物体。该处理器还能够在单个设备上处理多个摄像头流,从而使其更具成本效益。”
根据Gartner数据,全球边缘AI芯片市场规模在2022年不到400亿美元,但有望在2025年突破600亿美元。就出货量而言,ABI Research发布的数据显示,2023年全球边缘AI芯片出货预计达13.12亿颗,并预计出货量到2028年将提升至22.86亿颗。
边缘AI的巨大商业价值也吸引来了各方资本。
2018年6月,Hailo完成了A轮1250万美元融资,投资方包括以色列众筹平台 OurCrowd、风险投资基金 Maniv Mobility 以及多位天使投资人。
紧接着,Hailo将融资目标市场扩展到中国内地和香港,来自中国的耀途资本成为了此次融资的领投方。
值得一提的是,2021年10月,Hailo宣布完成1.36亿美元C轮融资,由Poalim Equity和以色列汽车进口商Delek Motors的Gil Agmon领投,这也成为当时边缘AI芯片领域内规模最大的单轮融资。也凭借着该轮融资,让Hailo一举成为独角兽公司。
如今,据睿兽分析,Hailo已累计融资6轮,累计融资金额已突破3.4亿美元,公司估值达到12亿美元。在众多投资方中,也不乏工业机器人巨头ABB Technology Ventures、日本电子巨头NEC Corporation等知名产业资本的身影。
首发AI加速器Hailo-10,比友商功耗减半性能提升2倍
在宣布新一轮融资的同时,Hailo还推出了全新的Hailo-10高性能生成式AI加速器。这款加速器的创新之处就在于:用户无需注册任何基于云端的生成式AI服务,便能在本地轻松拥有并运行生成式AI应用,享受更为高效便捷的AI体验。
具体来说,在边缘设备上启用生成式AI,可确保用户随时访问生成式AI服务,无需担心网络连接限制。同时,它还能有效消除网络延迟问题。此外,生成式AI在边缘设备上的运行还能更好地保护用户隐私,因为个人信息在处理过程中始终保持匿名状态。最后,减少对云数据中心庞大处理能力的依赖,也有助于提高整体的可持续性。
Danon阐述道,“随着边缘生成式AI的不断发展,我们的重点已经转向在极低功耗范围内处理大型大语言模型(LLM),基本上可以控制在5w以下。”
在当下热门的生成式AI平台中,Hailo-10的性能尤其突出。
据悉,它能够在功耗低于5W的情况下,以每秒生成10 个token(TPS)的速度流畅运行Llama2-7B模型。同时,在处理Stable Diffusion 2.1模型(该模型可根据文本提示生成图像)时,Hailo-10同样在超低功耗范围内实现了每张图像评级低于5秒的优秀表现。
Hailo-10的性能高达每秒40万亿次(TOPS)。根据最新公布的基准测试数据,Hailo-10在性能上超越了集成神经处理单元(NPU)解决方案,同时在功耗方面表现更为出色。与Intel的Core Ultra NPU相比,Hailo-10在保持功耗减半的同时,实现了至少2倍的性能提升。
值得注意的是,英伟达的Jetson系列模块也可以处理边缘AI工作负载,性能可达275 TOPS。然而,这也会增加功耗。因此,英伟达推出了一款面向入门级边缘AI应用的可比产品,名为Jetson Orin Nano,它提供高达40 TOPS的AI性能,并提供5W至15W的功耗选项。
在商业化上,Hailo-10生成式AI加速器的初步应用将瞄准个人PC和汽车信息娱乐系统,以取代性能不足的上一代CPU。
Danon总结道:“无论用户是要用生成式AI进行实时翻译、自动生成总结,还是编写软件代码、文生图、文生视频,Hailo-10都能让他们在自己的电脑或其他边缘设备上直接完成,既不会给CPU带来额外负担,也不会过快的消耗电量。”
成立以来,Hailo已经成功服务于全球300多家客户,涵盖计算、汽车、安全、工业4.0、零售、医疗等多个领域。其中包括NEC、博世、施耐德电气、戴尔、ABB和富士康等大型企业。
不得不发展高精尖的以色列,中国资本早已扎堆涌进
值得注意的是,在Hailo的众多投资方中,有来自中国的VC——耀途资本。
事实上,以色列的技术创新在全球领先:人均研发支出占GDP的份额世界第一,科技人员或工程师占总人口的比例世界第一。这些创业公司重要的发明成果多在可再生能源、水科技、健康、农业和食品领域,有些相关的发明改变了世界,例如数字和3D打印技术、胶囊胃镜、滴灌技术等。这些也已经被中国资本所关注。
近年来,任正非、马云、杨元庆、周鸿祎等企业大佬纷纷前往以色列考察创业项目。
2018年,67岁的王石前往以色列希伯来大学,进行为期两年的犹太文化研究和希伯来文学习。
同时也掀起了一股中国科技企业和投资机构去以色列“海淘”初创企业的热潮。很早之前,复星集团、百度、小米、360等中国公司就已经在以色列收购或投资公司。
华为在2016年分别以 4200 万美元、1.5亿美元收购了2家成立于2009年的以色列技术创新公司HexaTier、Toganetworks。
相比其他大厂,阿里在以色列的投资更加活跃。
早在2015年,阿里以700万美元投资了以色列的智能手机双摄像头制造公司CorePhotonics;
在2019年,阿里收购了AR/智慧眼镜研发企业Infinity Augmented Reality,收购后InfinityAR加入阿里巴巴的以色列机器视觉实验室。
2022年,以色列的企业Optibus,完成金额1亿美元的D轮融资,腾讯出现在投资者名单上。
这轮融资使Optibus的累计融资总额达到2.6亿美元,估值13亿美元,成为第一家公共交通领域的独角兽公司。
巧合的是,2018年,Optibus在Insight Venture Partners牵头的一轮私人融资中筹集资金4000万美元,阿里巴巴也参与了此轮融资。
这家以色列公司,同时获得了腾讯、阿里的青睐。
百度在以色列布局也很早,在2014年便投资了自动视频捕捉生成的技术公司Pixellot。2015 年投资了音乐教育评估软件公司Tonara,可以通过软件识别出演奏者和乐谱差异。
不仅中国的科技企业热衷于投资以色列初创公司,中国VC也同样如此。
例如,白宗义、杨光曾在以色列投资机构英飞尼迪资本任职,其创立的耀途资本就专注于中国和以色列高科技领域ToB项目的投资。
此前,以色列自动驾驶远程操作平台运营商Ottopia也获得了耀途资本的天使轮融资,并在后续轮获得了现代汽车的加持。耀途2017年在以色列投资的激光雷达厂商Innoviz(INVZ)也收获了多家中国资本的青睐,包括招商局资本、深创投、联新资本、高榕资本等,并于2022年初在纳斯达克上市。
而另一家耀途2017年在以色列投资的4D毫米波雷达厂商Vayyar,也已经完成由Koch Disruptive Technologies (KDT) 领投的1.08 亿美元E轮融资,成为独角兽。加上之前融资的1.88亿,公司的总融资额接近3亿美元。
以色列之所以能发展成为全球创新的策源地之一,与其地缘环境、教育制度等密切相关。
在19世纪末的犹太复国主义运动中建立起来的以色列,虽然地处宗教形势复杂,军事冲突不断的中东,仅有900多万人口,但却成为全球创业公司最为集中的地区,拥有超过7000家创新科技公司。
也由于周围都是敌对的国家,做一些低附加值的东西,本土和周边阿拉伯国家都没有市场。因此,以色列不得不很早就发展高精尖科技。
耀途资本创始合伙人杨光表示,“只有壁垒很高,领先同行一两年,才可以把技术、产品卖到全球。因此,以色列人创业会选择比较长远、技术壁垒比较高、非常具有前瞻性方向的项目。”
这也是中国资本热衷于投资以色列项目的重要原因。