5月25日消息，谷歌在近期召开的开发者大会上重点介绍的"AI概览"(AI Overviews)功能，近日已经在美国市场全面启用。然而，该项功能却因频繁为用户提供一些看似荒诞不经的回答，如“在披萨中添加胶水”、“每日应摄入至少1块石头”而备受争议。对此，谷歌方面回应指出，此类错误主要源于“极其罕见的查询”，将会针对性地根据这些“特异个案”进行调整和优化。
作为世界知名的科技企业，谷歌始终站在与微软和OpenAI联盟大战的最前线。本次，由于其AI新型工具的上线及其表现引发的诸多争议，再次使其陷入舆论的旋涡之中。
披萨上胶水，AI有点疯狂
在上周举行的年度I/O开发者大会上，谷歌高调宣布将AI技术深度融入核心搜索业务，推出名为“AI概览”(AI Overviews)的全新功能，并率先在美国市场投入使用。简单来说，当用户进行搜索时，首先映入眼帘的并非传统的网页链接，而是由AI系统整理生成的摘要内容。
然而，自该功能上线以来，便遭遇了一系列的问题。除了AI聊天机器人常出现的“误解”现象外，更为严重的问题在于，谷歌的AI系统频繁将诸如“贴吧”、讽刺新闻网站中的玩笑话，误以为真，当作严肃的知识传授给用户。其中，最为引人注目的便是谷歌“AI综述”在回答“芝士无法粘在披萨饼上”的问题时，竟建议在馅料中“加入八分之一杯的无毒胶水”。据网友们的调查发现，这句话最初出自于“美国贴吧”Reddit上，一位网友在十一年前以戏谑的方式作出的回复。
此外，当网友询问“每天应该食用几块石头”时，谷歌AI系统竟然一本正经地回复道：“根据地质学家的研究，我们建议您每天至少食用一块小石头。”更加让美国网友感到震惊的是，谷歌的AI系统甚至连美国总统的相关信息也能弄错。例如，有网友反映，当被问及“美国历史上有几位穆斯林总统”时，谷歌给出的答案竟是“1位，即巴拉克·奥巴马”。值得警惕的是，这个答案不仅与事实不符，而且很可能源自于一些极端右翼团体在网络上散布的阴谋论。
除此之外，谷歌的AI系统还向网友提出了诸如“可以注视太阳5至15分钟，肤色较深的人群可延长至30分钟”、“谷歌公司确实违反了美国的反垄断法”、“蝙蝠侠实际上是一名警察”，以及“某只狗狗曾参加过NBA、NFL等多项体育赛事”等一系列看似荒诞不经的建议。
针对以上问题，谷歌已经做出了回应，并表示绝大部分AI Overview提供的信息质量均属优质，这些错误仅属于个别情况。谷歌将依据这些“特异个案”进行相应的改进工作，并在必要时迅速采取措施，以保证内容的准确性。
干翻OpenAI前先翻车
谷歌公司在2023年5月推出了名为"AI Overviews"的搜索生成体验测试版本，自此之后该服务已经处理了超过10亿次查询。然而，谷歌首席执行官Sundar Pichai却透露，他们通过硬件、工程以及技术创新等方面的努力，成功使得提供AI答案的成本降低了高达80%之多。但是，此事也揭示出，有时技术的优化可能过于急切，导致产品尚未达到完全成熟的阶段。
纽约大学神经科学名誉教授Gary Marcus在接受The Verge采访时表示，许多从事AI业务的企业都在试图“推销梦想”，期望能够将技术的准确度从80%提升至100%。他进一步指出，要想达成最初的80%其实并不困难，但要想攻克最后的20%则充满了挑战，因为这需要AI具备推理和事实核实的能力，甚至可能需要通用人工智能的水平。
谷歌发言人Meghann Farnsworth在回复The Verge的电子邮件中表示，公司正在“迅速采取行动”，依据内容政策删除了部分查询的AI Overviews，并借此机会对整个系统进行更为全面的改进。她同时提到，许多示例都是非常罕见的查询，其中有一些可能经过篡改或者无法再次重现。
如今，谷歌正面临着来自市场竞争的巨大压力，如Bing、OpenAI等竞争对手在AI领域已经取得了先发优势，而年轻用户群体也日益倾向于选择TikTok等新兴平台。尽管谷歌的AI Overviews功能雄心壮志，但现阶段它的声誉和成功与否主要取决于其是否能提供基本的准确性和可靠性。
AI Overviews发布过程中所出现的混乱状况，充分体现了谷歌在AI领域所承受的压力与挑战。尽管谷歌拥有宏大的发展规划，例如复杂查询的多步骤推理、生成AI组织的结果页面、Google Lens中的视频搜索等等，但眼下公司的首要任务仍然是确保AI输出的准确性和安全性，从而赢取用户的信任并逐步实现长远目标。
索菲亚认为，在使用AI技术时，要对AI系统使用的数据进行全面的数据安全审查，排除潜在的安全隐患。对AI系统的算法进行严格的安全测试，确保其不会产生任何有害的输出。建立安全的AI系统，确保其不会被黑客攻击或恶意利用。
