“AI 教父”杰弗里?辛顿: 超越人类智慧的 AI 可用语言操纵我们

IT之家2024-03-24 15:20:14  99

IT之家3月24日消息,人工智能领域的开创者之一,被誉为“AI教父”的杰弗里?辛顿(GeoffreyHinton)近日接受日本经济新闻采访,讲述了AI与人类的未来。

IT之家注:去年5月,杰弗里?辛顿宣布离开他工作了十年的谷歌公司,原因是他对人工智能技术的发展越来越担忧。

谈到当初从谷歌离职的原因时,辛顿称希望自己离职后能够“自由地传播”自己相信的东西。去年4月,他曾与自己的上司——首席科学家杰夫?迪恩(JeffDean)交谈,自己提出了AI有可能带来事关人类生存危机的看法。迪恩试图挽留辛顿,并提议留在谷歌研究AI的安全对策,但最终被辛顿拒绝。辛顿表示,自己非常尊敬迪恩,“即使不会被明确限制,但若身为谷歌的一员,讲话时也不得不考虑到公司的利益。”

辛顿之所以认为AI有可能威胁人类,是因为若给AI设定目标,作为解决对策,它可能会找出对人类不利的方法。

比方说,假设向AI下达遏制气候变化的指令。AI会意识到为了达到目的而有必要将人类清除,我担心真的会付诸实施的风险。

今后还可能会出现不同的AI相互竞争的局面。例如,如果AI之间发生数据中心等资源的争夺,这将是一个像生物体一样推动进化的过程。面对通过竞争变得更聪明的AI,我们人类将落在后面。

很多人主张,要防止AI失控,只要关掉电源开关就可以。但超越人类智慧的AI可以用语言操纵我们,或许会试图说服我们不要关掉开关。

日本经济新闻提到了OpenAI联创伊尔亚?苏茨克维(IlyaSutskever)在去年曾试图解雇该公司首席执行官(CEO)山姆?阿尔特曼(SamAltman)的话题,辛顿称伊尔亚非常担心AI的危险性。“以前我们都认为数字的智能不会像人类那么优秀,理解语言和复杂的东西或将是很久之后的事情。伊尔亚率先改变了看法,但我并没有马上同意,现在我觉得他是对的。”

半个世纪以来,辛顿一直在培养ChatGPT等聊天机器人背后的核心技术。但是现在,他担心AI会造成严重危害。

转载此文是出于传递更多信息目的。若来源标注错误或侵犯了您的合法权益,请与本站联系,我们将及时更正、删除、谢谢。
https://www.414w.com/read/14509.html
0
随机主题
英超蛋糕冠绝欧洲足坛, 瓜迪奥拉获誉三亿欧元玩家, 利物浦切尔西换帅相煎何急?莱希坠机原因找到了?或离不开这一国,细节罕见公布,局势恐变天张晋50岁生日晒全家福, 俩女儿长成翻版蔡少芬, 儿子烫卷发像爸爸2024新鲜提案·黎里真实影像大会在苏州黎里开幕从“互掐”到“握”手 警律联动化解矛盾纠纷苹果倒在手机AI时代?为陕西省樱桃生长提供专业气象支持 陕西省首家樱桃气象科技小院挂牌成立“我来雄安了! ”全国35家80余位媒体代表走进雄安韩服又一顶尖玩法,连出6把锯齿短匕,每一刀都是真实伤害!2024年, 灵活就业和企退人员同样缴费15年, 谁的养老金更有优势?安理会交锋,中俄决议草案被拦下,现场7对7,名单上都不是善茬解读京东内部大调整, 严抓出勤, 取消微信非工作群等泽连斯基乌克兰总统泽连斯基五周年之际,极力督促北约武器到位!江西南康给佛山下战书, 《人民日报》火速点赞, 这一战有意思了昆明遇到1998年丰田花冠, 卡拉罗前身, 防锈车架, 当年落地30万元申花客胜河南印度美女远嫁中国, 弟弟前来中国祝贺, 直言: 中国人真是尖酸刻薄BG推文《拉上始皇去造反》女帝文,超有野心一门心思造反的女主没想到她居然造的自己亲爹的反,收服的大才是自己的亲爹2.0T, 334马力, 双边四出排气! 轴距超2.8米, 德系豪华操控!12.99万? 奇瑞SUV“杀疯了”, 风云T9实车到店!明天会更好, 尤文多位球员开启续约计划, 门将补强盯上国米青训
最新回复(0)