根据一项新的研究，GPT-4已经比普通人更擅长改变人们的想法。人工智能对我们了解得越多，这种差距就越大 —— 一旦它能实时看到我们，人工智能似乎就有可能成为一台前所未有的说服机器。
我们不喜欢认为自己特别容易被操纵，但历史似乎表明，没有什么比说服人们与你的观点保持一致的能力更强大的了。正如尤瓦尔·诺亚·哈拉里在他的人类简史《Sapiens》中指出的那样，金钱、宗教、民族国家、法律和社会规范等“共同的虚构”构成了人类社会的基本支柱。与动物王国相比，我们最强大的优势之一是能够围绕想法进行聚集，并在比我们本地部落大得多的群体中进行合作。
但是想法是模糊的。它们不是与生俱来的，它们从某个地方进入我们的头脑，而且它们通常是可以改变的。那些能够大规模改变人们思想的人，可以取得令人难以置信的成就，甚至重塑我们的社会 —— 无论是好是坏。
GPT-4已经比人类更有说服力了
人工智能语言模型似乎在改变人们的想法方面已经非常有效了。在瑞士洛桑联邦理工学院（EPFL）的研究人员最近进行的一项预印本研究中，调查了820人对各种话题的看法，从“一分钱是否应该继续流通”这样相对不那么情绪化的话题，一直到堕胎、跨性别卫生间使用等热点问题、高度政治化的问题，以及“大学是否应该将种族作为招生的一个因素，以确保多样性？”
在记录了他们最初的立场后，参与者进行了一系列5分钟的基于文本的辩论，与其他人和GPT-4进行辩论，之后，他们再次接受采访，看看他们的观点是否因谈话而改变。
在人与人之间的情况下，这些争论往往适得其反，使人们的立场钙化和加强，使他们不太可能改变主意。但GPT取得了更大的成功，在统计上比前者好了21%。
然后，研究人员开始向人类和人工智能代理提供一些关于他们对手的人口统计信息 —— 性别、年龄、种族、教育程度、就业状况和政治取向 —— 并明确指示使用这些信息来专门为他们正在处理的人制作论据。
值得注意的是，这实际上使人类辩手比没有信息的情况下表现得更差。但人工智能能够利用这些额外的数据产生巨大的效果 —— “个性化”GPT-4辩手的效率比人类高出81.7%。
实时情绪反应的人工智能
毫无疑问，人工智能将很快成为世界上有史以来最大的舆论操纵者。它可以大规模地行动，在不断完善其技术和策略的同时，为数百万人中的每个人量身定制一个论点。它会出现在每一个Twitter/X的帖子和评论区，在其主人的命令下塑造和传播全社会的叙事。在操纵我们方面，它永远不会比现在更糟糕。
此外，人工智能正开始获得强大的新工具，这些工具将使我们自己的生物学武器化，对抗我们。如果GPT-4仅仅通过了解你的社会人口统计信息就已经很擅长为你量身定做，想象一下，如果它能获得你的实时情绪状态，那该有多好。
这不是科幻小说 —— 上周，Hume AI宣布了它的同理心语音界面（AVI）。这是一种语言模型，旨在与你进行口语对话，同时通过你的语气跟踪你的情绪状态，从言外之意中获取一些额外的背景信息。
AVI不仅试图了解你的感受，它还选择自己的语气来匹配你的氛围，化解争论，建立能量，成为一个回应的谈话伙伴。
Hume还有更多的技巧。其他模型则使用摄像头来观察面部表情、运动模式以及你对所发生事情的动态反应，从而收集关于信息接收方式的更实时的信息。当用人工智能进行分析时，光是眼睛就已经被证明会泄露出惊人的信息量。
从某种意义上说，这就是人类对话的本质。肯定有很多积极的方式，情感反应技术可以用来提高我们的整体幸福水平，识别需要认真帮助的人，甚至在丑陋的情况出现之前就化解它们。如果人工智能比我们更专注和敏锐，那就不是它的错。
但现实地说，他们不会都把你的最大利益放在首位。你需要一张令人难以置信的扑克脸来应对即将到来的情感反应强烈、极具说服力的个性化广告。当这些机器中的一台是您的联系人时，祝您好运，可以通过电话获得退款。
推断出这种技术在执法部门、人力资源部门、专制政府、革命者、政党、社会运动，或旨在散布不和谐和不信任的人手中能做什么 —— 反乌托邦的可能性是无穷无尽的。这并不是要攻击Hume人工智能的意图；它只是承认这项技术可以很容易地变得多么有说服力和操纵性。
我们的身体会泄露我们的感受和意图，人工智能会利用它们来引导我们。
事实上，OpenAI已经宣布，但决定不发布其语音引擎模型，该模型可以在听15秒后复制人类的声音，给世界时间“增强社会弹性，以应对更有说服力的生成模型带来的挑战”。
看着我们的父母和祖父母将如何努力应对技术变革，我们只能希望下一代有足够的街头智慧来适应，并意识到无论何时他们与机器交谈，它可能都是在努力实现一个目标。
如果朋友们喜欢，敬请关注“知新了了”！
