俄罗斯瓦尔代国际辩论俱乐部第21届年会于当地时间11月4日至7日在俄南部城市索契举办。
7日，俄罗斯总统普京出席全体会议并发表讲话，随后与来自50多国的官员和智库、大学代表进行讨论对话，并接受现场提问。
观察者网全文翻译讨论环节的内容。稍早前已发布普京在瓦尔代第21届年会上的演讲。
[翻译/薛凯桓]
费奥多尔·卢基扬诺夫（以下简称卢基扬诺夫）：总统先生，感谢您如此全面且多维度地描绘世界，并阐述俄罗斯的见解。尤其令我们感到欣慰的是，您去年也是在这个平台上提出了基本原则，今天又对其进行了详细阐述。
我认为，这看起来越来越像是一种学说。我们并不奢望您以瓦尔代俱乐部的名字来命名它，但我很高兴它在这里诞生。
总统先生，我们在第21次会议上已经讨论过您今天所提及的许多问题。也许我们大家也都想跟您分享一些我们的想法，当然，并非所有会议上的观点都会提及，因为实在太多了。但我们会重点讲述一些讨论过的观点，其中有一些您已经提到了。
请您允许我们俱乐部的长期成员兼您非常熟悉的同僚鲁斯兰·尤努索夫（RuslanYunusov）发言。他出席了我们关于人工智能的专题会议，这是一个备受瞩目的话题。
鲁斯兰·尤努索夫：总统先生，晚上好。
确实，我们今天讨论的问题之一就是您刚刚提及的人工智能。我们在会议上设置了一个单独的环节，叫做“人工智能——革命还是时尚潮流？”。
在向您介绍该环节的成果之前，我想先提一下今年的一个独特事件，即人工智能领域的成就获得了两项诺贝尔奖，分别在物理学和化学领域，这在以前是从未有过的。这是否意味着我们正在见证一场人工智能革命？我会倾向于说“是”，而非“否”，尽管诺贝尔奖委员会的决策往往也受时尚潮流的影响。
2024年诺贝尔物理学奖和化学奖均出现在人工智能领域新华社
关于我们讨论的主题，我想强调一些过去讨论过的方面。
我们首先关注的是许多人担忧的一个问题：人工智能是否会取代人类，尤其是在需要创造性思维的领域，如科学和艺术？
当今科学界的现状是怎样的？人工智能确实已经在科学进程中发挥了作用，许多成就都是在人工智能的帮助下取得的。同时，我们也看到，人类并未被排除在科学进程之外，相反，这个进程被加速了，对年轻有为科学家的需求也增加了。因此，我们并不认为存在这样的风险（人工智能取代人类）。我们还讨论了人工智能经济的其他方面，在2020年新冠疫情期间，我们认为全球经济复苏将主要由人工智能等驱动力来保障。
我们探讨了这些预测是否成真。确实，人工智能正在进入经济领域，渗透到各个经济部门。但如果我们看看数据，就会发现我们之前的乐观预期并未实现。目前的结果比我们预期的要保守得多。而且，这些预期并未减弱，我们看到投资泡沫正在形成，这可能会对未来产生负面的经济影响。不过，作为一种技术，人工智能很可能会继续发展，并成为经济的基础。
我们还讨论了安全相关的问题。如今，不容忽视的是，恐怖组织和极端组织正在广泛利用人工智能技术进行招募和更广泛的宣传活动。虚假新闻和视频已成为此类组织武器库中的标准工具。相反，人工智能也能被用于反恐和反极端主义行动中，它有助于在社会中识别这些极端分子。此外，它还能影响那些心存疑虑的人，引导他们远离危险的道路，从而防止他们陷入极端主义。这同样被证明是有效的。
当我们探讨平衡问题时，无论是积极面多于消极面，还是反之，似乎人工智能在安全领域仍展现出更多积极的发展态势，而我希望这种平衡能继续向积极方向发展。当然，在瓦尔代论坛上，我们不可避免地要讨论人工智能的政治议题。有研究表明，研究人员在开发人工智能基础模型、生成模型时，会测试其政治观点。结果表明，人工智能并非中立，其政治观点严重偏向左翼自由主义，且在很大程度上受到模型创建者观点的影响。
此外，过去几年里，人工智能的训练更多地依赖于合成数据，而非真实世界的素材，这也加剧了模型观点的极端化。在接下来的几年里，我们将迎来首批在工作中、教学中运用人工智能的大学毕业生。以往，学生们撰写论文时会查阅原始资料、理解消化后再进行创作。而现在，只需向人工智能提出需求，就能迅速得到结果。显然，教育质量会因此下降。但更危险的是，人工智能在潜移默化中影响着年轻人的世界观，向他们灌输意识形态。而且，这种意识形态在很大程度上并非源自本国，而是来自国外甚至海外。
最后，我们当然已经意识到有必要加强对人工智能的监管控制，但如果仅凭禁止性措施，似乎难以达成目标。相反，我们应当支持和发展国内的人工智能技术。
如今，我们已打下坚实基础，并取得了巨大进步，这是值得庆幸的，我们需要保持这一势头。这或将成为我们在这一领域技术自主权的基石。值得一提的是，俄罗斯是全球拥有完整信息技术储备的三个国家之一，这确实是主权的基础。
我们的外国客人指出，如今一些国家已经对人工智能技术的使用实施了限制，甚至是全面禁止。而对于俄罗斯来说，这更多地是一个机遇。我们可以作为技术领导者，通过向合作伙伴国家出口人工智能技术来展现自身实力。
我的简短报告到此结束，非常感谢大家。
弗拉基米尔·普京（以下简称普京）：如果可以的话，我也想说几句。
首先，人工智能无疑是一个极其重要的发展工具。我们已将人工智能的发展列为优先事项，当然，主要是在经济领域以及其他领域，包括大数据的应用等。我们正面临严重的人力短缺问题，而失业率却极低，仅为2.4%，我们面临人力资源匮乏的现状。未来，我们认为，这些经济问题可以通过开发尖端技术来解决，而在这一过程中，我们将优先使用人工智能技术。
那么，利是否大于弊呢？就比如核能技术的发展是利大于弊，还是弊大于利？民用核技术在医学、农业和交通领域发挥着巨大且极其重要的作用，并且其作用还将继续增强。我坚信，在应对气候变化问题的背景下，这一点将尤为重要。同时，还有核武器的问题，这对人类构成了重大威胁。
人工智能技术也同样如此。如何对其进行监管，人们又该如何使用它们？这是个好问题。当然，很多国家都在对此进行监管。正如你们所说，有些国家禁止其发展。但我认为，这是无法禁止的。无论如何，人工智能最终都会发展起来，尤其是在竞争日益加剧的背景下。我这里说的不是武装对抗，而是整体的经济竞争在加剧。在竞争激烈的态势下，人工智能必然会继续发展。在这方面，考虑到我们自身的某些优势，我们当然能够跻身前列。
主权是一个极其重要的因素。当然，这些平台大多是在国外创建的，它们塑造着人们的世界观，这无可厚非。我们应该认识到这一点，并扩大我们自主的人工智能网络。当然，我们需要利用一切可用资源，但我们也必须发展自身的特色。
俄罗斯储蓄银行和Yandex公司都在积极投身这一领域，并且总体上，它们的工作取得了相当不错的成绩。我们肯定会继续努力，这一点毋庸置疑，尤其是当人工智能开始自我迭代时，这既令人着迷，又极具发展前景。
然而，这也存在一些潜在的风险。我们必须认识和了解这些风险，并据此调整我们的工作。如我所说，这是我们的重点关注领域之一。这里所说的“我们”，是指国家、行业专家以及整个社会，因为人工智能技术的发展不可避免地会引发许多需要我们充分关注的道德和伦理问题。
你们提到了会使青年形成极端观念的风险等问题。确实，我们必须通过对国内和国际事件提出自己的观点和世界观来应对这些风险。这是我们将共同面对的问题。
感谢你们提出这个问题。
鲁斯兰·尤努索夫：非常感谢。我们将继续分析这一领域的发展情况。确实，俄罗斯的人工智能应该基于俄罗斯的数据进行训练，以最终反映我们的文化。
普京：没错，我们显然有能力做到这一点。我相信我们会成功，这将为我们的发展提供强有力的支持，并给我们带来巨大的利益，谢谢。
卢基扬诺夫：总统先生，当我们拥有自主的人工智能时，它能否为我们提供21世纪的俄罗斯理念？
普京：它只能帮助我们应对我们所面临的挑战，而我们如何定义这些挑战则至关重要。
鉴于人工智能处理的是大数据，我们拥有所有必要的资源：智力和技术能力，以及丰富的免费能源。我们有很多可以合作的地方，包括解决您提到的深刻的哲学和根本性问题。
我们需要利用我们掌握的所有资源。我们是否信任基于现代原则（其中包括使用人工智能）的研究结果，这取决于我们自己。
卢基扬诺夫：谢谢，我们还讨论了一个相关话题。人工智能与数字化是相辅相成的，与当前正在发生的一切信息问题紧密相关，而这一领域确实仍存在许多问题，既有积极的也有消极的。
我们的印度同僚阿尔文德·古普塔也参与了这场会议。请继续。
阿尔文德·古普塔：谢谢。
总统先生，我叫阿尔文德·古普塔，来自印度。我致力于技术与社会的交叉领域研究，为大规模的人口问题构建数字公共基础设施。
总统先生，您已经谈到了我的同僚鲁斯兰关于人工智能的一些问题，感谢您听取我们的总结。我们的专家小组讨论了与人工智能相关的一个问题，我最后会提到，即信息的操纵、监控、技术和数据的使用，以及当今所有技术系统中缺乏透明度的问题。
您知道，我们的小组讨论了互联网的初始设计问题，互联网大约在40到45年前被设计为全球公共产品。但不幸的是，现在它像许多其他事物一样，变得非常单极。它由少数几家大型科技公司控制，这些公司有着自己的意识形态倾向。其中一些平台或大型科技公司因其操纵和监控行为，在印度、俄罗斯、印度尼西亚等许多国家被禁止运营。
我们讨论的第二个问题是算法。这也是我们在之前的人工智能会议上讨论过的，算法确实定义了我们的思维方式。人工智能如今已成为一个新的流行词，但算法已经存在很长时间了。它们真正定义了我们的思考方式、消费方式以及选举政府的方式。我们所有人都同意一点，即算法会倾向于某种意识形态，并且绝对不是中立的。因此，算法本身是有偏见的。
我们的小组还讨论了信息和数据的武器化问题。这与有偏见的技术平台相结合，赋予了某些国家巨大的权力，并影响着国家安全、民主和公共秩序。
您知道，这是西方技术平台的运行模式，但印度在担任G20主席国期间提出了一种替代西方技术平台的模式。这是一个考虑到社会的平台，是一个自下而上的、围绕身份构建的平台，是一个通用身份系统和通用支付系统。印度有超过10亿人使用它，还有20多个国家也在使用。这展示了印度如何创造了一种不同于当今西方的技术愿景。
总统先生，我必须赞扬俄罗斯在短时间内成功使Mir支付系统（俄罗斯中央银行建立的俄罗斯电子转账卡支付系统）在俄罗斯取得了巨大成功。这也展示了刚才提到的技术主权的力量，只要有意愿，就可以做到。
您刚才讨论的问题，我指的是技术进步与这种有偏见的技术和技术平台，以及正迎面而来的人工智能时代的非中立性质，鉴于当今时代由少数几家公司控制互联网的现状，我们如何确保在这个人工智能时代，我们的文化、社会和国家利益将得到保护？从一开始，我们需要建立什么样的护栏来确保人工智能是公平且负责任的？我们如何确保志同道合的国家共同努力，防止人工智能被武器化？
最后，总统先生，我们想听听您对于建立新闻、技术、信息的信任机制的看法。这是小组讨论中最具决定性的事情之一，我们期待听到您的观点。
非常感谢。
普京：当然，这是一个非常重要的话题，与前面关于人工智能及其使用和发展的问题相似。这里我想讲几个方面。
首先，互联网的使用应该基于主权算法，我们必须为此而努力。
其次，对我们国家来说，禁止一切是很难的。虽然可以做到，但部分情况下会产生反效果。在俄罗斯，专业社区得出结论，有必要制定互联网上的行为规则，并自主采取一定的自我约束措施，特别是可能对整个社会，尤其是儿童产生破坏性影响相关的自我约束。在我看来，这是确保大多数人和整个社会利益的一种方式。当然，互联网必须遵守该领域工作所在国家的国内法律，这是显而易见的。
我们都看到了信息操纵现象，很不幸，这一现象正在发生蔓延。但是，让我重复一遍：如果互联网的活动受到国内法律的约束，那么我们就能够将可能的负面后果最小化。我理解，在实施这一切时存在技术局限和技术困难。但是，如果我们与专业社区共同努力，专业社区能够看到可能对整个社会构成的威胁，并专业地致力于压制这些威胁，那么国家将全力支持这些努力。
对于像印度和俄罗斯这样的国家来说，这个问题是完全可以解决的，因为我们拥有非常优秀的专家、出色的数学学校。而且有些人自己就是领导者，这与他们的公司无关，他们本人就是这个领域的领导者。我们拥有为此所需的所有资源。我再次重复，对于印度或俄罗斯这样的国家来说，这不是问题。
至于Mir支付系统来说，这可以被视为是一种成功。它运行良好，可靠，如果没有人为设置的障碍阻碍其运营，它将在更多国家运行得更好。但即使存在这些障碍，它也在发展，我们将复刻这种成功案例。
在我看来，互联网已经变成了人类永恒的话题。你说它是为了人类的利益而创造的，其实不然，它当然是为了其他目的而创造的，但在某个时刻，它被创造出来的预期目的发生了根本性的变化。互联网上的活动，就像任何人类活动一样，必须遵守该系统所在国家的道德、伦理规则和法律。
我再次重复：从技术上来说，这并不总是容易做到的，但我们当然应该努力去实现。社会必须保护自己免受破坏性影响，但它应该尽一切努力确保信息交换是自由的，并且有利于特定国家乃至整个国际社会的发展。我们俄罗斯将为此而努力。我知道印度也在走同样的道路，我们将很高兴在这一领域与你们合作。
感谢你们对此的关注。另一方面，（我们）不可能不关注这个问题，也不可能不参与这项工作，祝你们一切顺利。
