国庆长假本是人们放松休闲的好时机，但部分网友却利用AI技术制造了一个不同寻常的“节日氛围”。他们通过克隆雷军的声音吐槽不文明行为或者表达对他人的不满，甚至出现了诸如要捐款给特定大学、用虚构的小米SU7车型撞人以及远程控制手机爆炸等极端内容。这些视频在社交媒体上广泛传播，不少用户表示自己“被AI雷军追着骂了一个假期”。
10月7日晚间，有网友在雷军的社交媒体留言问“雷总，最近你怎么在骂人？”雷军回应三个发怒的表情。
AI克隆声音技术的出现，无疑为内容创作和娱乐产业带来了新的可能性。通过机器学习算法，AI能够分析并模仿特定人物的声音特征，生成高度逼真的语音内容。同时，在现代社会文化中，恶搞文化有一定的存在空间。适度的恶搞可以是一种幽默、一种对社会现象的别样解读。
然而，此次AI配音恶搞雷军事件中，部分内容已经越过了社会可接受的道德和文化界限。例如涉及暴力威胁、恶意辱骂等内容，这与积极健康的社会文化背道而驰。
从法律角度来看，未经雷军本人同意，使用AI技术合成其声音进行恶搞，可能侵犯了雷军的肖像权、声音权和名誉权。如果这些行为对雷军的形象造成了损害，那么恶搞者可能需要承担侵权责任，包括停止侵权、赔礼道歉、恢复名誉、赔偿损失等。更严重的是，如果这些内容造成了谣言的产生和社会影响，恶搞者可能还会面临违反治安管理处罚法甚至刑法的风险，可能会被拘留罚款，甚至坐牢。
这种现象也引起了人们对AI技术滥用的担忧。随着AI技术的发展，造假视频和语音的难度越来越低，这导致网络上出现了大量难以辨别真伪的内容。如果这类视频泛滥，将严重影响网络内容的真实性和可信度，对平台的内容质量和用户体验造成损害。
此外，对于雷军本人来说，这种恶搞行为无疑是对其个人形象的侵犯。雷军作为小米公司的创始人，他的形象与公司品牌紧密相关。这些恶搞视频可能会对小米的商誉造成负面影响，从而影响到公司的市场表现。
对于视频平台而言，他们有责任和义务对这类内容进行监管。平台应该加强对AI生成内容的审核，防止侵权和不实信息的传播，维护健康的网络环境。
面对此次风波，各大平台纷纷采取行动，开始逐步下架涉事视频，并加强对用户上传内容的审核力度。同时，这也促使业界思考如何更好地规范AI技术的应用范围，避免类似问题再度发生。例如，加强技术研发过程中的道德教育；建立健全数据保护机制，确保个人信息不被滥用；完善相关政策法规，为新兴科技划定清晰界限。
本文源自：金融界
