清明节AI复活亲人成热门生意, 商家称最高一天有上百个订单, 专家:应加强行业监管

九派新闻2024-04-05 13:10:34  171

4月4日,“清明节前AI复活亲人生意火热”的话题登上热搜,引发热议。所谓“复活”就是基于照片、音频等历史数据,利用AI技术重现已逝人物的神情、声音、行为等。

“AI复活”仿佛是一个潘多拉魔盒,此前有人利用此技术“复活”已故公众人物李玟、乔任梁、高以翔等人,并在网络上发布动态视频引发争议。他们的亲属纷纷发声表示受到情感伤害。

九派新闻发现,在电商平台上许多商家正在做着“AI复活”的生意,这些商品的定价不等,标价从几元、几十元,到上百元,乃至数千元的都有,所提供的产品也参差不齐。甚至有人为了赚快钱,只是简单的让照片动起来。

在某平台上,还有商家趁势推出“AI复活师”的教学套餐和代理服务,有意将单一的生意打造成一条完整的产业链。

流浪地球影片当中的图恒宇和丫丫。图/流浪地球官方

[1]有客户激动得热泪盈眶

林志今年30岁,是“校友说AI生命”的创始人,从去年4月开始涉足AI人像模拟训练、声音克隆等业务,是国内较早推出AI复刻产品的团队。

4月3日,九派新闻联系林志,他表示临近清明节,“AI复活”去世亲人的业务愈发火爆,最高的一天有上百个订单,日收入有两三万元。他介绍,以前技术不成熟,团队每接一个订单需耗费大量时间,所以收费为1000元至1万元不等。

“从去年底开始,就降到一个普惠版本,价格为298元。”对于市面上定价10元以内的“AI复活”商家,林志称这种服务只能让人物的嘴动起来,单次成本低。而他所交付的产品,不仅能够拥有逝者的形象和声音,并且可以实时互动聊天。

制作方只需提供清晰的照片、录音,和一小段文字,可以描述对方信息、喜好、生平。将以上材料交给算法后,会生成一个小程序。“拿着设置好的密码,像打开自家门一样,就能跟复刻的人物随时聊天。”

林志回忆最初接触“AI复活”,是在2019年,将因病去世的姥爷形象转化为数字生命。当从屏幕中见到“姥爷”的那一刻,他很欣喜,觉得还能跟姥爷说说话。但之后,他便从神态和语气中看出了“浓厚的AI味”,让其无法沉浸,“感觉缺乏了姥爷的灵魂。”

2022年,随着AI大模型的构建,人工智能领域的快速发展,愈来愈多人嗅到AI复刻业务的商机。当时,林志周围有亲戚、老师相继离世,令其感触很深,他认为通过数字化能够将人过去的思想、故事、经验复刻,于是也投身其中。

最初,来咨询的顾客基本为“复活”去世亲人,以此达到精神慰藉。他记得,有些客户看见去世亲人以数字化的方式出现后,激动得热泪盈眶,会感谢林志。但也有些客户认为AI复刻的人物不像亲人,始终无法沉浸对话。

林志认为,现在还达不到完全复刻的标准,因为AI形象的效果,不管是声音、动态效果还是外貌,都距离完美的人机难辨差得很远。

如今,也有一些客户通过AI建立数字分身,在网络创设自己的虚拟形象。运用在不同的交互场景时,会有不同的效果。“例如,有个作家找我们做数字分身,读者扫一下书上的二维码,就能跟作家进行对话。”他说。

他告诉九派新闻,“AI复活”业务越发火热,但乱象也频频出现。曾经有几名前来咨询的客户,就连逝者的基本信息、相关生平、人际关系和重大事件都不清楚,于是他们果断拒绝这种订单。“之后,我们肯定是要核实委托者是否为直系亲属,并且会签订电子合同,规避法律风险。”

对于林志的团队而言,目前遇到最大的难题为方言克隆、客户提供的录音噪音、实时互动思想难以完全复刻。但他对团队的发展和AI复刻行业很乐观,他认为随着技术进步,“AI复活”的概念还会持续升级。

“未来数字人会越来越像现实中的人,不管是点头、摇头、眨眼、动嘴,还可能手舞足蹈,有常见的一些习惯,最核心的就是灵魂。”他说。

[2]“AI复活”应严格审核买家

上海大学法学院教授陈敬根认为,“AI复活”存在诈骗的隐患,未来大量AI生成的虚假信息可能引发社会负面情绪,导致信任危机。为防止“次生灾害”的发生,需要系统化、体系化的应对方式。

一方面,要加快AI领域的立法;另一方面,也应该看到,画出底线和红线的“硬法”固然不可缺位,但为了弥补立法的滞后性,在人工智能等新兴领域,当前应提倡设立更多的“软法”,即通过行业协会、团体组织等自发制定的规则,产生集体约束力,由此在法律底线之上起到行业监管的作用。

AI工作室。图/平台截图

此外,“AI复活”同样面临法律的审视。

河南泽槿律师事务所主任付建在接受九派新闻采访时表示,“AI复活”可能会侵犯逝者的隐私权和肖像权。

根据《民法典》第九百九十四条规定,死者的姓名、肖像、名誉、荣誉、隐私、遗体等受到侵害的,其配偶、子女、父母有权依法请求行为人承担民事责任;死者没有配偶、子女且父母已经死亡的,其他近亲属有权依法请求行为人承担民事责任。

因此,逝者的肖像、名誉、隐私等仍受法律保护,如果没有经过逝者亲属等许可的情况下,擅自使用AI技术“复活”逝者,并通过视频等方式传播确有侵权的嫌疑。

如果商家审核不当或恶意泄露,那将承担法律风险,同时会对逝者亲属带来难以弥补的精神伤害。如果买家并非逝者的亲属或拥有合法授权,而商家也未尽到审核义务便利用AI技术为买家提供服务,那么他们的行为构成民事侵权,需承担民事责任。

对于商家而言,要想规避法律风险,必须严格尽到审慎义务。在服务前应当要求买家提供身份证明、授权证明,确保对方拥有合法依据,同时制定完善细备的合同协议,对双方权利义务和违约责任进行约定;在制作时,应遵循合同条款和法律规定,保护好个人信息,不得泄露;在服务后,应设置举报投诉通道,一旦有违规行为,立刻采取补救措施。

他提醒,需尽快制定相关的法律法规,建立一个监管框架,明确产业参与者的权利和义务,包括数据收集、处理、使用和保护的规定,以及对AI模拟亲人的行为和责任的界定。同时建立伦理审查机制,确保AI数字复活亲人产业的发展符合伦理标准,不侵犯人类尊严,不造成社会伤害。

转载此文是出于传递更多信息目的。若来源标注错误或侵犯了您的合法权益,请与本站联系,我们将及时更正、删除、谢谢。
https://www.414w.com/read/119254.html
0
最新回复(15)