清明节前夕热议: AI“复活”亲人火爆, 如何避免技术被滥用?

丁道师2024-03-28 22:56:27  132

清明节到来前夕,我赶赴建国门,在《北京新闻广播·新闻天天谈》做客了一期节目,讨论当下备受关注的AI“复活”亲人相关话题。

不久前,音乐人包小柏通过AI技术“复活”了病逝的女儿,这一举动引起了广泛的社会关注和深刻的伦理思考。同时,也让AI“复活”逝者这种相对小众的互联网服务,走到了大众面前。

甚至,有人将复活逝者做成了规模化的服务。来自江苏的一位90后小伙张泽伟,由他成立的“超级头脑”团队,已经用AI成功帮助600多个家庭“复活”亲人。在电商平台,AI“复活”的商品更是层出不穷,标价从几元到几万元不等。

然而,正如我们所探讨的,AI“复活”逝者不仅仅是一个技术问题,更是一个复杂的伦理问题。在科技的推动下,我们能够突破生死的界限,让逝去的人以另一种形式“活”在我们的世界中。但这种做法是否恰当?它是否会扰乱我们对生死的认知?是否会对我们的情感造成更深层次的伤害?

这些问题没有标准的答案,因为它们涉及到每个人内心深处的价值观和情感体验。

与此同时,技术是双向的,它可以在帮助人类社会进步的同时,也会成为不法分子实施不法侵害的利器。前段时间,可能大家都刷到过一个细思极恐的短视频。就是有一个母亲和自己的女儿进行远程视频通话,这时候女儿突然回来了,而视频里的那个“女儿”还不断催促母亲快点打钱。请试想,如果不是女儿及时回来,这个母亲可能已经被骗了。

在当天的节目中,我和主持人对谈了很多观点和思考,今天分享出来(成文时进行了补充完善),供大家参考。

1、从技术角度来看,“AI复活”“数字永生”是如何实现的?“AI复活”逝去的人,目前有哪些形式?

丁道师:其实在去年此时,我们就讨论过的“AI复活亲人”的话题。当时,还觉得这项技术很新奇,我们讨论时还羡慕美国的大模型,展望中国啥时候出现这种民间可以使用的黑科技。

现在,中国有了200多家面向市场的大模型公司,相关技术已经一日千里了,类似“AI图片动态呈现”“AI语音生产”“图片生成”等产品早已经遍地开发。

从技术角度来看,“AI复活”“数字永生”很容易实现,我指的是目前我们所看到的各种案例,不是真正的像好莱坞大片中的那种永生和复活。简单来说,就是将人的生前的图片和声音、视频以及行为特征等“投喂”给ai,让AI学习,就可以迅速实现。

在具体实践中,这种AI数字人主要依赖深度学习、自然语言处理等技术。首先,收集目标人物的图片、声音等数据,发送给AI模型。这些模型学习模拟人物特征和行为,如面部表情、语音特征等。然后,利用3D建模或图像处理技术构建数字人形象。设计交互方式,使其能响应用户指令,涉及语音识别、手势识别等。最后,将数字人部署到网站、应用等平台。

比如使用百度飞桨的深度学习开发平台,使用“有手就行”这项服务,给系统投喂大量你的声音素材,就能使用你自己的声音做语音合成,句子越多,效果越好。至于让静态的图片动起来,尤其是嘴巴动起来,就更简单了,很多AI工具都可以实现。

值得一提的是,目前“AI复活”逝去的人或者AI数字人,还比较初级和简单。还不能模仿人的思维习惯和意识、特征等核心指标。

至于有哪些形式,除了虚拟数字形象,还有聊起机器人,比如科大讯飞星火大模型,就可以和死去几百年几千年的历史名人聊天。还有全息投影,比如几年前邓丽君的复活,引发关注。当然,淘宝上几块钱的那种数字化复活,是噱头罢了。

2、“AI复活”这项技术的市场需求会越来越大吗?您持“赞成”还是“反对”的态度?

丁道师:其实“复活”死去的亲人或者说“复活”想念的人,在几千年的历史上,一直是很多中国人最朴素的一个愿望。我想起来宋代的大文学家、大政治家王安石,王安石特别崇拜杜甫,有一次王安石去缅怀杜甫,看到了杜甫的画像,忍不住失声痛哭,泪流满面,王安石说我就希望杜甫能够起死回生,那该有多好啊,我就能够追随左右了。

回到我们今天的社会,即便有各种技术限制,也有各种伦理道德的争议,但从现实情况来看,“AI复活”大有市场,且呈现出高速发展的态势。

我的总体看法是,在不侵犯他人肖像权和隐私权,并且保障使用者知情权的前提下,我肯定是支持的。

举个例子,在电影《美国队长3》中,钢铁侠耗资6.11亿美元,打造了一个与去世亲人可以相见并且互动的虚拟模型项目,骗过了麻省理工学院所有学生。钢铁侠在虚拟世界中可以反复的和父母相聚,因此一定程度上治愈了失去双亲的内心创伤。

之前韩国也有一个案例,有一位失去孩子的母亲,通过AI数字化复活技术,再加上VR虚拟现实眼镜,和已故的孩子“重逢”,也一定程度上治愈了她内心的伤痛。

3、AI“复活”逝者的技术限制,会随着技术迭代,很快被打破吗?AI“复活”逝者对生者来说,究竟是心理疗愈,还是起了反作用?

丁道师:苹果公司的Apple Vision大家知道吧,这个硬件将来如果能和大模型联动起来,有望进一步实现以假乱真的生活场景。

当然,科技的发展本身就是双刃剑,任何一项技术都有两面性。

前面我们提了AI复活亲人好的一方面,不好的一方面也有。对于另一些人来说,AI“复活”逝者可能会产生反作用。首先,这种技术并不能真正复活已故的人,只是一种模拟和幻觉。当生者意识到这一点时,他们可能会感到更加失望和沮丧。其次,过度依赖这种技术可能会阻碍生者接受现实和走出悲伤的过程。如果生者一直沉浸在模拟的互动中,他们可能会无法摆脱对逝者的依赖,导致心理健康问题。

4、这项技术被更多人掌握,背后存在哪些风险?有哪些方式可以降低风险?

丁道师:去年我就提到过,要警惕AI数字人这种技术被不法分子使用,尤其要警惕被电信诈骗分子使用。

前段时间,可能大家都刷到过一个细思极恐的短视频。就是有一个母亲和自己的女儿进行远程视频通话,这时候女儿突然回来了,而视频里的那个“女儿”还不断催促母亲快点打钱。请试想,如果不是女儿及时回来,这个母亲可能已经被骗了。

为了防范这种风险,我们需要采取一系列措施。首先,要加强技术研发和监管,提高AI数字人的安全性和可控性。其次,要加强对相关应用的审核和监管,确保它们符合法律法规和道德标准。此外,还需要加强公众的安全意识和教育,让人们了解这种技术的风险,并学会如何防范电信诈骗等违法犯罪活动。

5、怎么能看“数字永生计划”?对于未来可能出现的数字世界和数字人,我们需要做什么准备?

丁道师:说起这个话题,我想起之前和我一起做客咱们节目的另外一位嘉宾,刘兴亮老师。刘兴亮经常做的一件事情就是,他真人在全国各地出差,他的数字人不停地输出视频节目。后来,他做了好几个数字人,一个人就可以完成之前几个人干的工作了。

对于未来可能出现的数字世界和数字人,关于这股浪潮,任何人都抵挡不住,不管我们是否欢迎,一定会滚滚而来。并且在未来短短几年内,数字人的技术就会发展到一种新的高度。

我们需要做的就是一方面去接受它,一方面出台各种法规保障它的可控发展。 对了,就在最近,联合国通过了首个AI决议,这项决议汇集全球智慧,为人工智能治理确立了全球共识,国内主流媒体认为该决议具有里程碑意义。这个决议出台的背景,其实就是如何更好地实现人工智能治理体系构建,让它更好地服务于人类社会。

转载此文是出于传递更多信息目的。若来源标注错误或侵犯了您的合法权益,请与本站联系,我们将及时更正、删除、谢谢。
https://www.414w.com/read/53951.html
0
随机主题
烂番茄93%, 有人狂骂, 有人狂爱, 信谁?辽篮夺冠3大奇兵! 小郭艾伦称霸第4场, 八一旧将连克广东、新疆奥迪A8L 55TFSI,买了半年多,感受跟你说迎接比糖果更甜的笑 6岁新疆女孩来浙修复唇腭裂老牌工业镇走出“小巨人”, “小五金之乡”全球掘“金”|高质量发展调研行妮基·黑利宣布支持特朗普: 政坛风云再起一句“可远程瘫痪”, 西方警醒了我们, 中国一定要有自己的光刻机王红权星近三月直播13场销售额超2500万:卖每瓶3000元的洗发水网上说经济一片哀鸿遍野, 现实却欣欣向荣, 经济到底是好还是坏?四海八荒第一美人。提防降价背刺! 这四款车型大降价, 最高降幅达11.7万法国宣布试射空射核导弹美联储会议纪要“放鹰”: 官员暗示必要时考虑加息新加坡波音777客机遭严重乱流急降1死30伤 空乘和上厕所者伤势最重《闯关东》: 看懂朱传武对朱家的报复, 才知鲜儿被他利用得有多狠三个如花似玉的公主咋就出不了一个王后?创新新材: 5月22日召开业绩说明会, 投资者参与虽然这场战争结局未卜, 普京已经在将自己与彼得大帝相提并论2023年质量上乘的10部网大电影, 部部有惊喜, 你看了几部?吉林东北虎官宣钟诚成为新主教练〔期待老铁新风暴〕BG推文《拉上始皇去造反》女帝文,超有野心一门心思造反的女主没想到她居然造的自己亲爹的反,收服的大才是自己的亲爹
最新回复(0)