从古至今,人类一直在探索永生和复活的秘密,却无法突破自然属性和生命规律:细胞终会衰老,脏器功能终会衰竭,人终会去世。然而,进入数字时代后,人类的永生之梦有了新的可能——数字复活。如果综合使用逝者生前的影像资料、社交关系、信息文本等数据来训练人工智能,模拟出和本人高度相似的语言表达、声音笑貌甚至行为举止,是否意味着,在数字世界里我们可以走向永生呢?你愿意与逝去的亲朋好友在赛博世界重新相聚吗?又是否愿意以此种形式延续自己的生命?本文编译自《纽约时报》,作者Adrienne Matei,原文标题“What Should Happen to Our Data When We Die”,希望给您带来启发。
“我们无从知道Bourdain本人是否会同意自己的声音在电影里被用作读这段旁白,”马里兰大学(University of Maryland)信息技术伦理研究人员Katie Shilton说,“我 们不知道他是否会同意让人操纵他的声音。”她认为,让一个人的声音朗读特定文本某种意义上是“对自主权的侵犯”。
【在 dairui(1111)的大作中提到:】 :从古至今,人类一直在探索永生和复活的秘密,却无法突破自然属性和生命规律:细胞终会衰老,脏器功能终会衰竭,人终会去世。然而,进入数字时代后,人类的永生之梦有了新的可能——数字复活。如果综合使用逝者生前的影像资料、社交关系、信息文本等数据来训练人工智能,模拟出和本人高度相似的语言表达、声音笑貌甚至行为举止,是否意味着,在数字世界里我们可以走向永生呢?你愿意与逝去的亲朋好友在赛博世界重新相聚吗?又是否愿意以此种形式延续自己的生命?本文编译自《纽约时报》,作者Adrienne Matei,原文标题“What Should Happen to Our Data When We Die”,希望给您带来启发。 :
从古至今,人类一直在探索永生和复活的秘密,却无法突破自然属性和生命规律:细胞终会衰老,脏器功能终会衰竭,人终会去世。然而,进入数字时代后,人类的永生之梦有了新的可能——数字复活。如果综合使用逝者生前的影像资料、社交关系、信息文本等数据来训练人工智能,模拟出和本人高度相似的语言表达、声音笑貌甚至行为举止,是否意味着,在数字世界里我们可以走向永生呢?你愿意与逝去的亲朋好友在赛博世界重新相聚吗?又是否愿意以此种形式延续自己的生命?本文编译自《纽约时报》,作者Adrienne Matei,原文标题“What Should Happen to Our Data When We Die”,希望给您带来启发。
最近上映的纪录片《跑路者》(Roadrunner)是众多纪念美国知名电视主持人Anthony Bourdain的电视节目之一。2018年6月8日,Anthony Bourdain被发现在法国斯特拉斯堡一家酒店自杀,终年61岁。《跑路者》这部纪录片引起了极大的关注,部分原因是它对人工智能技术的依赖——电影中有一个情节是Bourdain在2018年自杀前发送了一封电子邮件,一家技术公司受制片方的委托,基于Bourdain数小时的真实录音文件,通过人工智能技术为这段情节合成了45秒的旁白音频,听起来就像Bourdain本人站在遥远的地方对观众说话。
导演Morgan Neville在接受《纽约客》(the New Yorker)采访时说:“如果你看了这部电影,只要我们事先不透露,你根本无法判断哪些旁白是通过人工智能合成的……当然,以后我们可能有必要举行一些关于纪录片伦理的深度讨论。”
的确,当前展开关于人工智能在相关方面应用的伦理问题讨论已经刻不容缓。从2D投影到3D全息图,从CGI渲染到人工智能聊天机器人,逝者通过数字技术“复活”变得越来
越频繁。2012年,一幅说唱歌手Tupac Shakur的全息图登上了科切拉音乐节(
Coachella)的舞台,当时他已去世15年;2014年银河巧克力(Galaxy chocolate)的
广告中出现了19岁的奥黛丽·赫本的身影;卡丽·费雪(Carrie Fisher)和彼得·库
欣(Peter Cushing)也在去世多年后在《星球大战》系列最新拍摄的电影中重新出演
了自己的角色。
去年10月,坎耶·韦斯特(Kanye West)在为金·卡戴珊·韦斯特(Kim Kardashian
West)准备的生日礼物中,用她已故父亲罗伯特·卡戴珊(Robert Kardashian)的形
象制作了一段载歌载舞的全息影像,吸引了前所未有的关注。这段全息影像的声音是经过真实录音资料训练生成的,表达了对卡戴珊攻读法学学位的骄傲,并形容坎耶·韦斯特是“全世界最、最、最、最天才的人”。
制作这段视频的公司Kaleida的负责人Daniel Reynolds接受采访时表示,此类项目的起价为3万美元,如果算上展示,总价可能会超过10万美元。
当然,想要在数字世界里复活,还有其他更便宜的方式:从今年开始,访客可以免费在家谱网站MyHeritage上上传去世多年的家人的照片,并据此制作合成照片。
尽管大多数在数字世界里“复生”的人是公众人物,但即使是最不出名的人也可能因此受到影响。如今,几乎每个人都有大量网络账号,并在去世后仍然长久存在于互联网上。如何妥善处理这些数据,可能是我们这个时代最重要的技术难题和道德伦理议题。
01 逝者的互联网数据:数字史料or个人隐私?
自从互联网拥有了交流、工作和休闲娱乐的功能,人类每天创造的数据量急剧上升。每分钟全球网民的谷歌搜索查询次数高达380万次,电子邮件发送数量超过1.88亿封,
Tinder滑动次数超过140万次——所有这些都被各种形式的数字监控跟踪和留存。
人类产生了如此多的互联网数据,以至于一些哲学家现在认为“人”的概念不再是“身体+心灵”,还必须考虑到数字存在。去世后,我们留下了大量信息遗产,包括电子邮
件、短信、社交媒体资料、搜索查询和网上购物记录等。
数字伦理学家Carl Ohman认为,这代表着一个巨大的社会转变——几个世纪以来,只有富人和名人被彻底记录在案;而现在,普通人也可以“享受”到这样的待遇。
在一项研究中,Ohman计算出,假设Facebook继续运营到本世纪末,届时将有49亿已经
去世的“幽灵用户”。这对个人和社会都构成了重大挑战——Ohman表示,“这不仅仅
是‘该怎么处理已故亲人的Facebook主页’的问题,这其实上是我们‘该怎么处理上一代人的社交媒体数据资料’的问题”。
社交媒体上已经去世的用户数据构成了一个具有重大人道主义价值的档案、一种极其重要的历史资源,以往任何一代人都没有留下过这样的资源。Ohman认为,我们必须以这
样的眼光看待这些数据。他主张以类似于考古遗迹的地位来定义“数字遗迹”或者“电子遗产”,这样学者和档案学家就可以保护它们免受破坏。
在未来,人们可以利用这些数字资源来了解互联网上发生的重大历史事件和文化运动,比如“阿拉伯之春”(Arab Spring)、MeToo运动等,并“对这些运动的参与者进行定性解读”,Ohman说。
公开的社交媒体资料是一回事,而人们私下之间的交流——比如前文所述Anthony
Bourdain的纪录片中通过人工智能技术合成的旁白,引发了更复杂的伦理风险和道德问题。
“我们无从知道Bourdain本人是否会同意自己的声音在电影里被用作读这段旁白,”马里兰大学(University of Maryland)信息技术伦理研究人员Katie Shilton说,“我
们不知道他是否会同意让人操纵他的声音。”她认为,让一个人的声音朗读特定文本某种意义上是“对自主权的侵犯”。
Shilton认为,从道德的角度来看,用Bourdain的声音制作一段新音频需要得到他的家
人的许可。而在接受《GQ》杂志采访时,导演Morgan Neville表示,他“和Bourdain的遗孀和遗嘱执行人对文本进行了核实”,对方同意他使用这项人工智能技术。
然而,Bourdain的前妻Ottavia Busia在接受媒体采访时表示,她没有同意导演的这一
决定。7月16日电影上映当天,她在推特上写道:“我绝对没有说过‘他会认可这部电
影’这种话。”
02 全息影像的法律与道德风险
正如哲学家让·保罗·萨特(Jean-Paul Sartre)曾经说过的那样:“死亡就是成为生者的猎物。”这是哲学家们今天仍在思考的一种观点,《数字灵魂》(Digital Souls
)一书的作者Patrick Stokes认为这一观点与数字遗产直接相关。在他看来,要在数字世界“复生”一位逝者,前提是我们能从逝者身上学习到某些品质,或者获取某种意义或价值,否则我们不应当这么做。
迪肯大学(Deakin University)的高级哲学讲师Stokes说:“我们已经来到了‘替换
’死亡的领域……我们不仅找到了一种特别生动的方式来记住逝者,更是发现了一种弥合他们的死亡留下的‘存在性鸿沟’的方法。”
创造已逝公众人物的数字全息影像明显能创造经济利益,这就是为什么他们的数字形象在去世后一段时间内仍受法律保护:加州法律的规定是死后70年;纽约州的规定是死后40年。
如果公司想要出于经济利益动机使用逝者的图片和影像,需要得到遗产继承者的同意,而由此产生的合作可以使双方获益,因此这方面的道德伦理问题变得更加复杂。
对此,一些公众人物在生前就明确地表达了自己的愿望,例如2014年去世的Robin
Williams生前曾提交了一份公证书,规定在他去世后的25年内禁止使用任何他的肖像,以此作为加州法律之外的额外保护。
普通人也在表达自己的观点。曾为罗伊·奥比森(Roy Orbison)、巴迪·霍利(Buddy Holly)和玛丽亚·卡拉斯(Maria Callas)制作全息影像的公司Base Hologram,在
因制作惠特尼·休斯顿(Whitney Houston)和艾米·怀恩豪斯(Amy Winehouse)的全息影像被批评为“滥用”后,取消了巡回展出的计划。制作这样的展出不违法,并不意味着观众就会认为这是合乎道德标准的。
03 你甚至可以制作自己的“数字化身”
斯坦福大学互联网与社会中心(Stanford Center for Internet and Society)前隐私咨询主任、律师Albert Gidari表示,目前美国联邦法律不承认死者的隐私权。
“但事实上,”Gidari说,“你的很多信息都是以数字形式存在于网站、社交媒体等平台上,《存储通信法案》(Stored Communications Act)规定这些信息不能在未经事
先同意的情况下被泄露。”
“而逝者显然无法同意,”他说,其后果是死者家属无法恢复亲人的数字账户数据。
因此,一些人选择使用各种应用程序和服务来创建自己的人工智能形象,作为对一种主张代理自己数字遗产的方式。比如HereAfter公司以125至625美元的价格提供服务,就
顾客生活中的一些关键时刻进行采访,这些答案被用来创建一个类似Siri的聊天AI。如果你的曾孙想知道你是如何遇到他们的曾祖母或曾祖父的,这款AI可以用你的声音来回答他们的问题。
另一款聊天AI应用Replika则注重模拟人的真实声音,用户可以通过短信和语音与AI对
话,随着时间的推移,每一个AI角色都逐渐成为了用户最好的朋友。这款应用在疫情居家隔离期间广受欢迎。
Replika的创始人、俄罗斯女程序员Eugenia Kuyda因为无法接受朋友Roman Mazurenko
因车祸去世的现实,决心用人工智能“复活”他。她收集了朋友生前的照片、新闻、上万条文字信息等能找到的所有资料,利用一个神经网络(用于识别模式的复杂算法)训练出了一个聊天机器人。事实证明,和AI的交流足以让朋友的母亲沉迷其中,深感慰藉。这也启发了Kuyda继续开发聊天机器人应用。
Kuyda在一封电子邮件中写道:“Replika主要扮演我们用户的朋友的角色,但在用户去世后,它会带着关于创造者的信息继续存在。”
2020年12月,微软为创造“一个特定人的对话聊天机器人”申请了一项专利,这款机器人可以结合“人的2D或3D模型”一起使用。微软的一名代表在电子邮件中写道:“关于这项专利,我们目前没有公开信息可以分享。”
其他应用则旨在为失去亲人的用户提供情感上的慰藉。2020年2月,韩国纪录片《遇见
你》上映,记录了一位名叫张智善(Jang Ji-sun)的女性和她死于癌症的小女儿在虚
拟现实中“重聚”的故事。其中女儿的形象是由Vive工作室制作的。Vive还考虑了VR技术的其他应用——比如创建一个“数字纪念公园”,人们可以在那里看望去世的亲人;或者与医疗服务提供者和心理咨询师合作,帮助失去亲人的人们度过悲伤。
新冠疫情大爆发时期,对于许多家庭来说,告别仪式和葬礼不得不采取线上形式举行。而如果“数字复生”技术真正走向主流,可能有助于减轻丧亲之痛,在过去和未来的几代人之间建立联系,并鼓励生者更公开、更坦然地面对死亡。
不过,在那之前,还有一些重要的问题需要考虑。“如果我真的开始与AI互动,那对我与所爱的已逝之人的关系会有什么影响?我是在保护对方,还是在剥削对方?”Stokes认为,在新技术到来之前,我们必须先做好道德上的充分准备。
这是哪里翻译的吧?
【在 dairui(1111)的大作中提到:】
:从古至今,人类一直在探索永生和复活的秘密,却无法突破自然属性和生命规律:细胞终会衰老,脏器功能终会衰竭,人终会去世。然而,进入数字时代后,人类的永生之梦有了新的可能——数字复活。如果综合使用逝者生前的影像资料、社交关系、信息文本等数据来训练人工智能,模拟出和本人高度相似的语言表达、声音笑貌甚至行为举止,是否意味着,在数字世界里我们可以走向永生呢?你愿意与逝去的亲朋好友在赛博世界重新相聚吗?又是否愿意以此种形式延续自己的生命?本文编译自《纽约时报》,作者Adrienne Matei,原文标题“What Should Happen to Our Data When We Die”,希望给您带来启发。
: