现任美国总统拜登于当地时间 21 日宣布退出 2024 美国总统大选,并宣布由现任美国副总统贺锦丽 ( Kamala Harris ) 代表民主党竞争总统的宝座。有网友在贺锦丽公布第一条竞选广告后,使用 AI 技术伪造贺锦丽的声音并制作了一部影片。而身兼特斯拉首席执行官、 X 公司董事长的伊隆.马斯克 ( Elon Musk ) 在 X 上分享该则影片后,引发一系列的争议与讨论。
根据美国《纽约时报》报导,在美国当地时间 26 日晚间,马斯克在由他营运的社群平台 X 上,转发了一则由推主“Mr Reagan”上传,伪造贺锦丽声音作为配音的影片。“Mr Reagan”在上传该影片时,于推文中标注了“滑稽模仿”的标签,表达他恶搞贺锦丽的立场。然而马斯克在转发贴文时,并未做出类似的标识,让部分网友开始质疑马斯克违反了 X 平台的用户规定。
该报导称,学者亚历克斯.霍华德 ( Alex Howard ) 于当地时间 27 日发布推文指出,马斯克带头违反了 X 平台用户规定中,关于合成内容与误导讯息的政策。根据 X 平台的用户规定,使用者“不得分享可能欺骗、误导甚至导致伤害的,经过合成、操纵或断章取义的媒体内容”。霍华德也向马斯克提出质疑,询问他是否打算修改这些使用者条款,方便他个人在选举的年份“违规”。
而根据《美联社》的报导,有两位美国大学研究 AI 生成内容的专家,针对相关影片进行审查、分析后,认定该影片中大部分音源都是使用 AI 技术生成的虚假资讯。加州大学柏克利分校的教授汉尼.法里德 ( Hany Farid ) 接受《美联社》访问时表示,这段影片展示了目前生成式人工智能以及深度伪造技术所具有的力量。法里德强调,开发生成式人工智能的公司应该确保他们提供的服务,不会遭到有心人士的“滥用”,进而伤害人民或民主的体制。
马斯克本人则在当地时间 29 日凌晨,重新发布推文分享影片并开玩笑的表示,他向世界知名的法学权威西高玩教授 ( 一个英文的双关语玩笑 ) 进行咨询后,得到“模仿”影片在美国合法的结论。针对他自己可能违反 X 平台用户规则一事,马斯克并没有做出相关回应。
现任美国总统拜登于当地时间 21 日宣布退出 2024 美国总统大选,并宣布由现任美国副总统贺锦丽 ( Kamala Harris ) 代表民主党竞争总统的宝座。有网友在贺锦丽公布第一条竞选广告后,使用 AI 技术伪造贺锦丽的声音并制作了一部影片。而身兼特斯拉首席执行官、 X 公司董事长的伊隆.马斯克 ( Elon Musk ) 在 X 上分享该则影片后,引发一系列的争议与讨论。
根据美国《纽约时报》报导,在美国当地时间 26 日晚间,马斯克在由他营运的社群平台 X 上,转发了一则由推主“Mr Reagan”上传,伪造贺锦丽声音作为配音的影片。“Mr Reagan”在上传该影片时,于推文中标注了“滑稽模仿”的标签,表达他恶搞贺锦丽的立场。然而马斯克在转发贴文时,并未做出类似的标识,让部分网友开始质疑马斯克违反了 X 平台的用户规定。
该报导称,学者亚历克斯.霍华德 ( Alex Howard ) 于当地时间 27 日发布推文指出,马斯克带头违反了 X 平台用户规定中,关于合成内容与误导讯息的政策。根据 X 平台的用户规定,使用者“不得分享可能欺骗、误导甚至导致伤害的,经过合成、操纵或断章取义的媒体内容”。霍华德也向马斯克提出质疑,询问他是否打算修改这些使用者条款,方便他个人在选举的年份“违规”。
而根据《美联社》的报导,有两位美国大学研究 AI 生成内容的专家,针对相关影片进行审查、分析后,认定该影片中大部分音源都是使用 AI 技术生成的虚假资讯。加州大学柏克利分校的教授汉尼.法里德 ( Hany Farid ) 接受《美联社》访问时表示,这段影片展示了目前生成式人工智能以及深度伪造技术所具有的力量。法里德强调,开发生成式人工智能的公司应该确保他们提供的服务,不会遭到有心人士的“滥用”,进而伤害人民或民主的体制。
马斯克本人则在当地时间 29 日凌晨,重新发布推文分享影片并开玩笑的表示,他向世界知名的法学权威西高玩教授 ( 一个英文的双关语玩笑 ) 进行咨询后,得到“模仿”影片在美国合法的结论。针对他自己可能违反 X 平台用户规则一事,马斯克并没有做出相关回应。