一段伪造的视频模仿副总统贺锦丽的声音，说出了她没有说过的话，这引发了人们对人工智能在距离选举日大约3个月的时候产生误导的担忧。
美联社报道截图
上周五晚上，亿万富翁埃隆·马斯克在他的社交媒体平台X上分享了这段视频，但没有明确指出它最初是作为恶搞视频发布的。这段视频引起了人们的关注。
该视频使用了许多与贺锦丽上周发布的真实广告相同的视觉效果，贺锦丽很可能成为民主党总统候选人，她上周公布了她的竞选活动，但视频将画外音换成了另一个足以以假乱真的模仿贺锦丽的声音。
“我，贺锦丽，成为你们的民主党总统候选人，因为乔·拜登终于在辩论中暴露了他的衰老，”视频中的声音说。它声称贺锦丽是“多元化聘用”，因为她是一名女性，也是一名有色人种，并说她“对管理国家一无所知”。该视频保留了“贺锦丽竞选总统”的品牌。它还添加了一些真实的贺锦丽过去的片段。
贺锦丽竞选团队发言人米娅·埃伦伯格（Mia Ehrenberg）在给美联社的一封电子邮件中说：“我们相信，美国人民想要贺锦丽提供的真正的自由、机会和安全，而不是埃隆·马斯克和唐纳德·川普虚假的、被操纵的谎言。”
随着总统大选的临近，人工智能生成的栩栩如生的图像、视频或音频片段被用来取笑和误导，这段视频被广泛分享。这表明，尽管高质量的人工智能工具变得更容易获得，但到目前为止，联邦政府仍缺乏重大行动来规范它们的使用，导致在政治上指导人工智能的规则主要由各州和社交媒体平台制定。
这段视频还提出了一个问题，即如何最好地处理模糊了人工智能合理使用界限的内容，特别是如果它属于讽刺的范畴。
马斯克转发AI制作的贺锦丽视频，点击量过亿
发布该视频的原始用户是YouTube用户“Mr Reagan”，他在YouTube和X上都说明了这段被篡改的视频是恶搞。但据该平台称，马斯克的帖子已经被浏览了超过1.23亿次，其内容中只有“这太棒了”的标题和一个笑的表情符号。
熟悉该平台的X用户可能知道点击马斯克的帖子到原始用户的帖子，在那里可以看到相关信息。马斯克的帖子并没有指示他们这样做。
虽然X的“社区笔记”功能的一些参与者建议给马斯克的帖子贴上标签，但截至周日下午，并没有给马斯克的帖子贴上这样的标签。一些用户在网上质疑他的帖子是否违反了X的政策，该政策规定用户“不得分享合成的、被操纵的或脱离背景的信息，这些信息可能会欺骗或混淆受众并导致伤害”。
该政策对表情包和讽刺作品有一个例外，只要它们不会“对媒体的真实性造成严重混淆”。
本月早些时候，马斯克支持共和党候选人、前总统川普。上周日，“Mr Reagan”和马斯克都没有立即回复记者的置评请求。
专家称AI对政治影响力巨大
两名专门研究人工智能生成媒体的专家审查了这段视频的音频，并证实其中大部分是使用人工智能技术生成的。其中之一、加州大学伯克利分校的数字取证专家哈尼·法里德（Hany Farid）表示，该视频显示了生成式人工智能和深度造假的力量。
“人工智能生成的声音非常好，”他在一封电子邮件中说，“尽管大多数人不会相信这是贺锦丽的声音，但当她说出这些话时，这段视频会显得更加震撼。”
他说，向公众提供语音克隆工具和其他人工智能工具的生成型人工智能公司应该做得更好，以确保他们的服务不会被用于伤害人民或民主的方式。
倡导组织“公众公民”（Public Citizen）的联合主席罗布·韦斯曼（Rob Weissman）不同意法里德的观点，他认为很多人会被这段视频愚弄。
“我不认为这是个玩笑，”韦斯曼在接受采访时说，“我敢肯定，大多数看到它的人不会认为这是一个笑话。质量不是很好，但已经很不错了。正是因为它迎合了围绕着她的既有主题，大多数人会相信这是真的。”
韦斯曼的组织一直倡导国会、联邦机构和各州对生成式人工智能进行监管，他说这段视频是“我们一直在警告的那种事情”。
联邦缺乏对AI的立法监管
在美国和其他地方，其他生成式人工智能深度造假会试图通过错误信息或幽默的方式来影响选民。在2023年的斯洛伐克选举中，伪造的音频片段冒充了一名候选人，在投票前几天讨论了操纵选举和提高啤酒价格的计划。2022年，在路易斯安那州，一个政治行动委员会的讽刺广告将路易斯安那州一个市长候选人的脸叠加在一个演员身上，把他描绘成一个成绩不佳的高中生。
国会尚未通过有关人工智能在政治中的立法，联邦机构也只采取了有限的措施，将美国现有的大部分监管权力留给了各州。根据全国州立法机构会议的数据，超过三分之一的州已经制定了自己的法律，规范在竞选和选举中使用人工智能。
除了X之外，其他社交媒体公司也制定了有关在其平台上分享合成信息以操纵舆论的政策。例如，视频平台YouTube上的用户必须披露他们是否使用了生成式人工智能来制作视频。
FCC称将监管AI政治广告引争议
而就在马斯克转发争议视频的前一天，也就是上周四，美国联邦通信委员会（FCC）刚刚表示，其正在推进一项提案，使人工智能生成的政治类内容更加透明。该提案要求政治广告客户披露他们在广播电视和电台广告中使用人工智能的情况，不过目前尚不清楚新的规定是否会在11月总统大选前出台。
上周四宣布的拟议规则可能会在政治竞选中增加一层透明度，一些科技监管机构呼吁帮助选民了解广告中逼真且具有误导性的人工智能生成信息。
FCC主席、民主党人杰西卡·罗森沃塞尔（Jessica Rosenworcel）周四在一份新闻稿中说，“人工智能操纵政治广告中的声音和图像的可能性太大了，我们不能无所作为。”“如果候选人或竞选活动使用人工智能制作广告，公众有权知道。”
但联邦通信委员会的行动是联邦政府围绕政治领域人工智能监管展开的争夺战的一部分。此举遭到了联邦选举委员会主席的反对，他此前曾指责FCC侵犯了自己机构的权力，并警告可能面临法律挑战。
美国和世界各地的政治候选人和政党已经试验了快速发展的生成式人工智能工具——尽管有些人自愿披露了他们对该技术的使用情况。其他人则将这项技术武器化，以误导选民。
FCC正提议要求广播公司询问政治广告商他们的内容是否使用了人工智能工具创作，包括从文本到图像创作者或语音克隆软件。FCC还计划要求广播公司在政治广告中使用人工智能生成的内容时进行公告，并在其在线政治信息中披露人工智能的使用情况。
该委员会承认，它无权管理流媒体，这将使数字和流媒体平台上日益增长的政治广告业在联邦层面不受监管。
在FCC以3比2的投票结果通过后，该提案将进入为期30天的公众评议期，随后是15天的回复期。随后，委员会将最终确定并通过这项规则。目前还不清楚该规则是否能够在3个多月后的总统选举之前生效。
罗森沃塞尔的发言人Jonathan Uriarte表示，主席“打算遵循监管程序，但她已经明确表示，现在是采取行动的时候了”。
罗森沃塞尔今年5月宣布她的拟议规则后，联邦选举委员会主席、共和党人肖恩·库克西（Sean Cooksey）给她写了一封信，警告她不要这么做。
他写道，“我担心你的提议的部分内容将属于联邦选举委员会的专属管辖范围”，并将“直接与现行法律法规相冲突，并在即将到来的选举中引发政治竞选活动的混乱”。
他在信中说，如果FCC采取行动，可能会在两个机构之间造成“不可调和的冲突”，最终可能会在联邦法院进行诉讼。
联邦通信委员会的共和党委员布兰登·卡尔（Brendan Carr）同意库克西的观点，并投票反对该提案。卡尔在一份声明中说，在离总统选举这么近的时候，这项规定是非法的，而且存在问题，因为这些规定可能在许多地方提前投票已经开始之后才生效。
卡尔写道：“联邦通信委员会提出的规则非但不能提高透明度，反而会使选民陷入混乱，创造出一系列不一致的规则，并鼓励有钱的党派利益集团将法律武器化，以获得选举优势。”
但联邦选举委员会副主席、民主党人艾伦·温特劳布（Ellen Weintraub）支持这项提议，她在6月给罗森沃塞尔的一封信中说，“目前没有一个机构有管辖权或有能力解决这个庞大而复杂的问题的各个方面。”
库克西周四在一份声明中表示，联邦通信委员会应该“放弃这一被误导的提议”。
他说：“每个美国人都应该感到不安，因为民主党控制的联邦通信委员会正在推进其激进的计划，在大选前几周改变政治广告的规则。”“这些模糊的规定不仅会侵犯联邦选举委员会的管辖权，还会在政治竞选活动中播下混乱的种子，让选民在前往投票站之前感到困惑。”
联邦通信委员会坚持认为，根据1934年《通信法案》和《两党竞选改革法案》，它有权对这一问题进行监管。
“公众公民”主席韦斯曼表示，他支持FCC提出的规则，因为美国正在“迅速走向可能被政治造假扭曲甚至影响最终结果的选举”。
众议院行政委员会民主党领袖、纽约州众议员约瑟夫·莫雷尔（Joseph Morelle）赞扬了联邦通信委员会。他在一份电子邮件声明中说，“我们的联邦机构在努力确保选民能够辨别事实和虚构信息，这一点至关重要。”
国会尚未通过法律指导这些机构如何在政治活动中监管人工智能。一些共和党参议员已经准备立法，旨在阻止民主党领导的联邦通信委员会发布新规则。与此同时，联邦选举委员会也在考虑自己的请愿书，要求监管政治广告中的深度造假问题。
今年2月，联邦通信委员会裁定，包含人工智能语音的机器人电话是非法的，这一举措使FCC有权对在通话中使用人工智能语音的公司进行罚款，或封锁提供这些语音的服务提供商。
一段伪造的视频模仿副总统贺锦丽的声音，说出了她没有说过的话，这引发了人们对人工智能在距离选举日大约3个月的时候产生误导的担忧。
美联社报道截图
上周五晚上，亿万富翁埃隆·马斯克在他的社交媒体平台X上分享了这段视频，但没有明确指出它最初是作为恶搞视频发布的。这段视频引起了人们的关注。
该视频使用了许多与贺锦丽上周发布的真实广告相同的视觉效果，贺锦丽很可能成为民主党总统候选人，她上周公布了她的竞选活动，但视频将画外音换成了另一个足以以假乱真的模仿贺锦丽的声音。
“我，贺锦丽，成为你们的民主党总统候选人，因为乔·拜登终于在辩论中暴露了他的衰老，”视频中的声音说。它声称贺锦丽是“多元化聘用”，因为她是一名女性，也是一名有色人种，并说她“对管理国家一无所知”。该视频保留了“贺锦丽竞选总统”的品牌。它还添加了一些真实的贺锦丽过去的片段。
贺锦丽竞选团队发言人米娅·埃伦伯格（Mia Ehrenberg）在给美联社的一封电子邮件中说：“我们相信，美国人民想要贺锦丽提供的真正的自由、机会和安全，而不是埃隆·马斯克和唐纳德·川普虚假的、被操纵的谎言。”
随着总统大选的临近，人工智能生成的栩栩如生的图像、视频或音频片段被用来取笑和误导，这段视频被广泛分享。这表明，尽管高质量的人工智能工具变得更容易获得，但到目前为止，联邦政府仍缺乏重大行动来规范它们的使用，导致在政治上指导人工智能的规则主要由各州和社交媒体平台制定。
这段视频还提出了一个问题，即如何最好地处理模糊了人工智能合理使用界限的内容，特别是如果它属于讽刺的范畴。
马斯克转发AI制作的贺锦丽视频，点击量过亿
发布该视频的原始用户是YouTube用户“Mr Reagan”，他在YouTube和X上都说明了这段被篡改的视频是恶搞。但据该平台称，马斯克的帖子已经被浏览了超过1.23亿次，其内容中只有“这太棒了”的标题和一个笑的表情符号。
熟悉该平台的X用户可能知道点击马斯克的帖子到原始用户的帖子，在那里可以看到相关信息。马斯克的帖子并没有指示他们这样做。
虽然X的“社区笔记”功能的一些参与者建议给马斯克的帖子贴上标签，但截至周日下午，并没有给马斯克的帖子贴上这样的标签。一些用户在网上质疑他的帖子是否违反了X的政策，该政策规定用户“不得分享合成的、被操纵的或脱离背景的信息，这些信息可能会欺骗或混淆受众并导致伤害”。
该政策对表情包和讽刺作品有一个例外，只要它们不会“对媒体的真实性造成严重混淆”。
本月早些时候，马斯克支持共和党候选人、前总统川普。上周日，“Mr Reagan”和马斯克都没有立即回复记者的置评请求。
专家称AI对政治影响力巨大
两名专门研究人工智能生成媒体的专家审查了这段视频的音频，并证实其中大部分是使用人工智能技术生成的。其中之一、加州大学伯克利分校的数字取证专家哈尼·法里德（Hany Farid）表示，该视频显示了生成式人工智能和深度造假的力量。
“人工智能生成的声音非常好，”他在一封电子邮件中说，“尽管大多数人不会相信这是贺锦丽的声音，但当她说出这些话时，这段视频会显得更加震撼。”
他说，向公众提供语音克隆工具和其他人工智能工具的生成型人工智能公司应该做得更好，以确保他们的服务不会被用于伤害人民或民主的方式。
倡导组织“公众公民”（Public Citizen）的联合主席罗布·韦斯曼（Rob Weissman）不同意法里德的观点，他认为很多人会被这段视频愚弄。
“我不认为这是个玩笑，”韦斯曼在接受采访时说，“我敢肯定，大多数看到它的人不会认为这是一个笑话。质量不是很好，但已经很不错了。正是因为它迎合了围绕着她的既有主题，大多数人会相信这是真的。”
韦斯曼的组织一直倡导国会、联邦机构和各州对生成式人工智能进行监管，他说这段视频是“我们一直在警告的那种事情”。
联邦缺乏对AI的立法监管
在美国和其他地方，其他生成式人工智能深度造假会试图通过错误信息或幽默的方式来影响选民。在2023年的斯洛伐克选举中，伪造的音频片段冒充了一名候选人，在投票前几天讨论了操纵选举和提高啤酒价格的计划。2022年，在路易斯安那州，一个政治行动委员会的讽刺广告将路易斯安那州一个市长候选人的脸叠加在一个演员身上，把他描绘成一个成绩不佳的高中生。
国会尚未通过有关人工智能在政治中的立法，联邦机构也只采取了有限的措施，将美国现有的大部分监管权力留给了各州。根据全国州立法机构会议的数据，超过三分之一的州已经制定了自己的法律，规范在竞选和选举中使用人工智能。
除了X之外，其他社交媒体公司也制定了有关在其平台上分享合成信息以操纵舆论的政策。例如，视频平台YouTube上的用户必须披露他们是否使用了生成式人工智能来制作视频。
FCC称将监管AI政治广告引争议
而就在马斯克转发争议视频的前一天，也就是上周四，美国联邦通信委员会（FCC）刚刚表示，其正在推进一项提案，使人工智能生成的政治类内容更加透明。该提案要求政治广告客户披露他们在广播电视和电台广告中使用人工智能的情况，不过目前尚不清楚新的规定是否会在11月总统大选前出台。
上周四宣布的拟议规则可能会在政治竞选中增加一层透明度，一些科技监管机构呼吁帮助选民了解广告中逼真且具有误导性的人工智能生成信息。
FCC主席、民主党人杰西卡·罗森沃塞尔（Jessica Rosenworcel）周四在一份新闻稿中说，“人工智能操纵政治广告中的声音和图像的可能性太大了，我们不能无所作为。”“如果候选人或竞选活动使用人工智能制作广告，公众有权知道。”
但联邦通信委员会的行动是联邦政府围绕政治领域人工智能监管展开的争夺战的一部分。此举遭到了联邦选举委员会主席的反对，他此前曾指责FCC侵犯了自己机构的权力，并警告可能面临法律挑战。
美国和世界各地的政治候选人和政党已经试验了快速发展的生成式人工智能工具——尽管有些人自愿披露了他们对该技术的使用情况。其他人则将这项技术武器化，以误导选民。
FCC正提议要求广播公司询问政治广告商他们的内容是否使用了人工智能工具创作，包括从文本到图像创作者或语音克隆软件。FCC还计划要求广播公司在政治广告中使用人工智能生成的内容时进行公告，并在其在线政治信息中披露人工智能的使用情况。
该委员会承认，它无权管理流媒体，这将使数字和流媒体平台上日益增长的政治广告业在联邦层面不受监管。
在FCC以3比2的投票结果通过后，该提案将进入为期30天的公众评议期，随后是15天的回复期。随后，委员会将最终确定并通过这项规则。目前还不清楚该规则是否能够在3个多月后的总统选举之前生效。
罗森沃塞尔的发言人Jonathan Uriarte表示，主席“打算遵循监管程序，但她已经明确表示，现在是采取行动的时候了”。
罗森沃塞尔今年5月宣布她的拟议规则后，联邦选举委员会主席、共和党人肖恩·库克西（Sean Cooksey）给她写了一封信，警告她不要这么做。
他写道，“我担心你的提议的部分内容将属于联邦选举委员会的专属管辖范围”，并将“直接与现行法律法规相冲突，并在即将到来的选举中引发政治竞选活动的混乱”。
他在信中说，如果FCC采取行动，可能会在两个机构之间造成“不可调和的冲突”，最终可能会在联邦法院进行诉讼。
联邦通信委员会的共和党委员布兰登·卡尔（Brendan Carr）同意库克西的观点，并投票反对该提案。卡尔在一份声明中说，在离总统选举这么近的时候，这项规定是非法的，而且存在问题，因为这些规定可能在许多地方提前投票已经开始之后才生效。
卡尔写道：“联邦通信委员会提出的规则非但不能提高透明度，反而会使选民陷入混乱，创造出一系列不一致的规则，并鼓励有钱的党派利益集团将法律武器化，以获得选举优势。”
但联邦选举委员会副主席、民主党人艾伦·温特劳布（Ellen Weintraub）支持这项提议，她在6月给罗森沃塞尔的一封信中说，“目前没有一个机构有管辖权或有能力解决这个庞大而复杂的问题的各个方面。”
库克西周四在一份声明中表示，联邦通信委员会应该“放弃这一被误导的提议”。
他说：“每个美国人都应该感到不安，因为民主党控制的联邦通信委员会正在推进其激进的计划，在大选前几周改变政治广告的规则。”“这些模糊的规定不仅会侵犯联邦选举委员会的管辖权，还会在政治竞选活动中播下混乱的种子，让选民在前往投票站之前感到困惑。”
联邦通信委员会坚持认为，根据1934年《通信法案》和《两党竞选改革法案》，它有权对这一问题进行监管。
“公众公民”主席韦斯曼表示，他支持FCC提出的规则，因为美国正在“迅速走向可能被政治造假扭曲甚至影响最终结果的选举”。
众议院行政委员会民主党领袖、纽约州众议员约瑟夫·莫雷尔（Joseph Morelle）赞扬了联邦通信委员会。他在一份电子邮件声明中说，“我们的联邦机构在努力确保选民能够辨别事实和虚构信息，这一点至关重要。”
国会尚未通过法律指导这些机构如何在政治活动中监管人工智能。一些共和党参议员已经准备立法，旨在阻止民主党领导的联邦通信委员会发布新规则。与此同时，联邦选举委员会也在考虑自己的请愿书，要求监管政治广告中的深度造假问题。
今年2月，联邦通信委员会裁定，包含人工智能语音的机器人电话是非法的，这一举措使FCC有权对在通话中使用人工智能语音的公司进行罚款，或封锁提供这些语音的服务提供商。