美国联邦通信委员会（FCC）于周四正式宣布，对一名政治顾问处以高达600万美元的巨额罚款，该顾问因利用人工智能技术在新罕布什尔州拨打虚假机器人电话，模仿美国总统乔·拜登的声音，企图误导选民在民主党初选中放弃投票，这一行为严重违反了FCC的相关规定。
这起案件的主角是路易斯安那州的民主党政治顾问史蒂文·克莱默。今年5月，克莱默因在新罕布什尔州策划并执行了这一系列看似来自拜登本人的电话欺诈活动而被起诉。电话中，拜登的“声音”竟然要求选民在即将到来的选举中不要投票，这一荒谬行为立即引发了公众和政界的广泛谴责。值得注意的是，克莱默曾是拜登在竞选中面临的主要挑战者——众议员迪恩·菲利普斯的幕僚成员，菲利普斯本人也对此类电话行为表示了强烈的谴责。
今年1月，克莱默在接受媒体采访时透露，他仅花费了500美元就实施了这一计划，旨在通过实际行动引起公众对人工智能在竞选活动中潜在危险性的高度关注。然而，这一“创意”不仅未能达到预期效果，反而让他自己陷入了法律的漩涡。
FCC指出，这些电话是利用先进的AI技术生成的深度伪造录音，其声音高度逼真，几乎可以乱真。然而，根据FCC的严格规定，传输任何不准确的呼叫者ID信息都是严格禁止的。FCC已明确要求克莱默在30天内缴纳罚款，否则将面临司法部采取的进一步法律行动。
对于这一事件，FCC主席Jessica Rosenworcel发表了严厉的评论：“如今，利用人工智能克隆声音、散布虚假声音和图像已变得既廉价又容易。这项技术若被非法利用，极有可能非法干预选举过程，破坏民主制度的基石。因此，我们必须时刻保持警惕，一旦发现此类欺诈行为，就要毫不犹豫地大声疾呼，并动用一切可用工具加以阻止。”
此外，值得一提的是，这并非FCC近期首次对类似行为开出罚单。今年8月，另一家公司Lingo Telecom也因在新罕布什尔州传输虚假机器人电话而被FCC处以100万美元的罚款。根据双方达成的和解协议，Lingo将实施一系列严格的合规计划，确保未来严格遵守FCC的来电显示身份验证规则。
此外，FCC还在积极推进其他相关监管措施。今年7月，该委员会投票决定要求广播电台和电视政治广告明确披露其内容是否由AI生成。这一提案目前仍在审议之中，预计将对未来政治竞选活动的透明度产生深远影响。
美国联邦通信委员会（FCC）于周四正式宣布，对一名政治顾问处以高达600万美元的巨额罚款，该顾问因利用人工智能技术在新罕布什尔州拨打虚假机器人电话，模仿美国总统乔·拜登的声音，企图误导选民在民主党初选中放弃投票，这一行为严重违反了FCC的相关规定。
这起案件的主角是路易斯安那州的民主党政治顾问史蒂文·克莱默。今年5月，克莱默因在新罕布什尔州策划并执行了这一系列看似来自拜登本人的电话欺诈活动而被起诉。电话中，拜登的“声音”竟然要求选民在即将到来的选举中不要投票，这一荒谬行为立即引发了公众和政界的广泛谴责。值得注意的是，克莱默曾是拜登在竞选中面临的主要挑战者——众议员迪恩·菲利普斯的幕僚成员，菲利普斯本人也对此类电话行为表示了强烈的谴责。
今年1月，克莱默在接受媒体采访时透露，他仅花费了500美元就实施了这一计划，旨在通过实际行动引起公众对人工智能在竞选活动中潜在危险性的高度关注。然而，这一“创意”不仅未能达到预期效果，反而让他自己陷入了法律的漩涡。
FCC指出，这些电话是利用先进的AI技术生成的深度伪造录音，其声音高度逼真，几乎可以乱真。然而，根据FCC的严格规定，传输任何不准确的呼叫者ID信息都是严格禁止的。FCC已明确要求克莱默在30天内缴纳罚款，否则将面临司法部采取的进一步法律行动。
对于这一事件，FCC主席Jessica Rosenworcel发表了严厉的评论：“如今，利用人工智能克隆声音、散布虚假声音和图像已变得既廉价又容易。这项技术若被非法利用，极有可能非法干预选举过程，破坏民主制度的基石。因此，我们必须时刻保持警惕，一旦发现此类欺诈行为，就要毫不犹豫地大声疾呼，并动用一切可用工具加以阻止。”
此外，值得一提的是，这并非FCC近期首次对类似行为开出罚单。今年8月，另一家公司Lingo Telecom也因在新罕布什尔州传输虚假机器人电话而被FCC处以100万美元的罚款。根据双方达成的和解协议，Lingo将实施一系列严格的合规计划，确保未来严格遵守FCC的来电显示身份验证规则。
此外，FCC还在积极推进其他相关监管措施。今年7月，该委员会投票决定要求广播电台和电视政治广告明确披露其内容是否由AI生成。这一提案目前仍在审议之中，预计将对未来政治竞选活动的透明度产生深远影响。