2016年俄罗斯对总统选举的干预跟今天的不实信息行动有很大差异。 Marina Lystseva/Reuters
在干预2016年美国总统大选时，俄罗斯在网上传播制造不合、煽动情绪的帖子，以期挑起怒火，那些帖子显得草率，充满了拼写错误和奇怪的语法。它们的意图是尽一切必要手段引起注意。
“希拉里是撒旦，”一个俄罗斯创建的Facebook帖子说。
八年后的今天，外国对美国选举的干预变得更精密、更隐蔽。
据美国情报和国防官员、科技公司和学术研究人员称，来自境外的不实信息——主要来自俄罗斯、中国和伊朗——已经成熟，变成了一种稳固而致命的威胁，这些国家在测试、迭代和部属越来越精细的战术。即便只是改变一小群美国人的立场，都有可能对总统选举的结果产生巨大的影响，民调显示这场选举处于势均力敌的态势。
据美国的情报评估，俄罗斯希望推动前总统唐纳德·J·特朗普当选，而伊朗偏向他的对手贺锦丽副总统。中国似乎没有什么倾向。
但它们的行动的总体目标没有改变，那就是播下不和与混乱的种子，从而让美国民主在世界面前失去信誉。不过行动本身已经有所变化，在适应一个不断改变的媒体环境，以及新工具的普及，这些工具让它们可以轻易地愚弄那些轻信的受众。
以下是境外不实信息所经历的演变：
不实信息如今基本上已经无处不在。
俄罗斯是2016年美国选举相关的不实信息的主要构建者，其帖文基本上发表在Facebook上。
现在伊朗和中国也在进行类似的美国政治影响行动，这三个国家都覆盖了十几个平台，其中既有美国人聊当地天气的小论坛，也有因为共同的兴趣而结成的聊天群组。这些国家在相互借鉴，不过尚不确定它们是否有直接的战略合作。
在Telegram上有大量俄罗斯账号在传播制造不和、有时极为尖刻的视频、米姆和文章，都与总统大选有关。至少还有数百个来自中国的账号伪装成学生，在今夏的美国校园内煽动因加沙战争而起的分歧。两个国家在Gab上也都有账号，这是个名气略小的社交媒体平台，受极右翼人士青睐，他们在这里致力于宣传阴谋论。
伊朗、俄罗斯和中国都在进行类似的美国政治影响行动，覆盖了在十多个平台。 Kenny Holston/The New York Times
据司法部在9月公开的内部文件，俄罗斯行动人员还试图在Reddit和极右翼偏爱的论坛上支持特朗普，针对六个摇摆州的选民、西语裔美国人、游戏玩家以及其他被俄罗斯认为可能支持特朗普的人。
与中国政府影响行动有关联的“垃圾伪装”(Spamouflage)，在四个平台上——YouTube、X、Instagram和TikTok——使用了一个名为Harlan的账号，以求制造这些有保守派倾向的内容来自一个美国人的假象。
内容的针对性大大增加。
这些外国传播的新型不实信息并不只是针对摇摆州，还针对州内的具体选区，以及区内的具体民族和宗教团体。据研究了这种新型影响行动的研究人员和学者说，不实信息越有针对性，就越有可能产生持久的效果。
“当不实信息是为具体受众度身定制，以影响他们的兴趣或观点，那就更有效了，”伦敦研究机构战略对话研究所的研究总监梅兰妮·史密斯说。“在以往的选举中，我们会试图确定最大的那个虚假叙事是什么。这一次，撩拨情绪的是一些隐晦的两极化讯息。”
伊朗尤其将大量资源用于开展隐秘的不实信息行动，以吸引一些具体的人群。一个名为“不是我们的战争”(Not Our War)的网站旨在吸引美国退伍军人，在有关现役军人得不到支持的文章中夹杂恶毒的反美观点和阴谋论。
其他的网站包括“非洲多数派”(Afro Majority)，制作面向美国黑人的内容，以及“萨凡纳时间”(Savannah Time)，意在改变摇摆州乔治亚的保守派选民的立场。在另一个摇摆州密西根，伊朗创建了一个名叫“韦斯特兰太阳”(Westland Sun)的网媒，面相底特律郊区的阿拉伯裔美国人。
“伊朗会去针对密西根的阿拉伯和穆斯林人口，这表明它对美国的政治局势有着深切的理解，正在进行高明的运作，用有针对性的方式说服一个关键人群，以求影响选举，”保卫民主基金会高级分析师麦克斯·莱瑟尔说。
中国和俄罗斯也采用了类似的模式。据监控网络不实信息的Logically称，今年在X上，中国官方媒体用西班牙语散布了有关美国最高法院的虚假叙事，讲西班牙语的用户在Facebook和YouTube上做了进一步的传播。
研究中国不实信息的专家表示，和北京有关联的伪造社交媒体账号已经变得更具说服力，有更多的互动，并且现在加入了身为美国人或退伍军人的第一人称指示。据微软威胁分析中心的一份报告，近几周，与中国的“垃圾伪装”关联的伪造账号针对了在阿拉巴马、田纳西和得克萨斯等州寻求连任的众议院和参议院共和党人。
人工智能在推动这种演变。
近年人工智能的进步已经将不实信息的效力推向以往选举无法想象的程度，让政府代理人可以更精巧而高效地制作和发布。
将人工智能技术推向大众的ChatGPT工具的开发者OpenAI本月发布报告称，在6月到9月间，公司瓦解了超过20项外国利用其产品进行的行动。其中包括俄罗斯、中国、伊朗以及其它国家，它们创建网站并填入内容，在社交媒体上开展宣传或不实信息传播——甚至会对具体帖文进行分析和回复。（纽约时报去年因新闻内容版权侵犯问题起诉了OpenAI和微软，两家公司都否认这一诉讼主张。）
“AI的能力被用于加剧我们预料到和正在看到的威胁，”网络安全和基础设施安全局局长珍·伊斯特里在采访中说。“基本上就是在降低外国行为者开展更复杂的影响行动的门槛。”
透过约翰·马克·杜根的所作所为可以看到商业人工智能工具的实用性。杜根曾是佛罗里达州的一位副警长，在受到刑事指控后，他逃离美国，现居住在俄罗斯。
他在莫斯科的一间公寓里工作，创建了数十个冒充美国新闻媒体的网站，并利用这些网站发布虚假信息，基本上他一个人就完成了八年前需要一大批机器水军才能完成的工作。据详细追踪相关活动的NewsGuard公司称，杜根的网站散布了多条对贺锦丽及其竞选搭档、明尼苏达州州长蒂姆·沃尔兹的贬损言论。
美国司法部表示，俄罗斯行动人员一直在Reddit和极右翼青睐的论坛上支持前总统特朗普 Kent Nishimura for The New York Times
中国也在全世界各地的竞选活动中部署了一套越来越先进的工具，其中包括经过人工智能篡改的音频文件、具有破坏性的米姆和伪造的民意调查。今年，一段关于弗吉尼亚州共和党众议员的深度伪造视频在TikTok上流传，并附有中文字幕，该视频谎称这位政治人士正在为一位批评北京的人士拉票，后者曾竞选（并最终赢得）台湾总统大选。
对虚假信息的识别变得愈发困难。
这三个国家也越来越善于掩盖自己的踪迹。
上个月，俄罗斯被发现试图通过暗中支持一群通过Tenet Media雇用的美国保守派评论员，掩盖其影响美国人的企图。Tenet Media是2023年创建于田纳西州的数字平台。
该公司充当了看似合法的幌子，发布了数十段带有尖锐政治评论观点的视频，以及关于选举舞弊、新冠疫情、移民和俄乌战争的阴谋论。即使是那些因在Tenet上露面而秘密获得报酬的博主也表示，他们不知道这些钱来自俄罗斯。
根据澳大利亚战略政策研究所去年秋季的一份报告，与俄罗斯的阴谋类似，中国特工一直在培养一个外国博主网络来帮助传播其言论，创造了一个被描述为“外国嘴”、“外国笔”和“外国脑”的群体。
大西洋理事会数字取证研究实验室高级主管格雷厄姆·布鲁克表示，这些新策略使政府机构和科技公司更难发现和消除相关影响力活动，同时让其它敌对国家变得更为大胆。
“哪里有更多恶性外国影响力活动，哪里就会创造更大的表面空间，让其他不良行为者得到更多进入该空间的许可，”他说。“如果他们都这样做，那曝光的代价就不会那么大了。”
科技公司并没有采取太多措施阻止虚假信息。
科技巨头几乎放弃了打击虚假信息的努力，外国虚假信息则呈爆炸式增长。自上届总统大选以来，包括Meta、谷歌、OpenAI和微软在内的大型公司已经减少了标记和删除虚假信息的尝试。其它公司则根本没有组建任何团队。
科技公司安全官员和高管表示，由于科技公司之间缺乏统一的政策，因此无法形成统一战线来对抗外国虚假信息。
“这些替代平台没有同等程度的内容审核以及强有力的信任和安全实践，而相关措施可能会减轻这些活动的影响，”保卫民主基金会的莱瑟尔说。
他还说，即使是X、Facebook和Instagram等大型平台也陷入了一场永无止境的打地鼠游戏，因为一旦相关影响力活动遭到移除，外国政府特工就会迅速将其重新打造起来。追踪在线威胁的公司Alethea最近发现，一个使用以戴胜鸟（一种色彩鲜艳的鸟类）命名的账户的伊朗虚假信息活动最近又出现在X上，尽管此前该账户已两次被封禁。
2016年俄罗斯对总统选举的干预跟今天的不实信息行动有很大差异。 Marina Lystseva/Reuters
在干预2016年美国总统大选时，俄罗斯在网上传播制造不合、煽动情绪的帖子，以期挑起怒火，那些帖子显得草率，充满了拼写错误和奇怪的语法。它们的意图是尽一切必要手段引起注意。
“希拉里是撒旦，”一个俄罗斯创建的Facebook帖子说。
八年后的今天，外国对美国选举的干预变得更精密、更隐蔽。
据美国情报和国防官员、科技公司和学术研究人员称，来自境外的不实信息——主要来自俄罗斯、中国和伊朗——已经成熟，变成了一种稳固而致命的威胁，这些国家在测试、迭代和部属越来越精细的战术。即便只是改变一小群美国人的立场，都有可能对总统选举的结果产生巨大的影响，民调显示这场选举处于势均力敌的态势。
据美国的情报评估，俄罗斯希望推动前总统唐纳德·J·特朗普当选，而伊朗偏向他的对手贺锦丽副总统。中国似乎没有什么倾向。
但它们的行动的总体目标没有改变，那就是播下不和与混乱的种子，从而让美国民主在世界面前失去信誉。不过行动本身已经有所变化，在适应一个不断改变的媒体环境，以及新工具的普及，这些工具让它们可以轻易地愚弄那些轻信的受众。
以下是境外不实信息所经历的演变：
不实信息如今基本上已经无处不在。
俄罗斯是2016年美国选举相关的不实信息的主要构建者，其帖文基本上发表在Facebook上。
现在伊朗和中国也在进行类似的美国政治影响行动，这三个国家都覆盖了十几个平台，其中既有美国人聊当地天气的小论坛，也有因为共同的兴趣而结成的聊天群组。这些国家在相互借鉴，不过尚不确定它们是否有直接的战略合作。
在Telegram上有大量俄罗斯账号在传播制造不和、有时极为尖刻的视频、米姆和文章，都与总统大选有关。至少还有数百个来自中国的账号伪装成学生，在今夏的美国校园内煽动因加沙战争而起的分歧。两个国家在Gab上也都有账号，这是个名气略小的社交媒体平台，受极右翼人士青睐，他们在这里致力于宣传阴谋论。
伊朗、俄罗斯和中国都在进行类似的美国政治影响行动，覆盖了在十多个平台。 Kenny Holston/The New York Times
据司法部在9月公开的内部文件，俄罗斯行动人员还试图在Reddit和极右翼偏爱的论坛上支持特朗普，针对六个摇摆州的选民、西语裔美国人、游戏玩家以及其他被俄罗斯认为可能支持特朗普的人。
与中国政府影响行动有关联的“垃圾伪装”(Spamouflage)，在四个平台上——YouTube、X、Instagram和TikTok——使用了一个名为Harlan的账号，以求制造这些有保守派倾向的内容来自一个美国人的假象。
内容的针对性大大增加。
这些外国传播的新型不实信息并不只是针对摇摆州，还针对州内的具体选区，以及区内的具体民族和宗教团体。据研究了这种新型影响行动的研究人员和学者说，不实信息越有针对性，就越有可能产生持久的效果。
“当不实信息是为具体受众度身定制，以影响他们的兴趣或观点，那就更有效了，”伦敦研究机构战略对话研究所的研究总监梅兰妮·史密斯说。“在以往的选举中，我们会试图确定最大的那个虚假叙事是什么。这一次，撩拨情绪的是一些隐晦的两极化讯息。”
伊朗尤其将大量资源用于开展隐秘的不实信息行动，以吸引一些具体的人群。一个名为“不是我们的战争”(Not Our War)的网站旨在吸引美国退伍军人，在有关现役军人得不到支持的文章中夹杂恶毒的反美观点和阴谋论。
其他的网站包括“非洲多数派”(Afro Majority)，制作面向美国黑人的内容，以及“萨凡纳时间”(Savannah Time)，意在改变摇摆州乔治亚的保守派选民的立场。在另一个摇摆州密西根，伊朗创建了一个名叫“韦斯特兰太阳”(Westland Sun)的网媒，面相底特律郊区的阿拉伯裔美国人。
“伊朗会去针对密西根的阿拉伯和穆斯林人口，这表明它对美国的政治局势有着深切的理解，正在进行高明的运作，用有针对性的方式说服一个关键人群，以求影响选举，”保卫民主基金会高级分析师麦克斯·莱瑟尔说。
中国和俄罗斯也采用了类似的模式。据监控网络不实信息的Logically称，今年在X上，中国官方媒体用西班牙语散布了有关美国最高法院的虚假叙事，讲西班牙语的用户在Facebook和YouTube上做了进一步的传播。
研究中国不实信息的专家表示，和北京有关联的伪造社交媒体账号已经变得更具说服力，有更多的互动，并且现在加入了身为美国人或退伍军人的第一人称指示。据微软威胁分析中心的一份报告，近几周，与中国的“垃圾伪装”关联的伪造账号针对了在阿拉巴马、田纳西和得克萨斯等州寻求连任的众议院和参议院共和党人。
人工智能在推动这种演变。
近年人工智能的进步已经将不实信息的效力推向以往选举无法想象的程度，让政府代理人可以更精巧而高效地制作和发布。
将人工智能技术推向大众的ChatGPT工具的开发者OpenAI本月发布报告称，在6月到9月间，公司瓦解了超过20项外国利用其产品进行的行动。其中包括俄罗斯、中国、伊朗以及其它国家，它们创建网站并填入内容，在社交媒体上开展宣传或不实信息传播——甚至会对具体帖文进行分析和回复。（纽约时报去年因新闻内容版权侵犯问题起诉了OpenAI和微软，两家公司都否认这一诉讼主张。）
“AI的能力被用于加剧我们预料到和正在看到的威胁，”网络安全和基础设施安全局局长珍·伊斯特里在采访中说。“基本上就是在降低外国行为者开展更复杂的影响行动的门槛。”
透过约翰·马克·杜根的所作所为可以看到商业人工智能工具的实用性。杜根曾是佛罗里达州的一位副警长，在受到刑事指控后，他逃离美国，现居住在俄罗斯。
他在莫斯科的一间公寓里工作，创建了数十个冒充美国新闻媒体的网站，并利用这些网站发布虚假信息，基本上他一个人就完成了八年前需要一大批机器水军才能完成的工作。据详细追踪相关活动的NewsGuard公司称，杜根的网站散布了多条对贺锦丽及其竞选搭档、明尼苏达州州长蒂姆·沃尔兹的贬损言论。
美国司法部表示，俄罗斯行动人员一直在Reddit和极右翼青睐的论坛上支持前总统特朗普 Kent Nishimura for The New York Times
中国也在全世界各地的竞选活动中部署了一套越来越先进的工具，其中包括经过人工智能篡改的音频文件、具有破坏性的米姆和伪造的民意调查。今年，一段关于弗吉尼亚州共和党众议员的深度伪造视频在TikTok上流传，并附有中文字幕，该视频谎称这位政治人士正在为一位批评北京的人士拉票，后者曾竞选（并最终赢得）台湾总统大选。
对虚假信息的识别变得愈发困难。
这三个国家也越来越善于掩盖自己的踪迹。
上个月，俄罗斯被发现试图通过暗中支持一群通过Tenet Media雇用的美国保守派评论员，掩盖其影响美国人的企图。Tenet Media是2023年创建于田纳西州的数字平台。
该公司充当了看似合法的幌子，发布了数十段带有尖锐政治评论观点的视频，以及关于选举舞弊、新冠疫情、移民和俄乌战争的阴谋论。即使是那些因在Tenet上露面而秘密获得报酬的博主也表示，他们不知道这些钱来自俄罗斯。
根据澳大利亚战略政策研究所去年秋季的一份报告，与俄罗斯的阴谋类似，中国特工一直在培养一个外国博主网络来帮助传播其言论，创造了一个被描述为“外国嘴”、“外国笔”和“外国脑”的群体。
大西洋理事会数字取证研究实验室高级主管格雷厄姆·布鲁克表示，这些新策略使政府机构和科技公司更难发现和消除相关影响力活动，同时让其它敌对国家变得更为大胆。
“哪里有更多恶性外国影响力活动，哪里就会创造更大的表面空间，让其他不良行为者得到更多进入该空间的许可，”他说。“如果他们都这样做，那曝光的代价就不会那么大了。”
科技公司并没有采取太多措施阻止虚假信息。
科技巨头几乎放弃了打击虚假信息的努力，外国虚假信息则呈爆炸式增长。自上届总统大选以来，包括Meta、谷歌、OpenAI和微软在内的大型公司已经减少了标记和删除虚假信息的尝试。其它公司则根本没有组建任何团队。
科技公司安全官员和高管表示，由于科技公司之间缺乏统一的政策，因此无法形成统一战线来对抗外国虚假信息。
“这些替代平台没有同等程度的内容审核以及强有力的信任和安全实践，而相关措施可能会减轻这些活动的影响，”保卫民主基金会的莱瑟尔说。
他还说，即使是X、Facebook和Instagram等大型平台也陷入了一场永无止境的打地鼠游戏，因为一旦相关影响力活动遭到移除，外国政府特工就会迅速将其重新打造起来。追踪在线威胁的公司Alethea最近发现，一个使用以戴胜鸟（一种色彩鲜艳的鸟类）命名的账户的伊朗虚假信息活动最近又出现在X上，尽管此前该账户已两次被封禁。