▲ 今年是一个大家都知道的选举大年，全球高达50多个国家将举行超过70场的大选。图为刚于前天（5日）举行的巴拿马总统大选。
曾经，这个世界，真的东西假不了，假的东西真不了；但现在，这个世界，无论真的假的，看起来都像真的。
这什么意思？
今年是一个大家都知道的选举大年，全球高达50多个国家将举行超过70场的大选。不但大选的结果将影响全球超过一半以上的人口，甚至会影响全球未来十年的政经走向。不过，这些选举正面临着来自有意无意所编造的虚假讯息，让本来就很乱的这个世界乱还要更乱。
到底有多乱？今年一月份的达沃斯世界经济论坛竟然发表了一篇：「重大选举年：如何阻止人工智慧破坏2024年投票」的文章。文中提到，「2024年将有42亿人参加投票，在人工智慧时代，错误讯息和虚假讯息的大量出现非常可能影响民主体制，但这绝不是民主运动所想要的。
最可怕的是，连OpenAI的CEO阿特曼（Sam Altman）都认为未来的AI可能会为你我发送量身订制的讯息，来改变你我对这个世界的看法。事实上，阿特曼的说法肯定不是杞人忧天，人工智慧造假正在日益影响我们的价值观和判断力。
假新闻扭曲人的判断力 人工智慧几可乱真
▲ 最新一期的《经济学人》带读者一窥现在几乎已经铺天盖地的虚假讯息。
这期的《经济学人》封面设计非常形象化，编辑群让我们看见的是五个从天而降的吊钩吊着的LIES谎言，配上上方的黑字，基本上就是「TRUTH AND LIES 事实与谎言。」下面一排补充小字「The new science of disinformation 虚假讯息的新科学。」
《经济学人》用了绪论第一篇和科技板块的四篇文章带我们一窥现在几乎已经铺天盖地的虚假讯息。确实，很多人以为去年夏天肆虐夏威夷的野火，是由美国武装部队测试的一个「气象武器」所引发的，还有人说美国有一个非政府组织正在非洲努力传播着登革热？ 另外，有人言之凿凿乌克兰第一夫人欧伦娜（Olena Zelenska）在曼哈顿第五大道疯狂购物 ，一口气花费了110 万美元？
对的，上面这些讯息都是假的。它们只是现在这个世界虚假讯息的一部，怎么定义它们？简单，为了欺骗所产生出来的谎言就是虚假讯息。这些荒唐的故事正透过各种复杂的途径在全球各地传播。难以辨识的人工智慧和错综复杂的社交媒体被频频用来制作和分享令人难以判断，但几可乱真的照片、影片和录音，这一切已经混淆了什么是真的什么是假的。今年这个大选年进一步加剧了人们的担忧，越来越多人相信科技将让虚假讯息变得更无法无天，它们甚至可能进一步破坏整个民主体制。我们到底应该多担心？
▲ 有人言之凿凿称乌克兰第一夫人欧伦娜在曼哈顿第五大道疯狂购物 ，一口气花费了110 万美元，后被证实为假新闻。
只要上面提及的争论继续存在，虚假资讯就不会消失。历史上本来就充斥着为了歌功颂德而撰写的虚假史实，很多的历史描述既是历史叙述，也是一种政治宣传，纸本印刷时代也没有好不到哪里去。
互联网让问题变得更加严重。假讯息可以在社群媒体上以极低的成本传播；人工智慧进一步压低了制作成本。在本期《经济学人》的科技板块文章中，《经济学人》追踪了它透过社群媒体帐号和网站网路传播的复杂方式。例如，俄罗斯针对欧伦娜女士的报导最初是在YouTube上发布的一段影片，然后透过位在非洲的假新闻网站传播，并得到了其他网站和社交媒体的推荐，其结果就变成了一则似是而非的假新闻。
事实证明，大多数假讯息的运作方式极其相似。例如，中国在中东的假讯息行动中诽谤了韩国企业所使用的科技，但仔细研究，会发现其手法实与俄罗斯在欧洲各地传播假讯息所使用的方法非常相近。
许多虚假讯息的目的只是为了毒化公共领域，或是在整个社会播下一个不信任的种子。所有这些当然会引发人们的担忧，即科技正在让虚假讯息越来越难被识破，然后进一步威胁了民主体制。但《经济学人》认为有一些方法仍然可以最小化的管理好这个问题。
▲ 许多虚假讯息的目的只是为了毒化公共领域，或是在整个社会播下一个不信任的种子。
科技是作恶的力量 也是行善的力量
了以安慰的是，科技既是作恶的力量，也是行善的力量。尽管人工智慧让虚假讯息的产生成本大大降低，但它也间接帮助了假讯息的追踪和检测。无论虚假讯息来源多复杂，或是说有几个传播者帐户，人工智慧模型仍然可以检测到看相似的叙述。
更好的协调互助也有帮助。在某些方面，这种情况类似于20世纪80年代的气候科学，当时气象学家、海洋学家和地球科学家可以判断正在发生的事情，但每个人都只看了图片的一部分，唯有将它们放在一起，气候变迁的全部范围才变得清晰起来。
但更深入的理解还需要可以更好地存取数据资料。在当今演算法主导的这个世界里，只有科技公司才知道谁在阅读？读的是什么？ 根据美国法律，这些公司没有义务与研究人员分享数据资料。 但欧洲新的数位服务法案开始强制要求数据的共享，并且可以成为其他国家的模板。
▲ 《联合报》去年7月指控政府依美方要求研发生物战剂、规划设置新建生物安全P4等级实验室等，还拿出造假文件，在第一时间就被台湾、美国政府驳斥，并要更正、下架新闻。
这种协调合作在某些地方比其他地方更容易实现。例如，台湾被认为是处理虚假讯息活动的黄金标准。国家虽小，对政府的信任度很高，而且来自外国势力的威胁非常容易被发现。其他国家则相对资源较少，对政府机构的信任也较弱。尤有甚者，在美国，两极分化的政治意味着打击虚假信息的努力被描述为左翼在网上压制右翼发声的阴谋证据。
今天的我们，需要认真对待并仔细研究所谓的虚假资讯危险。目前，几乎没有证据显示虚假讯息可以影响选举结果。 过去几个世纪，一直有人在兜售虚假讯息，也一直有人选择相信。但我们的社会通常可以找到应对方法。如今，虚假讯息可能呈现出一种更新、更复杂的形式。但放心，目前为止，它还没有变成一个前所未有、无懈可击的威胁。
打击假消息 需要整个社会总动员
过去十年，移动互联网和社交媒体打破了人与人之间的界线，让天涯海角也阻止不了人与人之间的交流，但却也让害人之心不可有，防人之心不可无这句话被破了防；生成式人工智慧的横空出世，更是一下子成了万人追逐的热点，不但在金融市场香孛孛，更是未来世界的美好推进器。但，事实上，它们在提高虚拟世界的互动性、趣味性和便捷性的同时，却也让我们的信息风险和隐患受到了越来越多人的担忧。如今，这些担忧已经不再是危言耸听，一个个不断出现的案例正在提醒我们虚假信息的铺天盖地已经到了防不胜防的地步。
▲虚假讯息绝对是一个不容小觑的问题，但它需要的是整个社会跨部门的协调行动。
我感觉吧，虚假讯息绝对是一个不容小觑的问题，但它需要的是整个社会跨部门的协调行动。不幸的是，政府单位对虚假讯息的分析往往是孤立的，并且在专业术语方面缺乏共识，这使得政府往往沦为头痛医头、脚痛医脚的后知后觉一员，不但难以将已经发生的虚假诈骗串连起来，甚至很难形成更广泛的经验教训。
事实上，任何科技肯定都是一体两面，端看谁把它操控的最好。所以，我们必须永远掌握好操控人工智慧的角色，善用防御性的人工智慧侦测工具也许就是抵御进攻性生成式工具的最佳武器。起码，现在的科技公司绝对有能力精准地发现假的影片。当然，道高一尺魔高一丈，即使可以完美且准确地检测出虚假讯息，也不见得每个人都会相信它们是假的。大家想想，如果人们根本懒得进行所谓的事实查核，久而久之就会变得抵制事实查核，为什么？因为科技进步已经让你我越来越懒，越来越喜欢享用所谓的速食资讯，当我们一个个成为了滑着手机不用大脑的讯息接收者，当我们变成人家喂你什么你想也不想张口就吞，虚假讯息把你打得落花流水好像也变得理所当然的，你说是不是？
▲ 今年是一个大家都知道的选举大年，全球高达50多个国家将举行超过70场的大选。图为刚于前天（5日）举行的巴拿马总统大选。
曾经，这个世界，真的东西假不了，假的东西真不了；但现在，这个世界，无论真的假的，看起来都像真的。
这什么意思？
今年是一个大家都知道的选举大年，全球高达50多个国家将举行超过70场的大选。不但大选的结果将影响全球超过一半以上的人口，甚至会影响全球未来十年的政经走向。不过，这些选举正面临着来自有意无意所编造的虚假讯息，让本来就很乱的这个世界乱还要更乱。
到底有多乱？今年一月份的达沃斯世界经济论坛竟然发表了一篇：「重大选举年：如何阻止人工智慧破坏2024年投票」的文章。文中提到，「2024年将有42亿人参加投票，在人工智慧时代，错误讯息和虚假讯息的大量出现非常可能影响民主体制，但这绝不是民主运动所想要的。
最可怕的是，连OpenAI的CEO阿特曼（Sam Altman）都认为未来的AI可能会为你我发送量身订制的讯息，来改变你我对这个世界的看法。事实上，阿特曼的说法肯定不是杞人忧天，人工智慧造假正在日益影响我们的价值观和判断力。
假新闻扭曲人的判断力 人工智慧几可乱真
▲ 最新一期的《经济学人》带读者一窥现在几乎已经铺天盖地的虚假讯息。
这期的《经济学人》封面设计非常形象化，编辑群让我们看见的是五个从天而降的吊钩吊着的LIES谎言，配上上方的黑字，基本上就是「TRUTH AND LIES 事实与谎言。」下面一排补充小字「The new science of disinformation 虚假讯息的新科学。」
《经济学人》用了绪论第一篇和科技板块的四篇文章带我们一窥现在几乎已经铺天盖地的虚假讯息。确实，很多人以为去年夏天肆虐夏威夷的野火，是由美国武装部队测试的一个「气象武器」所引发的，还有人说美国有一个非政府组织正在非洲努力传播着登革热？ 另外，有人言之凿凿乌克兰第一夫人欧伦娜（Olena Zelenska）在曼哈顿第五大道疯狂购物 ，一口气花费了110 万美元？
对的，上面这些讯息都是假的。它们只是现在这个世界虚假讯息的一部，怎么定义它们？简单，为了欺骗所产生出来的谎言就是虚假讯息。这些荒唐的故事正透过各种复杂的途径在全球各地传播。难以辨识的人工智慧和错综复杂的社交媒体被频频用来制作和分享令人难以判断，但几可乱真的照片、影片和录音，这一切已经混淆了什么是真的什么是假的。今年这个大选年进一步加剧了人们的担忧，越来越多人相信科技将让虚假讯息变得更无法无天，它们甚至可能进一步破坏整个民主体制。我们到底应该多担心？
▲ 有人言之凿凿称乌克兰第一夫人欧伦娜在曼哈顿第五大道疯狂购物 ，一口气花费了110 万美元，后被证实为假新闻。
只要上面提及的争论继续存在，虚假资讯就不会消失。历史上本来就充斥着为了歌功颂德而撰写的虚假史实，很多的历史描述既是历史叙述，也是一种政治宣传，纸本印刷时代也没有好不到哪里去。
互联网让问题变得更加严重。假讯息可以在社群媒体上以极低的成本传播；人工智慧进一步压低了制作成本。在本期《经济学人》的科技板块文章中，《经济学人》追踪了它透过社群媒体帐号和网站网路传播的复杂方式。例如，俄罗斯针对欧伦娜女士的报导最初是在YouTube上发布的一段影片，然后透过位在非洲的假新闻网站传播，并得到了其他网站和社交媒体的推荐，其结果就变成了一则似是而非的假新闻。
事实证明，大多数假讯息的运作方式极其相似。例如，中国在中东的假讯息行动中诽谤了韩国企业所使用的科技，但仔细研究，会发现其手法实与俄罗斯在欧洲各地传播假讯息所使用的方法非常相近。
许多虚假讯息的目的只是为了毒化公共领域，或是在整个社会播下一个不信任的种子。所有这些当然会引发人们的担忧，即科技正在让虚假讯息越来越难被识破，然后进一步威胁了民主体制。但《经济学人》认为有一些方法仍然可以最小化的管理好这个问题。
▲ 许多虚假讯息的目的只是为了毒化公共领域，或是在整个社会播下一个不信任的种子。
科技是作恶的力量 也是行善的力量
了以安慰的是，科技既是作恶的力量，也是行善的力量。尽管人工智慧让虚假讯息的产生成本大大降低，但它也间接帮助了假讯息的追踪和检测。无论虚假讯息来源多复杂，或是说有几个传播者帐户，人工智慧模型仍然可以检测到看相似的叙述。
更好的协调互助也有帮助。在某些方面，这种情况类似于20世纪80年代的气候科学，当时气象学家、海洋学家和地球科学家可以判断正在发生的事情，但每个人都只看了图片的一部分，唯有将它们放在一起，气候变迁的全部范围才变得清晰起来。
但更深入的理解还需要可以更好地存取数据资料。在当今演算法主导的这个世界里，只有科技公司才知道谁在阅读？读的是什么？ 根据美国法律，这些公司没有义务与研究人员分享数据资料。 但欧洲新的数位服务法案开始强制要求数据的共享，并且可以成为其他国家的模板。
▲ 《联合报》去年7月指控政府依美方要求研发生物战剂、规划设置新建生物安全P4等级实验室等，还拿出造假文件，在第一时间就被台湾、美国政府驳斥，并要更正、下架新闻。
这种协调合作在某些地方比其他地方更容易实现。例如，台湾被认为是处理虚假讯息活动的黄金标准。国家虽小，对政府的信任度很高，而且来自外国势力的威胁非常容易被发现。其他国家则相对资源较少，对政府机构的信任也较弱。尤有甚者，在美国，两极分化的政治意味着打击虚假信息的努力被描述为左翼在网上压制右翼发声的阴谋证据。
今天的我们，需要认真对待并仔细研究所谓的虚假资讯危险。目前，几乎没有证据显示虚假讯息可以影响选举结果。 过去几个世纪，一直有人在兜售虚假讯息，也一直有人选择相信。但我们的社会通常可以找到应对方法。如今，虚假讯息可能呈现出一种更新、更复杂的形式。但放心，目前为止，它还没有变成一个前所未有、无懈可击的威胁。
打击假消息 需要整个社会总动员
过去十年，移动互联网和社交媒体打破了人与人之间的界线，让天涯海角也阻止不了人与人之间的交流，但却也让害人之心不可有，防人之心不可无这句话被破了防；生成式人工智慧的横空出世，更是一下子成了万人追逐的热点，不但在金融市场香孛孛，更是未来世界的美好推进器。但，事实上，它们在提高虚拟世界的互动性、趣味性和便捷性的同时，却也让我们的信息风险和隐患受到了越来越多人的担忧。如今，这些担忧已经不再是危言耸听，一个个不断出现的案例正在提醒我们虚假信息的铺天盖地已经到了防不胜防的地步。
▲虚假讯息绝对是一个不容小觑的问题，但它需要的是整个社会跨部门的协调行动。
我感觉吧，虚假讯息绝对是一个不容小觑的问题，但它需要的是整个社会跨部门的协调行动。不幸的是，政府单位对虚假讯息的分析往往是孤立的，并且在专业术语方面缺乏共识，这使得政府往往沦为头痛医头、脚痛医脚的后知后觉一员，不但难以将已经发生的虚假诈骗串连起来，甚至很难形成更广泛的经验教训。
事实上，任何科技肯定都是一体两面，端看谁把它操控的最好。所以，我们必须永远掌握好操控人工智慧的角色，善用防御性的人工智慧侦测工具也许就是抵御进攻性生成式工具的最佳武器。起码，现在的科技公司绝对有能力精准地发现假的影片。当然，道高一尺魔高一丈，即使可以完美且准确地检测出虚假讯息，也不见得每个人都会相信它们是假的。大家想想，如果人们根本懒得进行所谓的事实查核，久而久之就会变得抵制事实查核，为什么？因为科技进步已经让你我越来越懒，越来越喜欢享用所谓的速食资讯，当我们一个个成为了滑着手机不用大脑的讯息接收者，当我们变成人家喂你什么你想也不想张口就吞，虚假讯息把你打得落花流水好像也变得理所当然的，你说是不是？