美国前特朗普总统特朗普（Donald Trump）预告自己会被捕，近日在社交网络上流传着不少人工智能AI生成的图片，显示着特朗普遭FBI追赶及拘捕的画面。虽然图片明显是假的，但外界忧虑随着AI生成图片像真度愈来愈高，遭有心人利用散播虚假讯息，可对社会造成混乱。 在特朗普预告自己会被捕后，有网民特意在Twitter上，上载了多幅特朗普被捕的图片。图片中特朗普在建筑物外遭警方围捕，及在路上遭FBI追究等，甚至有被送进监狱的样子。这些图片均由AI生成。 制作图片的网民表示，他只是利用月费30美元的AI生成图像软件，输入简单提示，就制作出照片。他原本以为只有5人转发，想不到短短两天图片的浏览量已衝破560万，有数以千计的人将照片转发。 儘管图片一看明显是假的，但仍能吸引一般使用者的眼球。特别是若使用更像真的模组配搭精细字词和后期修葺，相信不难制作让人乍看误以为是真的照片。而即使制作人发布照片时表明是假的，经转发后其他用户已无法得悉真假。 Twitter的用户指引中有说明，使用者不应分享虚假影像，公司亦会标籤有误导成分的帖文，但被问到为何特朗普的假相无被标籤时，Twitter未有正面回应。Facebook母公司Meta亦会移除有误导性的内容，然而至少有1个Facebook的用户把特朗普被捕的“照片”当成真事分享过。 《华盛顿邮报》的分析认为，这次特朗普假相事件，反映在欠缺监管和规范下，虚假讯息很容易一传十，十传百。有专家亦指出，人工智能生成图像操作容易、成本低廉，在技术日趋成熟下几可乱真。特别在关键时刻，不论是灾难还是政治事件，大量涌现的虚假图片恐怕会引起社会混乱。
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ — Eliot Higgins (@EliotHiggins) March 20, 2023
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
pic.twitter.com/dZm6bedz5o — Eliot Higgins (@EliotHiggins) March 20, 2023
pic.twitter.com/dZm6bedz5o
pic.twitter.com/p2sxKzzIRv — Eliot Higgins (@EliotHiggins) March 20, 2023
pic.twitter.com/p2sxKzzIRv
pic.twitter.com/VlJZObjTAW — Eliot Higgins (@EliotHiggins) March 20, 2023
pic.twitter.com/VlJZObjTAW
美国前特朗普总统特朗普（Donald Trump）预告自己会被捕，近日在社交网络上流传着不少人工智能AI生成的图片，显示着特朗普遭FBI追赶及拘捕的画面。虽然图片明显是假的，但外界忧虑随着AI生成图片像真度愈来愈高，遭有心人利用散播虚假讯息，可对社会造成混乱。
在特朗普预告自己会被捕后，有网民特意在Twitter上，上载了多幅特朗普被捕的图片。图片中特朗普在建筑物外遭警方围捕，及在路上遭FBI追究等，甚至有被送进监狱的样子。这些图片均由AI生成。
制作图片的网民表示，他只是利用月费30美元的AI生成图像软件，输入简单提示，就制作出照片。他原本以为只有5人转发，想不到短短两天图片的浏览量已衝破560万，有数以千计的人将照片转发。
儘管图片一看明显是假的，但仍能吸引一般使用者的眼球。特别是若使用更像真的模组配搭精细字词和后期修葺，相信不难制作让人乍看误以为是真的照片。而即使制作人发布照片时表明是假的，经转发后其他用户已无法得悉真假。
Twitter的用户指引中有说明，使用者不应分享虚假影像，公司亦会标籤有误导成分的帖文，但被问到为何特朗普的假相无被标籤时，Twitter未有正面回应。Facebook母公司Meta亦会移除有误导性的内容，然而至少有1个Facebook的用户把特朗普被捕的“照片”当成真事分享过。
《华盛顿邮报》的分析认为，这次特朗普假相事件，反映在欠缺监管和规范下，虚假讯息很容易一传十，十传百。有专家亦指出，人工智能生成图像操作容易、成本低廉，在技术日趋成熟下几可乱真。特别在关键时刻，不论是灾难还是政治事件，大量涌现的虚假图片恐怕会引起社会混乱。