美国OpenAI公司研发的ChatGPT聊天机器人近期爆红，但所衍生出的问题也接踵而来。新闻评等组织NewsGuard 5月1日发布报告指，由AI聊天机器人生成的新闻网站近期激增至少49家，引发外界质疑AI工具是否助长假讯息传播。 彭博资讯检视了这49家网站，网站内容包容万象，有些包装成提供即时新闻的网站，名称也听起来很可信，像是“News Live 79”和“Daily Business Post”，也有的网站是以生活风尚、名流消息的内容为主，甚至有网站是专门发布广告内容，但都没有透露他们使用OpenAI公司研发的ChatGPT或谷歌（Google）的“Bard”AI聊天机器人。 NewsGuard指出，有一个名为CelebritiesDeaths.com的网站4月就发表了一篇AI生成的文章，标题为“拜登逝世、贺锦丽出任代理总统，上午9时将发表谈话”。另一个网站则假造了一篇讣闻，用AI描写一名建筑师的人生和作品。还有一个名为TNewsNetwork的网站，则根据YouTube影片发布了一则俄乌战争中数千名俄军丧生的故事，但完全未经查证。 报导指出，这些网站绝大多数都是品质低劣的内容农场，只是要藉由发布文章来带入广告。这些网站遍布世界各地，并以英语、葡萄牙语、菲律宾塔加禄语、泰语等语言发布。 其中少数网站还会收费刊登文章，协助“客户”提升搜寻排序。另外一些网站则试图在社群媒体建立读者，例如刊登名流生平故事的ScoopEarth.com，其脸书专页有12.4万人追踪。 超过半数网站藉由刊登“程序化广告”来赚取收入，也就是透过演算化自动买卖广告栏位。 NewsGuard共同执行长克罗维兹（Gordon Crovitz）说，这份报告显示，OpenAI与Google等提供生成式AI服务的公司应该小心训练他们的模型，不要用于捏造新闻。曾任《华尔街日报》发行人的克罗维兹说：“使用已知会虚构事实的AI模型去制作那些看似新闻网站的内容，是伪装成新闻业的诈欺行为。” OpenAI未立即回应置评请求，但该公司之前曾表示，会结合人工与自动化系统来识别系统遭滥用的事件，并发出警告或禁止使用。 谷歌发言人艾西曼（Michael Aciman）则表示，该公司重视内容品质，不允许广告刊登在有害内容、垃圾文章或明显从其他网站复制的文章旁边。谷歌表示，在接获彭博联系后，已自其中部分网站页面移除Google广告。 谷歌强调，使用AI产生的内容，不一定会违反该公司政策，但若利用AI来操纵搜寻排序，则违反该公司有关垃圾内容的政策，会定期监控其广告生态系统中的滥用趋势，并相应调整其政策和法规。
美国OpenAI公司研发的ChatGPT聊天机器人近期爆红，但所衍生出的问题也接踵而来。新闻评等组织NewsGuard 5月1日发布报告指，由AI聊天机器人生成的新闻网站近期激增至少49家，引发外界质疑AI工具是否助长假讯息传播。
彭博资讯检视了这49家网站，网站内容包容万象，有些包装成提供即时新闻的网站，名称也听起来很可信，像是“News Live 79”和“Daily Business Post”，也有的网站是以生活风尚、名流消息的内容为主，甚至有网站是专门发布广告内容，但都没有透露他们使用OpenAI公司研发的ChatGPT或谷歌（Google）的“Bard”AI聊天机器人。
NewsGuard指出，有一个名为CelebritiesDeaths.com的网站4月就发表了一篇AI生成的文章，标题为“拜登逝世、贺锦丽出任代理总统，上午9时将发表谈话”。另一个网站则假造了一篇讣闻，用AI描写一名建筑师的人生和作品。还有一个名为TNewsNetwork的网站，则根据YouTube影片发布了一则俄乌战争中数千名俄军丧生的故事，但完全未经查证。
报导指出，这些网站绝大多数都是品质低劣的内容农场，只是要藉由发布文章来带入广告。这些网站遍布世界各地，并以英语、葡萄牙语、菲律宾塔加禄语、泰语等语言发布。
其中少数网站还会收费刊登文章，协助“客户”提升搜寻排序。另外一些网站则试图在社群媒体建立读者，例如刊登名流生平故事的ScoopEarth.com，其脸书专页有12.4万人追踪。
超过半数网站藉由刊登“程序化广告”来赚取收入，也就是透过演算化自动买卖广告栏位。
NewsGuard共同执行长克罗维兹（Gordon Crovitz）说，这份报告显示，OpenAI与Google等提供生成式AI服务的公司应该小心训练他们的模型，不要用于捏造新闻。曾任《华尔街日报》发行人的克罗维兹说：“使用已知会虚构事实的AI模型去制作那些看似新闻网站的内容，是伪装成新闻业的诈欺行为。”
OpenAI未立即回应置评请求，但该公司之前曾表示，会结合人工与自动化系统来识别系统遭滥用的事件，并发出警告或禁止使用。
谷歌发言人艾西曼（Michael Aciman）则表示，该公司重视内容品质，不允许广告刊登在有害内容、垃圾文章或明显从其他网站复制的文章旁边。谷歌表示，在接获彭博联系后，已自其中部分网站页面移除Google广告。
谷歌强调，使用AI产生的内容，不一定会违反该公司政策，但若利用AI来操纵搜寻排序，则违反该公司有关垃圾内容的政策，会定期监控其广告生态系统中的滥用趋势，并相应调整其政策和法规。