楼主 (北美华人网)
腾讯科技讯 7 月 18 日消息，据国外媒体报道，埃隆 · 马斯克（Elon Musk）对旗下人工智能公司 xAI 推出的聊天机器人 Grok 寄予了很大期望，希望人们能够通过其获取新闻资讯。然而在面对现实的复杂事件时，它的表现却一团糟。特别是当美国前总统唐纳德 · 特朗普（Donald Trump）遭遇暗杀未遂事件后不久，Grok 基于 X 上的信息流发布了多条误导性头条，凸显了人工智能技术的局限性。 其中一则误报尤为引人注目，错误地宣称副总统卡玛拉 · 哈里斯（Kamala Harris）遭遇袭击，这一失误似乎源于 X 上部分用户对拜登总统之前一次口误的讽刺性解读。当时，拜登无意中将哈里斯和特朗普的名字搞混了。 
另一则摘要则错误指认了嫌疑人身份，并将其与 " 极左翼运动（antifa）" 联系起来。这一表述在警方公布不同嫌疑人及动机尚未明确的情况下，显得尤为草率。 
尽管这些摘要下方附有免责声明，明确指出：" 本报道乃 X 平台帖子的概要总结，内容或随时间发展而变化。Grok 作为人工智能工具，存在出错可能，请用户自行验证其输出。" 然而，这并未能完全消除 Grok 在新闻传播中的误导性影响。 马斯克曾对 X 平台及其搭载的人工智能机器人 Grok 寄予厚望，宣称其能自动提炼数亿用户帖子的精华，生成标题及新闻摘要。他多次公开批评传统新闻媒体反应迟缓且可信度下降，并鼓励用户习惯从 Grok 处获取即时新闻更新。 马斯克在今年 6 月的一次广告业盛会上强调：" 在 X 平台上，我们正实现信息的汇聚与精炼。我们利用人工智能的力量，将数百万用户的海量输入转化为精炼的总结。我坚信，这将是未来新闻传播的新常态。" 针对 Grok 此次的误报事件，X 尚未发表正式回应。 Grok 是马斯克旗下人工智能公司 xAI 推出的作品，自去年启动研发以来，已逐步融入 X，为订阅者带来了包括智能聊天机器人在内的多项创新功能。在新闻总结方面，Grok 展现了一定程度的准确性，预示着其巨大的技术潜力。马斯克特别指出，Grok 能够即时抓取 X 上的海量帖子，这是其显著优势之一。X 称其为 " 带有幽默感的人工智能搜索助手 "。 然而，近期发生的误报事件也暴露出 Grok 在设计上的不足，尤其是在处理突发事件时，其依赖的算法和模型可能成为弱点。面对来自多个渠道的实时信息流，一个倾向于幽默解读的计算机模型在筛选和整合信息时，显然面临着不小的挑战。 对此，前 Facebook 公共政策主管凯蒂 · 哈巴斯（Katie Harbath）表示：" 我们仍有很长的路要走。当涉及到像枪击这样的突发事件时，当事实尚未确定时，人类的专业判断与背景知识是不可或缺的。" 在这样的敏感时刻，即便是经验丰富的记者，在追逐重大突发新闻时，也难免偶有失误。但 Grok 的某些错误，却远远超出了这类常规混乱的范畴。 一则引人瞩目的 Grok 头条错误地声称：" 电影《小鬼当家 2》的演员在特朗普集会上遭到枪击？" 特朗普确实在 1992 年的电影《小鬼当家 2：迷失纽约》中露过脸，成为部分 X 用户热议的话题，但 Grok 的摘要却未能澄清 " 演员 " 是否是特朗普本人，反而混淆视听，写道：" 据报道，电影《小鬼当家 2：迷失纽约》的一名演员在公开活动中遭遇枪击，推测与特朗普竞选集会有关。" 
Grok 并非首个在新闻事件总结上栽跟头的生成式人工智能工具。此前，谷歌也因其人工智能功能偶尔产生的离奇建议而宣布进行修正，比如建议用胶水将奶酪固定在披萨上。 值得注意的是，一些科技公司采取了与马斯克不同的策略，避免将产品直接定位为实时新闻工具。例如，OpenAI 的 ChatGPT 在接到关于此次袭击事件的查询时，不仅概括了事件本身，还贴心地提供了事实核查网站 PolitiFact 的链接，同时明确表明自己 " 并非实时新闻产品 "。 Meta 高管表示，他们并不鼓励在短视频平台 Threads 上发布政治性内容，这款应用旨在与 X 形成差异化竞争。Meta 高管亚当 · 莫瑟里（Adam Mosseri）去年便表达了这样的立场，他期望 Threads 能规避政治及硬新闻常伴的负面效应和其他弊端。 与此同时，周末期间，部分 Threads 用户抱怨该平台在枪击事件的信息更新上速度不及 X，这反映出马斯克旗下的平台依然是新闻资讯的重要来源之一。 针对此次暗杀未遂事件，X 首席执行官琳达 · 雅卡里诺（Linda Yaccarino）在周日发送的一封内部邮件中强调，公司已将此视为 " 重大事件 "，并迅速调集资源，优先处理平台上任何违反规则的内容，特别是那些对袭击表示赞赏的帖子。 Grok 在新闻事件总结上遭遇挑战并非首次。6 月份美国总统辩论后，当 X 用户提及加州州长加文 · 纽森（Gavin Newsom）时，Grok 竟错误地生成了 " 纽森在近期辩论中大获全胜 " 的标题，而事实上纽森并未参与辩论，尽管他出席了相关活动。此外，部分政治观察家虽提及纽森可能为拜登的潜在继任者，但这一说法已被纽森本人公开否认。 
在马斯克接手 X（前身为 Twitter）之初，该平台曾设有专门团队负责热门话题的摘要撰写。然而，随着马斯克的大规模裁员行动，该团队也被解散。前 Twitter 高管埃文 · 汉森（Evan Hansen）透露，他曾是该团队的一员，直至裁员发生。 汉森回忆道，在马斯克接管之前，Twitter 已尝试利用人工智能辅助摘要撰写，但仍需人工进行内容审核与修正。他指出：" 人工智能虽能发挥作用，但必须要非常精细地进行处理。"