AI颠覆媒体?马斯克的Grok在特朗普遇刺中表现糟

今日头条
Toutiao
最新回复:2024年7月18日 13点27分 PT
  返回列表
28026 阅读
5 评论
腾讯科技


划重点

1

在特朗普遭遇暗杀未遂事件后,马斯克旗下AI机器人发布了多条误导性新闻摘要。

2

马斯克对Grok给予了很大期望,希望人们能够通过它获取新闻资讯,进而颠覆传统媒体。

 

3

此次误报事件凸显了Grok在设计上的不足,其依赖的算法和模型可能成为弱点。



埃隆·马斯克(Elon Musk)对旗下人工智能公司xAI推出的聊天机器人Grok寄予了很大期望,希望人们能够通过其获取新闻资讯。然而在面对现实的复杂事件时,它的表现却一团糟。特别是当美国前总统唐纳德·特朗普(Donald Trump)遭遇暗杀未遂事件后不久,Grok基于X上的信息流发布了多条误导性头条,凸显了人工智能技术的局限性。

其中一则误报尤为引人注目,错误地宣称副总统卡玛拉·哈里斯(Kamala Harris)遭遇袭击,这一失误似乎源于X上部分用户对拜登总统之前一次口误的讽刺性解读。当时,拜登无意中将哈里斯和特朗普的名字搞混了。



另一则摘要则错误指认了嫌疑人身份,并将其与“极左翼运动(antifa)”联系起来。这一表述在警方公布不同嫌疑人及动机尚未明确的情况下,显得尤为草率。



尽管这些摘要下方附有免责声明,明确指出:“本报道乃X平台帖子的概要总结,内容或随时间发展而变化。Grok作为人工智能工具,存在出错可能,请用户自行验证其输出。”然而,这并未能完全消除Grok在新闻传播中的误导性影响。

马斯克曾对X平台及其搭载的人工智能机器人Grok寄予厚望,宣称其能自动提炼数亿用户帖子的精华,生成标题及新闻摘要。他多次公开批评传统新闻媒体反应迟缓且可信度下降,并鼓励用户习惯从Grok处获取即时新闻更新。

马斯克在今年6月的一次广告业盛会上强调:“在X平台上,我们正实现信息的汇聚与精炼。我们利用人工智能的力量,将数百万用户的海量输入转化为精炼的总结。我坚信,这将是未来新闻传播的新常态。”

针对Grok此次的误报事件,X尚未发表正式回应。

Grok是马斯克旗下人工智能公司xAI推出的作品,自去年启动研发以来,已逐步融入X,为订阅者带来了包括智能聊天机器人在内的多项创新功能。在新闻总结方面,Grok展现了一定程度的准确性,预示着其巨大的技术潜力。马斯克特别指出,Grok能够即时抓取X上的海量帖子,这是其显著优势之一。X称其为“带有幽默感的人工智能搜索助手”。

然而,近期发生的误报事件也暴露出Grok在设计上的不足,尤其是在处理突发事件时,其依赖的算法和模型可能成为弱点。面对来自多个渠道的实时信息流,一个倾向于幽默解读的计算机模型在筛选和整合信息时,显然面临着不小的挑战。

对此,前Facebook公共政策主管凯蒂·哈巴斯(Katie Harbath)表示:“我们仍有很长的路要走。当涉及到像枪击这样的突发事件时,当事实尚未确定时,人类的专业判断与背景知识是不可或缺的。”

在这样的敏感时刻,即便是经验丰富的记者,在追逐重大突发新闻时,也难免偶有失误。但Grok的某些错误,却远远超出了这类常规混乱的范畴。

一则引人瞩目的Grok头条错误地声称:“电影《小鬼当家2》的演员在特朗普集会上遭到枪击?” 特朗普确实在1992年的电影《小鬼当家2:迷失纽约》中露过脸,成为部分X用户热议的话题,但Grok的摘要却未能澄清“演员”是否是特朗普本人,反而混淆视听,写道:“据报道,电影《小鬼当家2:迷失纽约》的一名演员在公开活动中遭遇枪击,推测与特朗普竞选集会有关。”



Grok并非首个在新闻事件总结上栽跟头的生成式人工智能工具。此前,谷歌也因其人工智能功能偶尔产生的离奇建议而宣布进行修正,比如建议用胶水将奶酪固定在披萨上。

值得注意的是,一些科技公司采取了与马斯克不同的策略,避免将产品直接定位为实时新闻工具。例如,OpenAI的ChatGPT在接到关于此次袭击事件的查询时,不仅概括了事件本身,还贴心地提供了事实核查网站PolitiFact的链接,同时明确表明自己“并非实时新闻产品”。

Meta高管表示,他们并不鼓励在短视频平台Threads上发布政治性内容,这款应用旨在与X形成差异化竞争。Meta高管亚当·莫瑟里(Adam Mosseri)去年便表达了这样的立场,他期望Threads能规避政治及硬新闻常伴的负面效应和其他弊端。

与此同时,周末期间,部分Threads用户抱怨该平台在枪击事件的信息更新上速度不及X,这反映出马斯克旗下的平台依然是新闻资讯的重要来源之一。

针对此次暗杀未遂事件,X首席执行官琳达·雅卡里诺(Linda Yaccarino)在周日发送的一封内部邮件中强调,公司已将此视为“重大事件”,并迅速调集资源,优先处理平台上任何违反规则的内容,特别是那些对袭击表示赞赏的帖子。

Grok在新闻事件总结上遭遇挑战并非首次。6月份美国总统辩论后,当X用户提及加州州长加文·纽森(Gavin Newsom)时,Grok竟错误地生成了“纽森在近期辩论中大获全胜”的标题,而事实上纽森并未参与辩论,尽管他出席了相关活动。此外,部分政治观察家虽提及纽森可能为拜登的潜在继任者,但这一说法已被纽森本人公开否认。



在马斯克接手X(前身为Twitter)之初,该平台曾设有专门团队负责热门话题的摘要撰写。然而,随着马斯克的大规模裁员行动,该团队也被解散。前Twitter高管埃文·汉森(Evan Hansen)透露,他曾是该团队的一员,直至裁员发生。

汉森回忆道,在马斯克接管之前,Twitter已尝试利用人工智能辅助摘要撰写,但仍需人工进行内容审核与修正。他指出:“人工智能虽能发挥作用,但必须要非常精细地进行处理。”

 

   

 

 

 

 

 

 

令胡冲
1 楼
取得ChatGPT那样的表现力需要运气。Grok、Gemini和一般小模型可能表现差不多。
D
Deepspace_01
2 楼
拜总把AI给忽悠了。哈哈。
D
Deepspace_01
3 楼
还说AI要取代人类呢。等拜总忽悠了人类再说吧。
风啸啸壮士
4 楼
张冠李戴的新闻也敢发, 不怕被当事人提告吗?
不允许的笔名
5 楼
Grok说Harris被枪击是因为拜登说Vice President Trump的梗