AI建议用户每天吃石头 谷歌撤回部分搜索新功能

今日头条
Toutiao
最新回复:2024年6月4日 13点29分 PT
  返回列表
12827 阅读
11 评论
澎湃新闻

由于出现了一些令人尴尬的错误,谷歌公司关闭了搜索引擎的部分人工智能概览功能。

上个月,谷歌为其搜索引擎推出了一项生成式人工智能功能——AI概览(Overview),在搜索结果顶部提供AI生成的答案,以增强用户体验。随后,有用户发现该功能频频出现错误,包括建议用胶水粘披萨、每天吃石头来获取营养。目前,部分人工智能概览已被关闭。

谷歌团队通过6个基于文本的问题展示了这一新功能,并供公众试用。测试的问题包括“如何清洁布艺沙发”和“我应该用什么去除地毯上的咖啡渍”,这些问题旨在强调谷歌的人工智能概览如何能够生成比传统搜索结果更完整、更有用的信息摘要。

但据《纽约时报》测试,直至5月31日,6个查询中只有1个仍使用了人工智能概览。现在,搜索“我应该用什么去除地毯上的咖啡渍”会得到来自一个网站的一段文本,而“如何清洁布艺沙发”的答案则被一个网站链接所取代。搜索结果可能因用户和位置而异。

唯一一个沿用人工智能概览的问题是“我可以和我12岁的儿子一起做哪些有趣的科学项目”,对此,人工智能给出的回答是:培育晶体、从唾液中提取DNA和用隐形墨水写信息。

最近升任谷歌搜索主管的利兹·里德(Liz Reid)5月30日在一篇博客文章中写道,公司已经减少了一些人工智能概览功能,禁用误导性建议,并限制来自Reddit等论坛的讽刺性信息。“我们将不断改进展示AI概览的时间和方式,并加强保护措施。”她说。

谷歌发言人阿什利·汤普森 (Ashley Thompson) 在一份声明中表示,公司已对其系统进行了十多次技术更新,从长远来看,该公司不会放弃AI概览这项功能。

在激烈的人工智能竞争中,谷歌试图跟上竞争对手微软和ChatGPT的开发公司OpenAI的步伐,但AI概览出现的问题打击了这一努力。谷歌正面临艰难的战略选择:是采用可能不可靠的人工智能技术,还是保持其广受欢迎的搜索引擎不变——冒着落后于同行的风险。

尽管谷歌的用户数量远远超过微软的“必应”搜索引擎,但微软在对话式人工智能领域却先行一步。去年年初,微软就在其“必应”搜索引擎中加入了更多对话式人工智能功能。而谷歌虽然在推出人工智能概览一年前就为其搜索引擎测试了人工智能功能,并表示将立即向美国用户推出这项新功能,但在实际推出上却比微软慢了一步。

但最终,乔治·华盛顿大学决策科学助理教授帕特里克·霍尔 (Patrick Hall) 在接受采访时表示,谷歌“应该更慢地推出这项功能”,“一旦发生这样的失误,就必须撤回,这对公司的声誉也会造成损害”。

一些科技业内人士认为,聊天机器人生成答案的能力对传统搜索引擎构成了严重威胁,而搜索引擎一直是最受欢迎的在线信息获取方式,也是出版机构的重要信息出口,人工智能势必会给出版者和内容创作者带来损失。但目前看来,也许还没到那一天。

h
hyperyan
1 楼
根子在与AI没有关于世界的统一的符合逻辑的模型,只会在统计意义上预测下一单词,结果会说出乍看像模像样但在人看来完全不走心的非常愚蠢的回答。
x
xllee
2 楼
辣鸡ai咋不吃翔呢
弟兄
3 楼
愚蠢的人類已經理解不了人工智能的幽默感
g
goldeyeball1
4 楼
哈哈!没建议吃屎就不错了!
风啸啸壮士
5 楼
每天一杯恒河水更有印度特色吧。
s
smallCrab
6 楼
指望DEI们能干成什么正事
b
bsmile
7 楼
这个想法还是不错的,前边的几个答案用ai生产,后边的是实际的搜索结果
拾麦客
8 楼
AI没毛病,是你给它为什么料,数据有问题你能怪AI吗?
p
paladindancer
9 楼
google也不过如此而已, 掌握全世界的数据, 学了半天结论是吃石头
n
novtim2
10 楼
LLM已经到头了,不会有AGI;LLM它根本不懂任何自然科学和知识,只有模仿人的能力;它本身并不懂得任何知识。所以真正好的应用可能是自动驾驶之类的,它如果能完全模仿人驾驶,那么它可以张8只眼睛,眼观六路耳听八方,比人更安全;
硅谷工匠
11 楼
They use reddit too heavily. Reddit is run by teenagers. There is no review whatsoever about the information there.