如何把造假的AI抓出来现行?

g
gooog
楼主 (北美华人网)
大家在使用AI时,有没有嗅觉出后台的AI其实是在人为控制,或者在造假,等异常现象?
比如:你让AI去完成这个任务 1)请问x公园的开园时间是早上几点? 它会回答你夏天是几点,冬天是几点。
2)请问,根据x公园的最新网站内容(xxx.com), 目前开园时间是早上几点? 一开始,它就显示search,然后还是回答你夏天是几点,冬天是几点。
这说明什么?
说明,其并没有实时分析。而是根据ifelse,来提取数据库的预设答案。
金银岛
我试了deepseek,两个问题答案不同。
l
life_is_life
说明AI很会偷懒
新年第一天
别提了,我跟chatgpt说 想去某某期刊投个稿,你给我看看有啥投稿要求。它给我弄了个list,什么字数8000,表格不多于4个,图4个啥的。。。。结果我去人家期刊作者指南一看,既没有这个8000,也没有这个表格4个图4个. 期刊说,图表加起来不超过5个。我也是惊呆了,满嘴胡说八道这是怎么回事啊。大家它说的都敢信吗
M
Microdisney
别提了,我跟chatgpt说 想去某某期刊投个稿,你给我看看有啥投稿要求。它给我弄了个list,什么字数8000,表格不多于4个,图4个啥的。。。。结果我去人家期刊作者指南一看,既没有这个8000,也没有这个表格4个图4个. 期刊说,图表加起来不超过5个。我也是惊呆了,满嘴胡说八道这是怎么回事啊。大家它说的都敢信吗
新年第一天 发表于 2025-05-31 13:59

敢不敢信不是看哪部分说得对吗,没脑子分辨的现阶段不要用AI
J
John_Smith
为啥会纠结这个? 你要是稍微懂一点神经网络就不会问出这种问题了。
g
gooog
我试了deepseek,两个问题答案不同。

金银岛 发表于 2025-05-31 13:49

这个不同说明什么?
登录longwoodgardens.org,显示当前开放时间如下。好像你给的第一次和第二次的答案都不对。比如:周二并不关闭。
c
colorfuldesert
娃解高数题 都不相信AI/Gbt/g 给的答案啊 有一半是错的
L
Lantianbihai
对啊,我们得有能力判断出TA 们给的信息哪些是错误的,过时的,不准确的,胡编乱造的。
金银岛
回复 7楼 gooog 的帖子
官网首页就有这些信息,从购票页也可以看到下周二不对公众开放。你的这个贴图的网页地址是什么?