Google ai search解释cockroach的来历

https://x.com/JeremiahDJohns/status/1794543007129387208

Google's new AI search results are having quite the week. Here's a thread with some of my favorite answers: pic.twitter.com/JGl0VlP7qj — Jeremiah Johnson 🌐 (@JeremiahDJohns) May 26, 2024

AI很难解决这种回答问题上的胡说八道吧
ChatGPT 也一样，可以一本正经地胡说八道一个答案给你，还有reference, 所有的reference 都是它瞎编的。
很难相信它们说的，只能当笑话

这个就是所谓的hallucination。上次另一个帖子下有人问AI是不是物理模型。这事情的本质，其实是语言具有generalization的能力。我打个比方，就是自然数上可以定义加减乘除运算，但是算着算着就能算出来负数。如果死守自然数的定义，负数当然不算数。但是如果以有没有用为标准，那负数用处真是太大了。语言是一个超越物理世界的东西，在物理世界里进化出来语言后，语言又会说出来物理世界没有的东西。说多了，慢慢就会导致物理世界发生改变。我们现在生活中接触的大部分物品，就别说手机电脑了，哪怕是桌子椅子床，都是最开始有人说，要有床，然后大家认同床这个东西好，就都去造，慢慢的就成了自然的一部分。像电脑这种复杂的东西，要好几代人share同样的hallucination才能最终被造出来。今天的AI产生这种hallucination的成本很低，说1000个错的，只要有一个对的能被筛选出来就行，再过几年AI会成为innovation的主要来源。