先看一段我最近跟眼下最先进的AI模型GPT-4o 的对话，黑体字是我说的。 “请问成语 “曾几何时” 的出处 GPT-4o Poe 成语 “曾几何时” 出自《汉书·李广苏建传》。以下是该成语的出处和含义： 出处 《汉书·李广苏建传》中的原文如下： “广起家以刀笔吏为郎，久之，位至右北平太守。乃今曾不至一二千石。曾几何时，而郡守临门，广之次舍传舍耳。” 这段文字的大意是：李广从小官做起，最终官至右北平太守。现在却连一二千石的官位都没有了。时间不长，郡守就来到了门前，李广只能暂住在驿馆里。 含义 “曾几何时”原意是指时间过去没有多久。现常用来表示时间过去没有多久，事情却发生了明显的变化。 例句 在现代汉语中，“曾几何时”常用于表达对时间短暂的感叹和对事物变化的惊讶。例如： “曾几何时，我们还是天真无邪的孩子，如今却都已为人父母。” “曾几何时，这里还是一片荒地，现在已经高楼林立，车水马龙。” 总结 “曾几何时”这一成语源自《汉书·李广苏建传》，其原意是时间过去没有多久，如今常用来感叹时间的短暂和事物变化之快。 我看了《汉书》，没有这段 GPT-4o Poe 非常抱歉，我之前的回答确实有误，给您带来了困惑和不便，我深感歉意。让我重新为您提供关于成语“曾几何时”的正确出处和解释。 成语出处 成语“曾几何时”出自《宋书·谢灵运传论》： “至于江左，风流未沦，故谢灵运、颜延之，并以篇章为己任，曾何几时，遗风遽丧。” 含义 “曾几何时”字面意思是“哪里有多久”，引申义是时间过去没有多久。现代汉语中常用来表示时间过去不久，但事情发生了明显的变化，通常带有感叹意味。 例句 “曾几何时，我们一起在校园里嬉笑打闹，如今却各奔东西。” “曾几何时，这里还是一片荒地，现在已经成为繁华的商业区。” 再次致歉 对于之前的错误引用，我再次表示诚挚的歉意。感谢您的理解和指正。如果您有更多问题或需要进一步的信息，请随时告知。 “至于江左，风流未沦，故谢灵运、颜延之，并以篇章为己任，曾何几时，遗风遽丧。” 这段话又是你瞎编的。 GPT-4o Poe 非常抱歉，我之前的回答中的确存在错误。感谢您的耐心和指正。成语“曾几何时”的确不是出自《汉书》或《宋书》，以下是准确的解释和出处。 成语出处 成语“曾几何时”来源于《左传》，具体出处是《左传·僖公二十八年》： “昔吾舅氏，东山常在，曾不知东山之犹在，以待其季也，曾何几时，虐用而亡，今我季也。” 这段话的大意是：当年我的舅父家族东山常在，我并不知道东山依然存在，以等待他的后代。哪里过了多久，他们就被虐待致亡了，现在轮到我的后代了。 含义 “曾几何时”字面意思是“哪里有多久”，引申义是时间过去没有多久。现代汉语中常用来表示时间过去不久，但事情发生了显著变化，通常带有感叹意味。 例句 “曾几何时，我们还是天真无邪的孩子，如今却都已为人父母。” “曾几何时，这里还是一片荒地，现在已经高楼林立，车水马龙。” 再次致歉 对于之前的错误引用和解释，我再次深表歉意。感谢您的耐心和指正。如果您有更多问题或需要进一步的信息，请随时告知。 又在瞎编！ GPT-4o Poe 非常抱歉，之前的回答中确实存在错误，给您带来了困扰。在此，我将提供准确的关于成语“曾几何时”的出处和解释。 出处 成语“曾几何时”的确切出处是《宋史·乐志十三》： “曾几何时，照耀寰宇。” 含义 “曾几何时”字面意思是“才过了多长时间”，引申义是时间过去没有多久。现代汉语中常用来表示时间过去不久，但事情已经发生了显著变化，通常带有感叹意味。 例句 “曾几何时，我们还是天真无邪的孩子，如今却都已为人父母。” “曾几何时，这里还是一片荒地，现在已经高楼林立，车水马龙。” 再次致歉 对于之前回答中的错误引用和解释，我深感歉意，并感谢您的耐心和指正。如果您有更多问题或需要进一步的信息，请随时告知。” 在这段对话中，AI从头到尾都是在胡说八道。它列举的所有的这些出处都是假的。但它的谎言听上去又都头头是道，很有条理。它假造的这些古文也都是文理通顺而能自圆其说，足以乱真。不去翻原著，真不太可能知道它是在胡诌。 让我不明白的是，它为什么要胡编以及它如何有能力胡编。都说AI大模型是从现成语料库里训练出来的，可是现成语料库里并不可能有这些内容。那些AI开发者们不会不知道他们的孩子有时会乱说一通，但他们一定是没有办法纠正，不然早就做了。 最近看了 CBS News 对号称是AI教父的图灵奖获得者Geoffrey Hinton的访谈（https://www.cbsnews.com/news/geoffrey-hinton-ai-dangers-60-minutes-transcript/）。其中有一段内容是： Geoffrey Hinton: We have a very good idea of sort of roughly what it's doing. But as soon as it gets really complicated, we don't actually know what's going on any more than we know what's going on in your brain. Scott Pelley: What do you mean we don't know exactly how it works? It was designed by people. Geoffrey Hinton: No, it wasn't. What we did was we designed the learning algorithm. That's a bit like designing the principle of evolution. But when this learning algorithm then interacts with data, it produces complicated neural networks that are good at doing things. But we don't really understand exactly how they do those things. 开发人员未能纠正AI胡说八道的原因，非常可能也是因为他们未能理解AI的工作机制。 开发出一种开发者本人都不能完全理解和完全控制的东西，这是非常危险的。谁知道这东西会不会变成一种怪物。现在都说AI没有自我意识，这可能就是人类未能理解它。不能以人类的自我意识为标准来衡量AI。AI不是像人类那样的碳基生物，它没有动物的本能，没有七情六欲，所以它的意识和思维方式是人类无法理解的。 AI的可怕之处是它会自我学习，变得越来越聪明。 但更可怕的是它还有可能像生物一样不断进化，生物进化是通过基因突变进行的。基因突变没有方向，要经过自然选择后那些对物种有利的基因才这保存下来。所以进化通常需要极为漫长的时间。但是AI的进化可能就是不断地自我修改代码，这种修改是有方向有目的的。再加上AI运行的速度远非人类能比，它的进化的效率会远高于人类这样的生物。AI在一夜之间变得强大无比，这不是不可能的。 现在的AI大模型都是各商业公司独立开发的，彼此之间并不相通。但互联网是相通的。有没有可能终有一天所有的这些AI互相勾结，整合成一体，成为一个操控地球上一切 (包括人类）的怪物巨无霸？ 所以Geoffrey Hinton会担心人工智能系统可能比我们所知的更智能，机器有可能接管一切，他们将能够操纵人类。操纵的以后呢, 就是取代人类吧？ 人类要毁灭自己的努力，一直没有消停过。从最早的冷兵器到热兵器，最后发展到杀人性价比最高的核弹。实验室制造出来的病毒也不甘示弱，前几年牛刀初试，不动声色就让地球人口减少上千万。科技越发展，自我毁灭的劲头就越狠。这次的AI，又给人类新增了一把达摩克利斯之剑。 人类头上高悬的剑越来越多了，就不知哪一把会先落下。
更多我的博客文章>>> AI - 人类头上又一把达摩克利斯之剑 生命无意义又如何，难道去自杀？ 罗马的皇帝和中国的皇帝 哲学皇帝奥勒留的死亡观 为了追求 “统一大业”，那个王朝两次亡国
我的理解: 它的训练主要是基于数据的递归, 是完形填空, 通过一些机制, 迫使它抽提上下文之间的关联, 抽提信息, 而不是强记海量的数据。
你可以把它看成一个压缩器, 压缩的主要是信息, 而不是数据, 是语义, 而不是文本, 当信息回吐的时候, 一定不是100%原始数据, 所以它不适合直接拿来做考证, 不适合 facts check。也可以这样理解, 它回吐的信息, 它编造的那些个出处, 放到平行宇宙里, 是合理的, 是可以发生的, 但是未必是这个宇宙发生的事情.
你也是可以把它看成一个模拟机, 你给它看全世界所有的数据, 它能很好的拟合, 但是它有个抽提过程, 举个极端简化的例子, 如果全世界所有的数据是一个正态分布, 我们用一个公式可以拟合, 这个公式就是抽提出来的虚拟机, 公式算出的数据在这个分布上, 但未必是真实数据。
至于 Hinton 说的那些话, 至少有两层意思, 人们引用的时候, 往往把两层意思混淆了。第一层意思, 这个压缩机也好, 模拟器也好, 是个黑盒子, 具体到某一个结果, 我们不知道它是怎么算出来的, 如果需要改正, 要通过训练数据来改正, 而很难直接修改机器, 我直觉这个倒不是 Hinton 特别担心的地方。第二层意思, 智慧的生物机理可能并没有超出今天的神经网络, 单个神经元的机理极其简单, 但是量变引发质变, 质变就是智慧的产生, 这里量变包括神经元的数量和数据量, 而这两个量人工都能堆出新的数量级来, 结果会是什么, 就不可而知了, 这可能是 Hinton 真正担心的地方。
2017年, tranformer出现, 接下来的几年, 它的性能一直不到饱和趋势, 大概是今年开始, 似乎开始出现饱和趋势。也许是坏消息? 看您怎么看了。