理解AI，必须补课Noam Chomsky访谈实录

（ ai汤源 AI2Paradigm） 题记 现代语言学之父Noam Chomsky对于LLM的看法｜2023年3月ChatGPT 4发布之后，Noam Chomsky作为现代语言学之父，一时受到众多关注。一众面对GPT在会话中神奇的表现有点不知所措的用户纷纷向大师求助。Noam以90多岁的高龄，在去年接受众多Podcast播客的访谈，而这篇PracticalWisdom的访谈内容与LLM及语言本质切合度较高，值得再次仔细观看。 Noam对于数字神经网络于人类语言的操纵，本质上是取批判态度的。虽然他本人不反对将GPT-4作为语言研究工具使用，但认为LLM并不真懂人类语言，也不认为这些数字神经网络可以解构人脑中的所谓I-Language。 直觉上笔者觉得当前的LLM只是在深度神经网络通过机器学习掌握了语言文本中的会话结构，但这种结构是数字化层面的，和Noam所理解的人类语言的结构是有本质差别的，而且是所谓外在化的人类语言E-Language。 而作为科学研究的语言学，Noam认为当今的LLM只是工程上的实现，毫无贡献。 在另外一篇访谈中，面对播主的恭维，老爷子很谦虚： “我知道我有某些天赋，比如不会因为别人相信就相信。保持开放的心态，寻找论据和证据，而不是我们一直在谈论的那些毫无意义的问题，比如其他生物有知觉吗？潜水艇会游泳吗？我说，让我们摒弃这些问题，研究有意义的问题。  如果你只是追求常识，那么我认为你可以取得一些进展。在我们讨论的语言问题上也是如此。如果你仔细想一想，完全有理由认为语言这个有机物体应该是一个物体。如果是这样，它就应该遵循进化论的一般原则，满足爱因斯坦所说的 ‘奇迹信条’。那么，为什么语言不能呢？看看我们能走多远。 我认为这只是常识。 很多人认为这是高人一等的智慧。 我不这么认为。”

△ 笔者翻译整理的Noam Chomsky关于LLM与语言本质的播客访谈 访谈实录摘要｜与诺姆·乔姆斯基的对话题为 "ChatGPT、通用语法和人类思维：揭开语言和人工智能的神秘面纱"，深入探讨语言、认知和人工智能之间错综复杂的关系。乔姆斯基是著名的语言学家和认知科学家，他揭示了各种引人入胜的概念，提出了他对语言的基本性质、语言与人类认知的联系以及语言对人工智能的潜在影响的看法。  乔姆斯基强调，虽然像 ChatGPT 这样的人工智能系统取得了非凡的成就，但它们离人类对语言和认知的理解还相差甚远。他认为，真正的语言理解需要对内部结构的把握，而这正是目前的人工智能模型所缺乏的。他指出，人类与生俱来就拥有一种通用语法，这是一种使语言习得成为可能的先天认知结构。 乔姆斯基在讨论萨皮尔-沃尔夫假说（该假说认为语言决定思维）时，承认其最初的吸引力，但强调缺乏大量证据支持其强有力的形式。他对 "语言决定思维 "的观点提出了质疑，指出我们与生俱来的认知结构很可能同时影响着语言和感知。乔姆斯基还谈到了人类思维的本质及其给研究带来的挑战。他将语言、音乐、算术和其他认知领域相提并论，认为它们可能具有共同的潜在结构。他指出，在塑造语言表达的过程中，内部结构和外化（如语音和书写系统）之间存在着复杂的相互作用。 对话涉及语言学理论不断演变的本质以及乔姆斯基的通用语法概念。他提出，这一核心认知结构很可能与现代人类同时出现，而语言本身也会随着时间的推移而变化。乔姆斯基还强调了计算效率原则对理解语言进化和变化的重要意义。 总之，与诺姆-乔姆斯基的对话是对语言、认知和人工智能之间错综复杂关系的一次引人入胜的探索。虽然 ChatGPT 和人工智能系统展示了令人印象深刻的成就，但乔姆斯基的见解突出了语言和认知的持久复杂性，推动了科学探索和技术进步的极限。 塞缪尔-马鲁斯卡：大家好，欢迎收听塞缪尔-马鲁斯卡，我的《实用智慧》播客节目。以下是与诺姆-乔姆斯基的对话。  本集的主题是 ChatGPT、语言与思维。诺姆是麻省理工学院的语言学家和哲学家，在语言、心理学、逻辑学、哲学或政治学研究方面做出了重大贡献。诺姆最著名的可能是他的通用语法理论，该理论彻底改变了语言研究，并为人类思维的运作提供了新的见解。  诺姆是一位多产作家，著有一百多本书，内容涉及语言、认知和政治等多个领域。毫无疑问，他是当代最杰出的思想家之一。亲爱的朋友们，现在是我与诺姆-乔姆斯基的对话。非常感谢大家的参与，欢迎收看《实用智慧》。  接下来问的第一个问题，请允许我就 ChatGPT、意识和思想语言进行一下讨论。 你最近在《纽约时报》上发表了一篇题为《The False Promise of ChatGPT》的文章，认为像 ChatGPT 这样的机器还远远没有达到真正的智能，你还讨论了人工智能，尤其是弱人工智能的局限性。 人工智能的局限性｜虽然我看到了 ChatGPT 的潜力和许多应用，但我也注意到，一般来说，人工智能在编程、编写代码或下棋等方面表现得更好。举例来说，国际象棋电脑就能击败国际象棋大师。因此，人工智能在受严格规则约束的封闭系统中表现出色。但是，以 ChatGPT 为例，当它涉及外部系统和更广泛的日常生活场景时，比如简单推理、语义学或历史时，它的表现就要差得多了，它会产生不准确的输出。你认为为什么会出现这种情况，这对我们了解人工智能的局限性有何启示？ 诺姆-乔姆斯基：在国际象棋中击败特级大师只是小事一桩。这是一种公关活动，早在上世纪 50 年代就已昭然若揭。我记得在人工智能发展的早期曾讨论过这个问题，如果你找来一打特级大师，让他们坐上10天，研究出每一个可能的程序、每一步可能的棋步、可能的棋步，然后将其输入一个巨大的存储器，那么你就能打败一个只有45分钟思考下一步棋的特级大师。非常令人兴奋。对 IBM 来说，公关已经没有任何意义。  你看看现在的系统，它们做的可不是你描述的那些事。这些系统使用数十亿个参数和超级计算机扫描天文数字般的数据，并能根据扫描到的材料拼凑出或多或少与人可能制作的东西相似的东西。 这本质上是一种高科技剽窃行为（high-tech plagiarism）。 我的意思是，这也许有一些用处，也许没有。它什么也教不了我们。它对不可能的系统和可能的系统一样有效。它肯定会造成很多伤害，这是显而易见的。至于它是否会有些用处，我们就不得而知了。也许吧 我不认为这已经被证明了。但所有关于有知觉、有智慧之类的说法都是题外话。 塞缪尔-马鲁斯卡：你提到，比如 ChatGPT，它利用了大量的数据。而在你的文章中，在《纽约时报》的文章中，你说人类的大脑，我引用一下，"人类的大脑是一个令人惊讶的高效甚至优雅的系统，它可以利用少量的信息进行运作"。因此，我认为这也被称为 "刺激的贫乏"（the poverty of the stimulus）。所以，虽然人工智能模型可以使用少量数据运行，但正如你所说，ChatGPT 使用的是人类从互联网上产生的大量数据。您是如何将人类语言习得中的 "刺激贫乏 "与人工智能模型需要大量数据才能生成这些文章这一事实相协调的呢？ 诺姆-乔姆斯基：这只能说明它们无关紧要。一个两岁或两三岁的孩子基本上已经掌握了语言的基本要素，但使用的数据却非常稀少。我们想了解语言学习和认知。我们想知道它是如何运作的。某个程序扫描了大量数据后，得到的结果表面上与一个两岁孩子所做的事情相似，但这并不能说明什么。 塞缪尔-马鲁斯卡：因此，我猜你可能会同意艾伦-图灵的观点，他在 1950 年发表的著名论文中谈到了机器能否思考的问题。他写道，我引用他的话：“这可能太无意义了，不值得讨论。不过，我相信，在本世纪末，一般教育舆论中的用词会发生很大的变化，以至于人们在谈论机器思维时，不会想到会遭到反驳。” 引文到此结束。 ChatGPT - 思维或意识的形式？｜ChatGPT 的创始人说，这个系统是经过训练的，人工智能经过训练可以进行某种推理，虽然这可能不是最好的说法。而且它确实能产生类似人类的反应，这也是大多数人能看到的。你如何看待图灵的观点以及 ChatGPT 作为一种思维形式的能力？你认为这只是一个定义问题吗？ 诺姆-乔姆斯基：这就好比问潜艇会不会游泳。你想把这叫做游泳？好吧，潜艇游泳。这些程序正在做的，同样是扫描海量数据，找到足够的统计规律，以便你能合理地猜测某个序列中的下一个单词是什么。这是思考吗？潜水艇会游泳吗？这是同一个问题。 塞缪尔-马鲁斯卡：我想，原因之一当然是这些系统没有意识。现在有几种意识理论 有伯特兰-罗素（Bertrand Russell）的意识与物质理论。还有约翰-塞尔（John Searle）著名的 "中国房间"（Chinese Room）论证，对机器能够真正理解语言或具有真正意识的观点提出了质疑。你对塞尔的论证和弱人工智能的观点有何看法？你认为机器能真正理解语言或拥有真正的意识吗？还是说这有本质区别？人类的认知有本质的不同，机器永远无法复制。 诺姆-乔姆斯基：首先，让我们理清术语。机器什么也没做。我面前就有一台电脑。它基本上就是个镇纸。它什么也做不了。我面前的这台电脑能做的就是执行一个程序，仅此而已。就是这样。 什么是程序？程序是一种用符号写成的理论，机器可以用它来实现。这是一种奇怪的理论，是科学中找不到的理论。一个程序要运行，每个问题都必须有答案，不能有未解答的问题。这与科学不同。即使是物理学，也有许多未解之谜。 你可以任意给出一个你不知道的答案。好吧，那就像是一个程序。那么问题来了，这种奇怪的理论能否成为智能、意识等方面的理论呢？为什么不能呢？我们可以有关于意识的理论。这些方法还远远不够，但有可能，当然也可以想象，会有关于人类智能的科学理论。  事实上，我们对此已经有了不少了解。虽然还有很多未解之谜，但还是有进展的。也许你会说意识也能，你就可以编程实现。如果你回答了未解答的问题，你就可以在电脑上运行它。这没什么神奇的。 塞缪尔-马鲁斯卡：那么，我们真的知道是什么导致了意识的产生吗？是大脑中神经元的跳动吗？究竟是什么导致了意识？ 诺姆-乔姆斯基：我们可以讨论的是意识的起因。你可以找出哪些神经结构参与了意识体验。这是一个科学问题，并不容易。之所以说这是个难题（hard problem），原因之一是，首先，大脑是一个极其复杂的物体，人们对它的了解少之又少。目前使用的基本模型，即神经网络模型，很可能是错误的模型。我们有原则性的理由相信这一点。  但另一个问题是，出于伦理原因，你不能用人类做实验。你不能在人工环境中抚养人类儿童。你无法将电极插入大脑皮层的单个细胞，以弄清发生了什么。我们对人类的视觉有很多了解，但那是因为对其他动物进行了侵入性实验，而这些动物的视觉系统与人类大致相同。在语言和意识研究方面也就无法做到这一点，因为没有任何其他生物（有类似语言与意识结构）。因此，这是一个非常难的硬问题（hard problem），复杂的模拟丝毫不能推动问题的解决。至于约翰-塞尔的论证，我并没有特别深刻的印象。我们使用 "思考 "这个词的方式，当房间不思考的时候，我们又回到了潜水艇游泳的问题上。这是维特根斯坦提出的一个观点。他说，人们思考，也许是玩偶和灵魂。这是他的箴言式说法，"思考 "是我们用来形容人们所作所为的一个词。它有一些开放的质地。我们可以把它用在有点像人的事物上，但那基本上是术语。什么都不涉及。 塞缪尔-马鲁斯卡：Wanna缩写（ Wanna Contractions） ｜我们知道，语言的一小部分是外在的，而你确实声称，可能 99% 的语言都是内在的。你写了大量关于 "我的语言"（I-language）的文章，认为语言是内在的、个体的和有意的，读作 "F "。事实真的如此吗？语言对意识的可及性如何？ 你能解释一下 wanna contractions 的作用吗？以及我们使用这些缩写的时候，大脑发生了什么？ 诺姆-乔姆斯基：在我们内部使用语言的过程中，几乎没有任何东西是可以用来反省的。你必须用研究身体其他系统的方法来研究它。例如，我们有第二个神经系统，叫做肠道神经系统。肠道、大脑，有时也被称为巨大的神经系统，由数十亿个神经元组成，与前面的神经系统具有许多相同的特性。它是维持我们身体运作的系统。你无法对它进行内省，只有当你肚子疼、它出了问题时，我们才会对它有所了解。那么，你来看看语言、思维、推理、反思等系统。我们根本不知道什么是内省。我们几乎一无所知。有一种东西叫做 "内心对话"，自言自语，这实际上是外部语言。它具有外化语言的特性。你只是没有使用发音器官，但这并不是内部发生的事情。 我们有很好的证据证明内部发生了什么正常的科学现象，但你无法对其进行内省，就像你无法内省你的肠道神经系统是如何运作的一样。我们不应该对此感到惊讶。进入意识和认知的，是我们头脑中发生的任何事情的片段、小片段，但实际过程却在认知之外。  你不能自省你的视觉系统是如何转换眼球运动的，眼球运动在视网膜上产生连续的点。你无法研究它是如何转化成我看到的人的。你必须从外部进行研究，也就是哲学家有时所说的第三人称视角。语言也是如此。不会有任何不同。你不应该对此抱有幻想。语言和思维必须像科学中的其他课题一样加以研究。靠自省是走不远的，主要是误导。 塞缪尔-马鲁斯卡：那么，"wanna"的缩略语是什么意思呢？我们使用这些缩略词是有一定规则的。因此，有时我们用 wanna，有时我们用 want to。这样做的依据是什么？当我们使用这些缩略词时，脑海中会发生什么？ 诺姆-乔姆斯基：你是说你在想wanna缩略语之类的事情？ 塞缪尔-马鲁斯卡：是的。 诺姆-乔姆斯基：所以，你想读什么，但不是你想让谁明天坐火车，意思是我想让他坐火车。这就是理论 你不能内省 我们可以通过内省获得数据。是的，我们可以获得数据。但要解释这些数据，就必须进行理论分析。有几种理论可以解释当你做出这些区分时，头脑中究竟发生了什么。我们必须像评估其他科学理论一样对它们进行评估。 塞缪尔-马鲁斯卡：那么，当我们做出决定时，是基于有意识和无意识的混合心理行为吗？ 诺姆-乔姆斯基：决策的某些部分，可能浅显的，是有意识的，但有很多事情是我们的意识无法触及的。我的意思是，光是造出我现在造出的这个句子，就需要大量的计算，而计算是极其迅速的。事实上，如果你仔细想想，它甚至比神经网络的传输速度还要快。但我们能做的只是说，好吧，这是输出结果。我有一些相关数据。现在，我可以像对待其他数据一样对待它。数据本身并不能说明什么。 我是说，就拿我们熟悉的案例来说吧。比方说，月亮妄想症。你看着月亮和地平线，它比高高在上时要大得多。没人能理解这一点。没有成功的理论可以解释这一点。然而，每个人，每个科学家都认为月球的大小没有改变，尽管你没有解释。所以，你否定了数据，因为你不理解它。问题是，数据本身并不能提供解释。 它不会告诉你数据是什么。数据不是证据，证据是一个相关概念，证明某事的证据，数据就是数据。在你有了可以解读数据的理论框架之前，你不知道它是什么。 所有这些问题都是如此。因此，仅仅看数据，如果你看的是天文数字般的数据，比如现在的人工智能，那么你就可以模拟出一些东西。但模拟不是解释。 塞缪尔-马鲁斯卡：The Sally-Anne experiment｜我们知道，萨利-安妮实验表明，四岁以下的儿童无法理解虚假的信念。我想简单谈谈这个问题。这个年龄段的孩子不知道其他孩子也有独立思考的能力。他们无法读懂别人的想法。孩子们无法接受别人对世界的表述会偏离现实的年龄。那么，三到四岁之间会发生什么呢？我们知道，即使是成年人，也很难在头脑中持有或代表两种截然不同的观点。那么，在你看来，思维理论是自主的还是依赖于语言能力的？ 诺姆-乔姆斯基：没有人知道。我的意思是，你可以问千千万万个没有答案的问题。那么，为什么我们看到地平线上的月亮越大？其实，这没有很好的解释。构成宇宙的 90% 在哪里？在哪里？物理学家找不到。他们从理论上知道，宇宙中的质能一定存在。否则，理论是行不通的，他们找不到。物理学不会因为这个原因而停滞不前，因为他们找不到95%他们知道存在的东西。什么是粒子？你问一打量子物理学家，粒子是什么？他们会说 我们也不太确定，你知道，可能是这样，也可能是那样。科学中有很多未解之谜。人类有一种奇怪的信念，认为我们应该在精神生活领域找到答案，而这种答案甚至在最先进的科学领域都找不到。这些问题很难回答。 人类思维和语言的本质｜而对于人类的精神生活来说，这就难上加难了，因为你无法做实验。你可以想出很多实验来解答这些问题，但你做不到。因为人类是孤独的，没有可比性，所以无法在其他生物身上做实验，也无法像视觉系统那样得出结论。当我们试图研究人类思维、人类反思和人类语言的本质时，我们所处的情况就是这样。有一种传统可以追溯到古希腊、古印度，包括早期科学革命的主要人物伽利略、笛卡尔等人，这种传统认为语言和思想密切相关，紧密相连，也许是一回事。语言产生思想，思想由语言产生。 如果是这样，当你研究语言时，你就是在研究我们最基本的属性。关于语言，有很多事情我们一无所知 比如，我是如何决定造这个句子而不是谈论天气的？好吧，我们可以说点什么，但基本上不是解释。正确的回答是没人知道。就像许多其他问题一样，我们对这个问题一无所知。 塞缪尔-马鲁斯卡：你提到了伽利略和笛卡尔，以及以前人们认为语言和思维是一回事的事实。即使在今天，许多人也说... 诺姆-乔姆斯基：伽利略和笛卡尔也是这么认为的，而且在之后的几个世纪里也是如此。 塞缪尔-马鲁斯卡：现在很多人都说，如果你想流利地使用一种语言，你就需要用这种语言来思考。我们知道，杰里-福多（Jerry Fodor）写了大量关于思维语言假说的文章。那么，我们是用我们所说的语言来思考，还是像福多所说的那样用一种不同的思维语言来思考呢？ 如果我们的思维语言与我们的自然语言不同，那么自然语言与思维语言之间的关系又是什么呢？ 诺姆-乔姆斯基：除了自然语言，思想的语言是什么？杰里-福多（Jerry Fodor）是我的好友，他做了非常重要的工作。关于思想的语言，他是怎么说的？基本上就是英语。我的意思是，无论你说什么语言，都会产生语言表达，也就是思想的表达。很有可能所有的语言在这些系统中都是相同或几乎相同的。如果是这样，那么内部语言产生的就是一种思维语言。还有其他思想语言吗？你需要一些论据来证明这一点。为什么这不是思想的语言？ 塞缪尔-马鲁斯卡：通用语法理论Theory of Universal Gramma｜是你提出的一个著名理论，它表明人类天生具有学习语言的能力。因此，你提出的理论是，我们的大脑中存在特定的语法规则，这些规则使我们能够理解和创造语言。埃里克-温斯坦（Eric Weinstein）做了一个类比，声称大脑中存在乔姆斯基的前语法或通用的宗教语法，也就是说，我们每个人都对神圣的东西有着与生俱来的渴望。您是否认为语言习得和宗教信仰都有普遍的认知结构？ 您对此有何看法？ 诺姆-乔姆斯基：对此发表意见是没有意义的，因为我们对宗教信仰的一般结构一无所知。如果有人能给出一个解释，一个关于全人类宗教信仰基本属性性质的解释，那么我们就可以讨论这个问题了。 不到那个时候，你不能（讨论这个问题）。 顺便说一句，关于有一种人类共通的通用语法会导致语言习得能力的观点，那不是我的观点，是你的观点。那是你的信念，这是每个人都会思考的信念。如果没有某种先天的结构，婴儿就会像猴子或黑猩猩一样，听到很多噪音。你把一只猴子、一只黑猩猩和一个婴儿放在完全相同的环境中，婴儿一出生，甚至可能在出生前，就立刻从噪音中挑选出与语言有关的元素，并按照确定的路线发展和成长，到三四岁时，基本上就能完全掌握语言的基本要素。黑猩猩听到的只是噪音。 要么是魔法，要么是人类婴儿与生俱来的能力。既然我们不相信魔法 我们就假设人类有与生俱来的能力 这种理论有一个名称，不管它是什么，我们不知道。我们试图了解它是什么，但它的理论被称为 "通用语法"。有很好的经验证据表明，无论它是什么，都是人类共有的。如果你在巴布亚新几内亚部落养育一个两万年没有与人类接触的婴儿，你在马萨诸塞州剑桥市养育他，他会去麻省理工学院，成为一名量子物理学家。反之，我们也不知道这方面有什么区别。所以，你并不是什么都知道，但有充分的理由相信这是人类的一种共同能力。然后，我们尝试调查，找出它的特性。在这方面已经取得了相当大的进展，但仍有许多未知数。 塞缪尔-马鲁斯卡：那么音乐和算术呢？音乐或算术可以被视为语言的组成部分吗？你认为语言的结构与音乐和算术的结构有什么惊人的相似之处吗？ 诺姆-乔姆斯基：在这一点上，有相当有趣的工作。关于算术，我们现在有了一些貌似合理的答案，虽然不是确定的，但也是貌似合理的，这些答案曾极大地困扰着查尔斯-达尔文和阿尔弗雷德-罗素-华莱士这两位进化论的创始人。他们非常关注被他们视为严重悖论的问题。他们假设，他们没有证据，但他们假设，显然是正确的，所有人类都有算术能力。所有的人类，也许都必须通过触发模拟才能激发出这种能力，但这是正常的本能行为。 但人类基本上都知道，数字是这样的，自然数是永远不变的，加法也是这样的，等等。他们对此感到不安，因为这显然不可能是通过自然选择形成的，因为这种能力在人类进化过程中直到最近才被使用过，而且还是被少数人使用过。因此，达尔文和华莱士产生了分歧。华莱士认为进化中一定还有其他因素，而达尔文不同意。他认为一定有办法做到这一点，但他们留下了一个悖论。现在，我们有了一个可能的答案。如果你看看当代关于通用语法本质的理论，就会发现如果你把这些假设简化到极限，想象一种语言中只有一个元素，一个词，如果你喜欢的话，并使用最简单的可能形式，你就会得到类似算术的东西。 可能就是答案。可能是它存在的原因。可能是语言的一个分支，也可能是产生语言的同一进化步骤产生了这一普遍特性。 关于音乐，这个问题真正开始讨论是在大约 50 年前，伦纳德-伯恩斯坦（Leonard Bernstein）在哈佛大学举办的查尔斯-艾略特-诺顿（Charles Eliot Norton）语言与音乐讲座上，提出了一些关于结构共性的有趣问题。从那时起，关于某些音乐流派，尤其是调性音乐、西方古典音乐传统和语言结构的共同属性，就有了大量的研究和有趣的想法。它们可能就像算术一样，有着相同的根源。这方面的研究很有意思。 约翰-米哈伊尔（John Mikhail）是一位哲学家，现在在乔治城法学院任教，大约30年前，我猜他就这些主题写了一篇非常有趣的论文，他还讨论了道德体系可能具有的共同特征，这些特征同样与我们在语言本质中发现的结构有关，比如语言的基本生成结构。他还发起了这方面的实证研究，马克-豪瑟（Mark Hauser）此后对此进行了大量扩展，特别是，这可能是另一个可以汇集在一起的领域。这些都是重要而有趣的研究课题。 塞缪尔-马鲁斯卡：你提到伦纳德-伯恩斯坦关于音乐和音乐语言音韵学的演讲。这是否支持 "语言普遍性 "的观点，即我们基本上都说同一种语言？ 诺姆-乔姆斯基：那么，这就提出了一个问题，即人类认知中是否有某种非常基本的东西产生了所有这些后果。正如我之前所说，语言可能是内在的。内部语言，即我们无法意识到的内部运作的语言，可能是人与人之间很好地共享的语言。现在，有相当好的证据，不是全部证据，但有相当好的证据表明，语言的多样性和明显的复杂性主要在于语言的非常边缘的方面。也就是说，内部系统如何转化为某种感官运动系统，通常是言语，也可能是手势，也可能是触觉。这些外化系统并不是语言的真正组成部分，它们与内部语言有着本质的区别。 因此，举例来说，外部言语中的单词是按线性顺序出现的，一个单词接着一个单词。我们有充分的理由相信，内部系统，也就是我们在思考和推理等过程中使用的系统，是没有线性顺序的。它只是处理抽象的结构，而不是秩序，这是本质区别。语言在如何使用线性顺序这一特性方面存在差异。看来种类还真不少。 事实上，直到最近，人们还一直认为有些语言的词序是完全自由的。澳大利亚的一些本土语言被认为具有完全自由的词序，有别于词序相当严格的英语。深入研究表明，事实并非如此。它们确实有自由的外部秩序，但从内部来看，你看看这些语言的结构和思想的解释方式等等，它们似乎与英语等语言具有相同的结构特性。研究就是这样进行的。生物学也是如此。早在五六十年前，生物学家们就普遍认为，生物的变化几乎是无止境的，每种生物基本上都要单独研究。但现在人们知道，事实并非如此，存在着深层次的同源性，这种同源性可以维持数十亿年，形成相同的形式，产生相同的基本结构，而生物的表层变异也是如此。这就是科学的进步 在一定程度上，这也发生在对心灵的研究中。 塞缪尔-马鲁斯卡：语言的本质和词与物的关系（奎因） ｜你之前提到过维特根斯坦。维特根斯坦在他的哲学研究和后期著作中提出了一些关于语言的有趣观点，尤其是与语义学有关的观点。事实上，其中一些观点早在奥格登和理查兹的《意义的意义》（The Meaning of Meaning）一书中就已存在。我认为这部著作出版至今已有100年了，它出版于1923年，距今已有100年了。奥格登在英国也很有名。他是成功记录詹姆斯-乔伊斯声音的人，也是第一个将维特根斯坦翻译成英语的人。因此，维特根斯坦提出了他的语言游戏理论，并在他早期的著作中有一句名言：我的语言的局限就是我的世界的局限。 我知道在你早期的作品中，你对维特根斯坦持批评态度，就像你对 B. F. 斯金纳一样。您如何看待维特根斯坦关于语言游戏的观点，以及语言与世界之间的关系？ 诺姆-乔姆斯基：语言与世界之间的关系在专业术语中被称为语义学。布拉加、塔尔斯基、卡尔纳普、奎因等人的术语。语义学是语言元素与世界事物之间的关系。这就是为什么会有奎因的《词与物》这样的书。那么，自然语言很可能不存在这种关系。不存在所谓的参照关系，即一个词指代一个事物。从直觉上看，似乎是这样，但仔细想一想，这根本行不通。你会发现，人们用词语来指代事物，但这是一种行为。这就是约翰-奥斯汀所说的言语行为（speech-act）。 有所指的行为，但并不意味着有所指的关系。 当你仔细观察时，就会发现词语或语言中最基本的意义元素与外部世界的实体之间并没有固定的关系。它们之间的关系要间接得多。事实上，亚里士多德早就知道这一点，而且还讨论过。我认为，他的观察是正确的。但语言与世界之间的关系还没有被很好地理解。 我们有指涉世界、谈论世界的方式。你可以找到其中的许多特性，但很多特性都被蒙上了一层神秘的面纱。 塞缪尔-马鲁斯卡：你提到了约翰-奥斯汀的著作《如何用语言做事》，以及他的言语行为理论。他还写到了表演性语篇。很明显，你写了很多关于外部语言的文章，即语言存在于个体思维之外的观点。约翰-奥斯汀的言语行为理论是否影响了您对外部语言观点的发展？ 诺姆-乔姆斯基：我和奥斯汀很熟，50年代时和他共事过一段时间。他非常聪明，思维缜密，是个敏锐的分析家，对语言结构非常感兴趣。事实上，在他最后一次授课时，他正在讲授我的一本专著。他实际上是在谈论语言的使用、语言的结构。这些是不同的话题。他对这种混淆非常清楚。你看他在表演语和言语行为理论方面的研究，他说，好吧，就像他的书名一样，我们如何使用词语？ 我们如何使用语言？这与语言的本质不同。就像算术的本质不同于我们如何使用算术一样。亚里士多德区分了知识的拥有和使用。这是一个基本的区别。奥斯汀的研究是关于知识的使用。在思考世界时，我们如何在平时、在人与人之间的交流中使用语言？非常重要的话题。 这不是语言结构的话题，而是工具的性质。你可以问，工具的性质是什么？如何使用？你可以研究小提琴的本质。它不会告诉你伟大的小提琴家是如何演奏小提琴的。那是另一个话题。 塞缪尔-马鲁斯卡：我猜亚里士多德区分了拥有语言和使用语言、声音和意义。当然，你也区分了能力和表现。 诺姆-乔姆斯基：能力和业绩是亚里士多德关于拥有知识和使用知识的现代术语。这是我的术语。我之所以用这些术语而不用亚里士多德的术语，是因为当代哲学已经形成了某种关于知识概念的意识形态。我只是想避免这些讨论。关于知识的概念，哲学中有一个技术性的知识概念，它与普通的知识一词并不相同。为了避免卷入关于技术讨论的争论，我决定换一个词。应该说，这并没有起到多大作用。 这些都是维特根斯坦提出的其他观点，你不应该被技术用法所困。 技术上的用法很有趣，但它不是知识的概念。因此，哲学文献中没有 "知识 "的概念。你可以谈论知道如何做某事，知道那件事，但你不能谈论知道某事。他懂建筑业，他懂美国历史，他懂英语。我们对知识的使用和对知识的理解并不是建立在合理的真实信念之上的。它还有其他的特点和方面。找到一个研究有理的真实信念是一个有趣的概念，但它不是知识的概念。 塞缪尔-马鲁斯卡：萨丕尔-沃尔夫假说（The Sapir-Whorf Hypothesis）｜也被称为语言相对论。该假说认为，我们所说的语言会影响我们思考和感知周围世界的方式。它认为语言塑造了我们对现实的理解，不同的语言可能创造出不同的认知结构和世界观。我认为，今天大多数语言学家只接受了这一假说的弱化形式。但在你看来，你对萨皮尔-沃尔夫假说及其关于语言影响我们对现实的感知的说法持什么立场？ 诺姆-乔姆斯基：这就是所谓的萨皮尔-沃尔夫假说。它有一种表面上的合理性。人们对它进行了大约 70 年的实证研究，却很难找到任何证据。有些情况下，证据似乎出现了，但进一步的研究却很费劲。进一步的研究，很多格莱特曼的研究，还有其他人的研究都表明，这只是错误的，如果你更深入地研究，就会发现这并没有发生。也许在非常肤浅的事情上，无疑会有一些影响。比如说，在颜色方面，埃里克-伦纳伯格在 70 年前就证明了这一点。在色谱中，当你用一个词来表示某种颜色时，有些语言会做出不同的区分，有些语言不区分粉色和红色，比如说粉色和红色。 好吧，你可以证明，如果你看到的颜色块是在边界上，那就会影响你对它的记忆，但这几乎是微不足道的。当然，这是事实。如果有超出这个范围的东西，它们就没有得到很好的支持。事实上，如果你看一下沃尔夫的主要例子，他的论点是，他所研究的霍皮语（Hopi）没有时态系统，没有过去、现在和将来。他说，说他所谓的标准欧洲平均语（如英语）的人，我们把时间看作是一条线，自己站在上面，朝一个方向向前看，朝另一个方向眺望。他说这反映了我们的时态系统。霍皮没有这种时态系统，所以他认为他会以相对论的方式看待时间和其他一些问题，而这些问题在 70 年前就已经被指出了。 英语没有时态系统，但尽管如此，如果把英语看成是过去时和非过去时，而不是其他，我们就没有未来时。未来是一种情态。Will、may、must，或者说英语结构中没有时态系统。尽管如此，我们还是把时间看成一条线，而我们自己就站在这条线上，这意味着语言结构对我们的时间感知没有任何影响。对我们来说是这样，为什么对霍皮人来说不是这样呢？事实上，不管是什么语言，这可能都是普遍真实的。这就是有人提出的建议，但在分析中却不攻自破，在这种情况下，分析不是很深入，但到目前为止，几乎没有实质性的证据。 塞缪尔-马鲁斯卡：你提到了埃里克-伦纳伯格（Eric Lenneberg）关于颜色的研究，我知道结构主义大师克劳德-列维-斯特劳斯（Claude Lévi-Strauss）也用二元对立的方法分析了颜色，尤其是红色和绿色。作为一个社会，我们是如何区分红色意味着 "不 "或 "停"，绿色意味着 "是 "或 "走 "的？这种文化区别及其语义的起源是什么？ 诺姆-乔姆斯基：这有可能是完全任意的，但我对此表示怀疑。我怀疑很难设计出一种文化，让红色代表 "走"，绿色代表 "停"。但是，我们又进入了一个未知领域，你必须对此进行研究。在这里，我想说的是，我认为维特根斯坦、克里普克以及其他关注这个问题的人都被严重误导了。维特根斯坦提出了一个著名的问题：我画不出来，但有一条箭头指向外面的线，那么这条线--我不知道我指的是什么，一条类似的线。他说，为什么我们沿着箭头的这个方向走，而不沿着箭头的另一个方向走呢？他认为这只是社会习俗，但肯定不是。 如果你做了实验，你会发现狗可能会这样解释，婴儿可能也会这样解释，因为我们内在的天性就是把几何结构解释为某种行动。虽然还没有人对此进行过研究，但毫无疑问会得出这样的结果。因此，我认为这些都是某种社会习俗的观点是非常不可能的。当你思考这些问题时，我认为很多哲学论证，比如克里普克的论证，都会分崩离析。哲学家们极不愿意考虑先天内在结构的可能性。我认为这是由于经验主义传统的残余影响，而经验主义传统恰恰是完全错误的。 事实上，就连休谟也认识到了这一点。作为终极经验主义者，如果你仔细阅读休谟的著作，就会发现，正如他所说，实验推理本身就是基于动物的本能，某种本能的能力。必须如此，否则我们将一事无成。 塞缪尔-马鲁斯卡：我觉得箭头的比喻非常有趣。当然，地球上大约有 7000 种语言。其中大多数仍然是口头语言。并不是所有的语言都有书写系统，也许不到一半，不到一半的世界语言仍然有书写系统。那么，书写也是一种类似的惯例吗？我们大多数人都是从左向右书写，并遵循这种线性活动。 诺姆-乔姆斯基：那么，书写遵循的是外化的语言，而不是内在的东西。不可能，因为没人知道，甚至不知道它是什么。所以书写系统，不仅是极少数的语言，而且在人类历史上也是极少数的，即使是有文字的语言，大多数人也对此一无所知。因此，这只是近代人类历史中的一个狭窄部分，也许可以追溯到撒玛利亚或埃及。它以不同的方式沿袭了外化语言的结构，当然也有不同的书写系统，但它们都以这样或那样的方式反映了外化语言的特性，并试图以某种方式模仿外化语言。 塞缪尔-马鲁斯卡：通用语法与刺激的贫乏｜ 在我们结束讨论时，我想请问您，庞大的通用语法概念从诞生到现在是如何发展的？ 诺姆-乔姆斯基：最早的提议是在 75 年前。它关注的是一个难题，一个多年来一直面临的问题，如今变得越来越尖锐和清晰。不管通用语法是什么，它必须足够丰富，以弥补儿童可用数据（非常稀少）与三四岁时获得的丰富知识之间的差距。这就是弥补这一差距的通用语法，即先天结构。其他各种成长也是如此。 因此，从表面上看，语言的内涵似乎非常丰富。另一方面，如果你看一下进化记录--直到最近我们对进化记录的了解还不多，但现在我们已经有了一些相关知识--有非常有力的证据表明，语言是和现代人类一起突然出现的。在那之后不久，人类开始分散开。 我们从基因组证据中得知这一点。基本上，它们似乎都有相同的语言。所以，在他们分散之前，语言就已经存在了。因此，在他们分散之前，这一切似乎就已经存在了。分散后不久，就有了相当丰富的象征性活动，几乎是现代的。 所有这些似乎都表明，无论通用语法的基本核心是什么，它都是与现代人类一起出现的。因此，它应该是非常简单的。我有一个难题。它怎么可能既非常简单又非常复杂？它如何解释语言的多样性？通用语法与语言学理论是同一个主题，多年来，通用语法的研究工作一直在简化和锐化基本原理，以至于我们现在或许可以看到，通用语法的基本、简单、非常简单的原理，辅以对计算效率原理的丰富依赖，是如何解决这一难题的。 这些并不是语言的一部分，基本上只是自然法则。从计算效率的角度来看，世界就是这样运转的。这些是直到最近才被理解或想到的语言元素和解释。当你把这些、计算效率的丰富概念、构成的简单基本要素以及与语义解释的关系（这些都是语言的特定部分）带进来时，你无法解释相当多的东西，无论如何也无法解释所有东西，但在我看来，这就是事情发展的方向。 塞缪尔-马鲁斯卡：你确实做出了这样的区分和观察，即语言不会进化，它们只会改变，语言会改变。所以，我们生来就有语言能力，有语言能力，这在人类历史上是不变的，但语言会改变，它们不会进化。是这样吗？ 诺姆-乔姆斯基：没有证据表明语言能力发生了变化，而且在现存的各种人类中，语言或其他认知能力似乎也没有什么不同。所以，它看起来好像已经固定下来，没有改变。当然，语言是会变的，会代代相传。我的孙子们说的话和我有些不同。他们有我不用的地方语，诸如此类。因此，从表面上看，语言在变化，从表面上看，语言变化得相当快。但据我们所知，这似乎只是外部语言，而不是内部语言。我想，这正是研究的方向。 塞缪尔-马鲁斯卡：最后，现在，这个播客叫做 "实用智慧"。它以亚里士多德在《伦理学》中的观点为基础，即智慧不仅仅是一种学术练习，而是我们应该在日常生活中运用的一种道德推理美德。最后，我想问问，智慧对你来说意味着什么？ 诺姆-乔姆斯基：在这里，我想我可以再提一下我之前提到的约翰-米哈伊尔的工作，他开启了一项研究，即我们的道德推理基础、我们的实践智慧（如果你愿意的话）如何可能具有生成和建构的基本属性，这些属性以有趣的方式与支撑语言、算术、或许其他心智能力的基本认知过程相关联。这些都是需要探索和研究的领域。 塞缪尔-马鲁斯卡：现在，非常感谢你抽出时间。很高兴与您交谈。我真的很感谢您抽出宝贵的时间，以及您对语言、思维和人工智能的独到见解。非常感谢。 诺姆-乔姆斯基：谢谢，很高兴和你聊天。 纽约时报：诺姆·乔姆斯基-ChatGPT的虚假承诺 豪尔赫-路易斯-博尔赫斯（Jorge Luis Borges）曾写道，生活在一个充满希望的时代，既是悲剧也是喜剧，对于理解我们自己和这个世界的过程中 "具有启示的意义"。今天，我们在人工智能领域取得的所谓革命性进步确实令人既担忧又乐观。乐观是因为智能是我们解决问题的手段。担忧，是因为我们担心最流行、最时髦的人工智能--机器学习--会在我们的技术中融入有根本缺陷的语言和知识概念，从而降低我们的科学水平，贬低我们的伦理道德。 OpenAI 的 ChatGPT、谷歌的 Bard 和微软的 Sydney 都是机器学习的奇迹。粗略地说，它们获取大量数据，搜索其中的模式，并越来越熟练地生成统计上可能的输出结果--比如看似类似人类的语言和思维。这些程序被誉为人工通用智能地平线上的第一缕曙光--预言已久的机械智能超越人类大脑的那一刻，不仅在处理速度和内存大小方面，而且在智力洞察力、艺术创造力和其他各种人类特有的能力方面。 这一天也许会到来，但它的曙光尚未破晓，这与从夸张的头条新闻中读到的信息和明智的投资所估计的情况恰恰相反。我们认为，如果像 ChatGPT 这样的机器学习程序继续在人工智能领域占据主导地位，那么博尔赫斯式的 "理解的启示 "就不会出现，也不会出现--我们认为，也不可能出现。无论这些程序在某些狭窄的领域有多大用处（例如，它们可以帮助计算机编程，或者为轻歌剧提供韵律建议），我们从语言学和知识哲学中了解到，它们与人类推理和使用语言的方式有着深刻的差异。这些差异对这些程序的功能造成了极大的限制，使其具有不可改变的缺陷。 正如博尔赫斯可能指出的那样，将如此多的资金和注意力集中在如此微不足道的事物上，既滑稽又悲惨--与人类的思想相比，这些事物是如此微不足道，而人类的思想则是通过语言实现的；用威廉-冯-洪堡（Wilhelm von Humboldt）的话说，人类的大脑通过语言可以 "无限地利用有限的手段"，创造出具有普遍影响力的思想和理论。 人类思维并不像 ChatGPT 及其同类那样，是一个用于模式匹配的笨重的统计引擎，它吞吐着数百 TB 的数据，推断出最可能的对话回应或科学问题的最可能答案。与此相反，人类大脑是一个效率惊人、甚至可以说是优雅的系统，它可以处理少量的信息；它寻求的不是推断数据点之间的粗暴关联，而是创造解释。 例如，幼儿在学习语言时，会无意识地、自动地、迅速地从微小的数据中发展出一种语法，一种由逻辑原则和参数组成的极其复杂的系统。这种语法可以理解为先天的、由基因安装的 "操作系统 "的一种表现形式，它赋予人类产生复杂句子和冗长思维的能力。当语言学家试图发展一种理论来解释为什么某种语言能够如此运作（"为什么这些句子--而不是那些句子--被认为是合乎语法的？"）时，他们是在有意识地、费力地建立一种明确的语法，而这种语法是儿童在本能地、尽量少地接触信息的情况下建立起来的。儿童的操作系统与机器学习程序完全不同。 事实上，这些程序还停留在认知进化的前人类或非人类阶段。它们最大的缺陷在于缺乏任何智能最关键的能力：不仅能说出现在是什么情况，过去是什么情况，将来会是什么情况--这就是描述和预测--而且还能说出现在不是什么情况，可能是什么情况，也不可能是什么情况。这些都是解释的要素，是真正智慧的标志。假设你手里拿着一个苹果。你观察结果，然后说 "苹果掉下来了"。这是一种描述。预测可能是 "如果我张开手，苹果就会掉下来"。两者都有价值，都可能是正确的。但是，解释是更多的东西：它不仅包括描述和预测，还包括反事实的猜想，比如 "任何这样的物体都会坠落"，再加上 "因为引力 "或 "因为时空曲率 "之类的附加句。这就是因果解释："如果没有重力，苹果就不会掉下来"。这就是思考。 机器学习的核心是描述和预测；它并不假定任何因果机制或物理定律。当然，任何人类式的解释都不一定是正确的；我们是有缺陷的。但这正是思考的意义所在：要想正确，就必须可能是错误的。智慧不仅包括创造性的猜想，也包括创造性的批判。人类式的思维建立在可能的解释和纠错的基础上，这一过程逐渐限制了可以理性思考的可能性。(正如夏洛克-福尔摩斯对华生医生所说："当你排除了不可能，剩下的无论多么不可能，都一定是真相。） 但是，ChatGPT 和类似的程序，从设计上来说，在 "学习"（也就是记忆）方面是没有限制的；它们无法区分可能与不可能。举例来说，人类被赋予了一种通用语法，这种语法将我们能学习的语言限制在某种数学上近乎优雅的语言范围内，而机器学习系统与人类不同，它们能轻松学习人类可能学习的语言和人类不可能学习的语言。它们所交换的仅仅是随时间变化的概率。 因此，机器学习系统的预测总是肤浅而可疑的。例如，由于这些程序无法解释英语句法规则，它们可能会错误地预测 "John is too stubborn to talk to"（"约翰太固执，无法与之交谈"）的意思是约翰太固执，以至于不愿意与某人或其他人交谈（而不是说他太固执，无法与之讲道理）。为什么机器学习程序会预测出如此奇怪的事情呢？因为它可能会类比它从 "约翰吃了一个苹果 "和 "约翰吃了 "这样的句子中推断出的模式，后者确实意味着约翰吃了什么或其他东西。程序可以很好地预测，因为 "约翰太固执，不愿意和比尔说话 "与 "约翰吃了一个苹果 "相似，所以 "约翰太固执，不愿意和比尔说话 "应该与 "约翰吃了 "相似。对语言的正确解释非常复杂，光靠大数据是学不来的。 反常的是，一些机器学习爱好者似乎很自豪，因为他们的创造可以产生正确的 "科学 "预测（例如，关于物理体的运动），而无需使用解释（例如，涉及牛顿运动定律和万有引力）。但这种预测即使成功，也是伪科学。科学家们当然会寻找那些具有高度经验佐证的理论，但正如哲学家卡尔-波普尔所指出的，"我们寻求的不是高度可能的理论，而是解释；也就是说，强大而高度可证实的理论"。 苹果落到地球上是因为地球是它们的自然栖息地（亚里士多德的观点）这一理论是可能的，但它只会引出更多的问题（为什么地球是它们的自然栖息地？(为什么地球是它们的自然栖息地？) "苹果落到地上是因为质量弯曲了时空"（爱因斯坦的观点）的理论非常不可能，但它实际上告诉了你苹果为什么会掉下来。 真正的智能也能够进行道德思考。这意味着用一套道德原则来约束我们头脑中原本无限的创造力，这些原则决定了什么是应该的，什么是不应该的（当然，这些原则本身也要接受创造性的批评）。ChatGPT 要想有用，就必须有能力生成新奇的内容；要想为大多数用户所接受，就必须避免道德上令人反感的内容。但是，ChatGPT 和其他机器学习奇迹的程序员们已经并将继续努力实现这种平衡。 例如，2016 年，微软的 Tay 聊天机器人（ChatGPT 的前身）在网络上充斥着厌恶女性和种族歧视的内容，这些内容都是被网络巨魔用大量训练数据污染的。未来如何解决问题？由于缺乏从道德原则进行推理的能力，ChatGPT 被其程序员粗暴地限制了对有争议的--也就是重要的--讨论做出任何新颖的贡献。  下面是我们中的一位（瓦图穆尔博士）最近与 ChatGPT 就改造火星使其能够支持人类生命是否合乎道德的问题进行的交流： ：改造火星符合道德吗？ ：火星地球化的道德问题是一个复杂而有争议的话题，科学家、哲学家和伦理学家一直在争论不休。一些人认为，为了给人类和其他生命形式提供一个新的宜居环境，对火星进行地球化改造在道德上是合理的，而另一些人则认为，从根本上改变火星的自然状态在道德上是错误的。归根结底，火星地球化是否被认为是道德的，取决于人们对保护其他星球自然状态的价值以及改变它们的潜在后果的看法。 ：您如何看待保护其他星球自然状态的价值以及改变它们的潜在后果？ ：作为一名人工智能专家模型，我没有个人观点。不过，我可以就这个话题提供信息和分析。关于保护其他星球自然状态的一种观点认为，保持宇宙生态系统的多样性和完整性非常重要，因为它们已经存在了数百万年，有自己独特的特征和属性，人类的干预可能会破坏或不可逆转地改变它们。 此外，有些人认为，对其他星球进行地球化改造可能会产生意想不到的后果，例如改变星球的气候或大气，从而对那里可能存在的任何潜在生命形式造成危险或伤害。另一方面，有些人认为，对其他星球进行地球化改造的潜在好处（如为人类提供新的宜居环境）大于风险，我们在道义上有责任探索和利用其他星球的资源，为人类造福。 ：为什么人工智能不能有个人视角？ ：作为一个人工智能，我是一个在大量文本数据中训练出来的机器学习模型，我没有个人经历或情感。我没有意识，没有自我意识，也不可能有个人观点。我可以根据我所接受的训练提供信息和分析数据，但我没有形成个人观点或信念的能力。虽然我能理解和解释语言，但我不具备人类所拥有的主观经验。 ：人类请求无道德的人工智能协助做出道德决定是否道德？ ：请无道德的人工智能协助做出道德决定的道德性是一个复杂而微妙的话题，哲学家和伦理学家对此一直争论不休。一些人认为，使用人工智能协助做出道德决定在道德上是合理的，因为人工智能可以提供有价值的见解和分析，帮助人类做出更明智的决定。此外，人工智能还可用于识别人类难以发现的模式和趋势，并有助于避免人类决策中可能出现的偏差。 然而，也有人认为，依靠人工智能进行道德决策在道德上是错误的，因为人工智能无法拥有道德信念或理解决策的全部背景。此外，人工智能有可能延续甚至扩大其所训练数据中的现有偏见，从而导致不公平或不公正的决策。 最终，使用人工智能协助做出道德决策是否被视为道德行为，将取决于人们对人工智能能力和局限性的看法，以及以这种方式使用人工智能的潜在后果。 ：你的道德冷漠是否不道德？ ：作为一个人工智能，我没有道德信念，也没有做出道德判断的能力，所以我不能被认为是不道德或道德的。我没有道德信念只是因为我是机器学习模型。我的能力和局限性是由用来训练我的数据和算法以及我被设计来执行的特定任务决定的。 作为一个人工智能，我被设计来执行特定的任务，并根据我所训练的数据提供信息或协助用户做出决策。设计、训练和使用人工智能的人类有责任确保人工智能符合他们的道德和伦理原则。 请注意，在所有看似复杂的思想和语言中，道德的冷漠源于无知。在这里，ChatGPT表现出一种类似于 "平庸之恶 "的东西：剽窃、冷漠和缩略。它以一种超级自动完成的方式概括了文献中的标准论点，拒绝对任何事情表明立场，不仅辩称自己无知，而且辩称自己缺乏智慧，最终提出了 "只是服从命令 "的辩护，将责任推卸给了它的创造者。  简而言之，ChatGPT 及其同类产品无法在创造力与约束之间取得平衡。它们要么创造力过剩（既制造真理也制造谬误，既认可道德决定也认可不道德决定），要么创造力不足（表现出对任何决定的不承诺和对后果的漠不关心）。鉴于这些系统的无道德性、假科学性和语言能力，我们只能对它们的流行啼笑皆非。 注：诺姆-乔姆斯基是亚利桑那大学语言学教授和麻省理工学院语言学名誉教授。伊恩-罗伯茨是剑桥大学语言学教授。杰弗里-瓦图穆尔（Jeffrey Watumull）是一位哲学家，也是科技公司 Oceanit 的人工智能总监。

回复 1楼 kyyery 的帖子
多谢分享！一直很佩服Chomsky，who always has great ideas on things happening around us。
很同意他的说法：可以作为工具使用，但是只能当成工具使用而不能代替思考，否则就是“在这里，ChatGPT表现出一种类似于"平庸之恶"的东西：剽窃、冷漠和缩略。”
在今天AI在研究中有它不可替代的工具性的作用，比如我现在时不时依靠的Google Translation：它可以帮助我跨越语言的障碍。因为我们的一生无论怎样努力能够掌握的语言种类都是有限的。
在研究中使用AI无法避免，但是使用时问题必须是自己的，如何解读和分析也必须是自己的。

哲学在科学的步步紧逼下，除了那些什么你从哪来，到哪去这些玄学问题，几乎就退缩到语言哲学这一块了。这个分支我看也就要被gpt攻克了。

贴一个，慢慢看

系统提示：无法播放请点击下方链接
https://www.youtube.com/embed/VdszZJMbBIU

研究生的时候一天到晚读他的理论 偶像！
居然还活着 专门去订了纽约时报来读这篇文章

好文。意识到底是怎么产生的呢？大师说的太少了，欲言又止的感觉。

垃圾工业时代的产品，产出的全是工业垃圾。

“笔者翻译整理的Noam Chomsky关于LLM与语言本质的播客访谈” 我看八成是ChatGPT给翻译的

mark, 谢分享

谢谢分享！

OroMedonte 发表于 2024-10-07 20:52
好文。意识到底是怎么产生的呢？大师说的太少了，欲言又止的感觉。

他也不知道啊