城头有一篇关于脑机接口（Brain-Machine Interface, BMI）的文章。里面提到一些将来可能出现的问题。不过它提到的问题离真正让人担心的问题还远得很。这里就简单聊几句人工智能可能给人类文明带来的影响。
首先，我们必须面对一个现实：以目前人类的生物限制，我们最终将无法与日益智能化的机器人竞争。像科幻片里一样，未来的机器人不仅可以拥有超快的计算能力，还可以具备坚不可摧的身躯，可以上天入地，甚至可以长生不老无限复制。在这种情况下，仅仅依靠控制机器人的策略是远远不够的，这些方法在绝对力量面前只会显得微不足道。
此外，我们不能把希望寄托于所谓的“人机对齐”，因为人类自身都尚未“对齐”，机器人又和敌对各方的谁对齐？再其次，宇宙中的问题本质上是量与量之间的关系问题。数学中的哥德尔不完备定理告诉我们，不存在完美无缺的系统可以掌控一切危险，系统中的漏洞是无法完全预测和避免的。
所以，人类要想传承下去，唯一的选择是自我进化，成为“超级人类”。这意味着扩展我们的大脑和身体能力，超越生物的局限，使自己与机器人一样强大，拥有超越普通生物的体格和智力。脑机接口和人工智能将是这一过程的基石。
然而，当我们不再受生物机体的约束，不再依赖传统方式传承时，“超级人类”是否还能被定义为“人类”，这将是一个”有趣“的问题。但更重要的是，一旦人类的“自我意识”与生物体分离，不再受到生物本能的影响，人类的自然选择和进化机制将被彻底颠覆，这将从根本上改变我们的文明基础。例如：
自我认知的混乱：失去传统的生物身体将直接影响人类自我认知的发展，导致身份认同的混乱。
基本欲望和本能的消失：许多基本欲望，如饥饿、欢愉、疼痛、性欲等，都与我们的生物体紧密相关。失去身体，人类存在和进化的基本动力将发生根本性变化。
情感交流的生理基础消失：没有了身体，人类的交流方式将完全改变，可能会破坏基于生物体的情感基础。
道德和伦理的混乱：长生不老成为现实，繁衍方式和数量的变化将打破传统道德和伦理观念。
资源和权力的冲突加剧：超级人类的存在和繁衍将更受资源的影响和限制，导致激烈的利益和权力冲突。
思维和心理的变化：生物欲望可能被机械和资源需求所替代，导致“超级人类”与传统人类在价值观上的巨大差异。
这些只是冰山一角。但我们不得不接受的是，即使没有“坏人”试图统治其他人类，即使智慧机器人并无毁灭或奴役人类的意图，生物人类文明的终结似乎也只是时间问题。
只是，在稳定和谐的新文明出现之前（如果可能的话），人类社会将经历怎样的动荡和转型？
没有疾病的肉身。
但是阶级的差距会变成无法逾越的鸿沟。 有钱人会选择最好的基因。没有经过改造的non-GMO 人类会成为低贱的族群。
如果程序中明确指定去“撒谎”，它自然会无脸不变色无心不用跳地“撒谎”。
如果训练数据包含错误，它的“诚实”就和“谎言”等价。
如果对它问题理解不准确，或者表达能力有限，它的诚实你不敢照单全收。
和基于知识图谱的AI系统不同，现在的LLM基本机制是“随机”，而不是“逻辑”。所以“撒谎”不是它的选项，而是它的“性质”之一。 现在这些基于LLM的AI，叫它们诚实的小骗子不算过分：）
的思维会是什么样的怪物？
人的欲望和审美又可能和生物信息处理的流畅性有关：可能都是生物快感。。。这些都会生物体相关。那机器人呢？类似还是根本不同？
城头有一篇关于脑机接口（Brain-Machine Interface, BMI）的文章。里面提到一些将来可能出现的问题。不过它提到的问题离真正让人担心的问题还远得很。这里就简单聊几句人工智能可能给人类文明带来的影响。
首先，我们必须面对一个现实：以目前人类的生物限制，我们最终将无法与日益智能化的机器人竞争。像科幻片里一样，未来的机器人不仅可以拥有超快的计算能力，还可以具备坚不可摧的身躯，可以上天入地，甚至可以长生不老无限复制。在这种情况下，仅仅依靠控制机器人的策略是远远不够的，这些方法在绝对力量面前只会显得微不足道。
此外，我们不能把希望寄托于所谓的“人机对齐”，因为人类自身都尚未“对齐”，机器人又和敌对各方的谁对齐？再其次，宇宙中的问题本质上是量与量之间的关系问题。数学中的哥德尔不完备定理告诉我们，不存在完美无缺的系统可以掌控一切危险，系统中的漏洞是无法完全预测和避免的。
所以，人类要想传承下去，唯一的选择是自我进化，成为“超级人类”。这意味着扩展我们的大脑和身体能力，超越生物的局限，使自己与机器人一样强大，拥有超越普通生物的体格和智力。脑机接口和人工智能将是这一过程的基石。
然而，当我们不再受生物机体的约束，不再依赖传统方式传承时，“超级人类”是否还能被定义为“人类”，这将是一个”有趣“的问题。但更重要的是，一旦人类的“自我意识”与生物体分离，不再受到生物本能的影响，人类的自然选择和进化机制将被彻底颠覆，这将从根本上改变我们的文明基础。例如：
自我认知的混乱：失去传统的生物身体将直接影响人类自我认知的发展，导致身份认同的混乱。
基本欲望和本能的消失：许多基本欲望，如饥饿、欢愉、疼痛、性欲等，都与我们的生物体紧密相关。失去身体，人类存在和进化的基本动力将发生根本性变化。
情感交流的生理基础消失：没有了身体，人类的交流方式将完全改变，可能会破坏基于生物体的情感基础。
道德和伦理的混乱：长生不老成为现实，繁衍方式和数量的变化将打破传统道德和伦理观念。
资源和权力的冲突加剧：超级人类的存在和繁衍将更受资源的影响和限制，导致激烈的利益和权力冲突。
思维和心理的变化：生物欲望可能被机械和资源需求所替代，导致“超级人类”与传统人类在价值观上的巨大差异。
这些只是冰山一角。但我们不得不接受的是，即使没有“坏人”试图统治其他人类，即使智慧机器人并无毁灭或奴役人类的意图，生物人类文明的终结似乎也只是时间问题。
只是，在稳定和谐的新文明出现之前（如果可能的话），人类社会将经历怎样的动荡和转型？
没有疾病的肉身。
但是阶级的差距会变成无法逾越的鸿沟。 有钱人会选择最好的基因。没有经过改造的non-GMO 人类会成为低贱的族群。
如果程序中明确指定去“撒谎”，它自然会无脸不变色无心不用跳地“撒谎”。
如果训练数据包含错误，它的“诚实”就和“谎言”等价。
如果对它问题理解不准确，或者表达能力有限，它的诚实你不敢照单全收。
和基于知识图谱的AI系统不同，现在的LLM基本机制是“随机”，而不是“逻辑”。所以“撒谎”不是它的选项，而是它的“性质”之一。
现在这些基于LLM的AI，叫它们诚实的小骗子不算过分：）
的思维会是什么样的怪物？
人的欲望和审美又可能和生物信息处理的流畅性有关：可能都是生物快感。。。这些都会生物体相关。那机器人呢？类似还是根本不同？