超级人工智能意味生物人类文明的终结

c
cw
楼主 (文学峸)

城头有一篇关于脑机接口(Brain-Machine Interface, BMI)的文章。里面提到一些将来可能出现的问题。不过它提到的问题离真正让人担心的问题还远得很。这里就简单聊几句人工智能可能给人类文明带来的影响。

首先,我们必须面对一个现实:以目前人类的生物限制,我们最终将无法与日益智能化的机器人竞争。像科幻片里一样,未来的机器人不仅可以拥有超快的计算能力,还可以具备坚不可摧的身躯,可以上天入地,甚至可以长生不老无限复制。在这种情况下,仅仅依靠控制机器人的策略是远远不够的,这些方法在绝对力量面前只会显得微不足道。

此外,我们不能把希望寄托于所谓的“人机对齐”,因为人类自身都尚未“对齐”,机器人又和敌对各方的谁对齐?再其次,宇宙中的问题本质上是量与量之间的关系问题。数学中的哥德尔不完备定理告诉我们,不存在完美无缺的系统可以掌控一切危险,系统中的漏洞是无法完全预测和避免的。

所以,人类要想传承下去,唯一的选择是自我进化,成为“超级人类”。这意味着扩展我们的大脑和身体能力,超越生物的局限,使自己与机器人一样强大,拥有超越普通生物的体格和智力。脑机接口和人工智能将是这一过程的基石。

然而,当我们不再受生物机体的约束,不再依赖传统方式传承时,“超级人类”是否还能被定义为“人类”,这将是一个”有趣“的问题。但更重要的是,一旦人类的“自我意识”与生物体分离,不再受到生物本能的影响,人类基于生物体的自然选择和进化机制将被彻底颠覆,这将从根本上改变我们的文明基础。例如:

自我认知的混乱:失去传统的生物身体将直接影响人类自我认知的发展,导致身份认同的混乱。

基本欲望和本能的消失:许多基本欲望,如饥饿、欢愉、疼痛、性欲等,都与我们的生物体紧密相关。失去身体,人类存在和进化的基本动力将发生根本性变化。

情感交流的生理基础消失:没有了身体,人类的交流方式将完全改变,可能会破坏基于生物体的情感基础。

审美机制的生物基础消失:人类的审美能力有其最基层的生理因素,是自然选择的重要一环。

道德和伦理的混乱:长生不老成为现实,繁衍方式和数量的变化将打破传统道德和伦理观念。

资源和权力的冲突加剧:超级人类的存在和繁衍将更受资源的影响和限制,导致激烈的利益和权力冲突。

思维和心理的变化:生物欲望可能被机械和资源需求所替代,导致“超级人类”与传统人类在价值观上的巨大差异。

这些都只是冰山一角。但我们不得不接受的是,即使没有“坏人”试图统治其他人类,即使智慧机器人并无毁灭或奴役人类的意图,生物人类文明的终结似乎也只是时间问题。

只是,在稳定和谐的新文明出现之前(如果可能的话),人类社会将经历怎样的动荡和转型?

J
JSL2023
有意思。有一个上限现在好像没人提了:总能源消耗。现在的超算能耗还是太大吧:)
c
cw
这一点给人类一些时间。依靠现在的模型和技术多半还做不到智慧机器人满地跑。希望那时候人类已经可以人机合体了:)
老键
"哥德尔不完备定理告诉我们,不存在完美无缺的系统可以掌控一切危险,系统中的漏洞是无法完全预测和避免的" - 当真??
d
dhyang_wxc
“在稳定和谐的新文明出现之前(如果可能的话)”,这个新文明稳定前会意识到,要人类不仅没用,还有害,必须干掉之。。。
c
cw
没有用图灵停机问题是因为觉得未来的计算机不一定都是图灵机。歌德尔的不完备定理说明形式逻辑系统的局限性,不可判定真伪的命题

就意味我们不能保证总能提供有效正确的决策。

c
cw
当然可能。如果人类可以走在“人工智能满地跑”的前面,也许还有生机:)
d
dhyang_wxc
基于文中黑体字所列的理由(再赞一下),AI如取得上手,为优化,一定要彻底消灭人类,否则不够AI。还好哥德尔站在人这边,

功耗大概是人与机器各半。AI是个封闭系统,哥德尔所讲,是个半开半闭的系统,也就是说复杂系统的演化,是不能完全预知的。AI处理简单重复或封闭问题的能力,或者已经,或者将远超人类。但对于复杂问题,如模糊、未定义、半开放、嵌套、容错等问题,人的直觉在时间和能耗上,要胜过AI。阿西莫夫早就想过了种种可以使机器人的AI逻辑陷入stall的情形。所以问题是,到了AI满地跑的时候,还有没有直觉、想象、out of box thinking的人存在。一个例子,最大质数,以前是人去找,现在大概用AI了,能去找的人才在培养出来,先夭折,那将来就没有了。这就是个致命的问题。

目前看,那些一惊一乍地说AI今天又成人类啦的专家,大概造不出什么像样的AI。但智者不言,那些背后沉默的,将来就难讲了。支持AI为刀俎,我为鱼肉的那些人,将会导致人才夭折,是眼前的问题。

d
dhyang_wxc
道家讲“玩火者,必自焚”,总是保持清醒,搞科学可以,不要昏头。这句话到了墨菲嘴里,成了墨菲定律,就成了

“二十世纪伟大的发现之一”。这样搞笑,跟AI对决,能指望多少?

J
JSL2023
什么是A I "活"下去的理由:)
c
cw
所以为什么说人类只有同时用AI来“强化”自己,至少和AI在一个层次竞争。但这样就会出现我们想说的“人非人”带来的问题
d
dhyang_wxc
像电影The Matrix里的Neo,Neo-人类。
d
dhyang_wxc
希望AI科学家能先想通这个问题,再造AI吧。:)
d
dhyang_wxc
显然那个导演认为,key-maker得是个亚裔,才对劲儿。
d
dhyang_wxc
电影《阿凡达》造了一个巨大的神经体,有神的功能。呵呵。那个东西活下去理由是啥?
c
crazysm
在 2023 年疯狂 Chat GPT 的时候,我自己想过一个类似的伪命题

在疯狂炒作元宇宙的人类现象中,我一直很不看好这个 VR MR AR 的效果,因为目前任何技术只是在视觉上欺骗大脑,就像人们观看电源(二维)而带入自己的感觉一样,这个并没有取代显示世界的可能,因为人类的技术还无法再 VR AR 中实现 人体疼 痛 伤 嗅觉 味觉 以及身体神经系统产生的化学反应 (除了意淫),当然也没有死亡等等

因此,目前 AI 最多停留在一个高级游戏的水平而已,成年人很容易区分作为人类现实和虚拟的假象的区别。

金笔
是不是当谷歌的阿尔法狗战胜人类围棋顶级选手时,创造了AI战胜人类的里程碑?