马斯克:AI毁灭人类的可能性很小 但非不可能

5 月 24 日消息，美国当地时间周二，亿万富翁埃隆 马斯克 ( Elon Musk ) 参加《华尔街日报》CEO 委员会伦敦峰会时表示，他认为有必要建立能与谷歌和微软竞争的人工智能公司，这可能涉及其商业帝国的不同部分，包括推特。

在伦敦峰会开幕式上，马斯克表示他去年斥资 440 亿美元（IT 之家备注：当前约 3106.4 亿元人民币）收购推特的努力正在取得成果。他说，推特目前还不是很赚钱，但最快下个月就可能实现现金流正增长。自马斯克将其私有化以来，推特不再公开报告财务业绩，自 2019 年以来始终没有盈利。

马斯克表示，推特可能是他创建人工智能业务的重要组成部分。特斯拉也始终在使用人工智能来改进其先进的司机辅助驾驶功能。马斯克称，推特和特斯拉可以成为一家人工智能公司的合作伙伴，就像微软和 OpenAI 那样。此前，马斯克已经创建了名为 X.AI 的人工智能公司。

马斯克说：" 我认为，人工智能竞赛中应该有第三匹马（be a significant third horse）。"

作为推特和特斯拉的老板，马斯克长期以来始终试图引导人工智能的发展方向。他对人工智能领域快速取得的进展表示担忧，并呼吁政府进行监管。" 人工智能毁灭人类的可能性很小，但绝非不可能。" 马斯克周二称。

AI就相当于80年前的原子弹，不过AI毁灭人类的可能性比原子弹要大一千个数量级。

毁灭人类不太可能，淘汰人类是可能的，相当于一小部分猴子进化成了人类，利用手中的工具和机器管理包括猴子在内的所有动物，以后就是一小部分的人类进化成了超人，利用AI管理包括人类在内的所有动物。

不讲时间跨度，任何可能性就是废话。人类10年内毁灭接近零，10万年内毁灭接近肯定。 除了AI，还有核弹，气候，撞击，疾病...... 都是如此

AI自我主动毁灭人类的可能性很小, 但一些人利用AI毁灭人类的可能性很大

法办马斯克。

大忽悠花了股民多少钱？全自动驾驶，地底隧道，火星移民。。。幻想而已，很不现实。

一旦达到singularity，AI智商会迅速甩开人类，可能几天内达到数百甚至超越想象。那种情况下AI可能对人类失去兴趣，只要人类不念叨把AI电源，AI不会太在意人类，对比正常人对猴子的态度，差不多。

AI不能做：观察，实验，制造，测试，从实体世界获得知识，改变实体世界。 AI的知识，现在都是靠人喂。AI能做的，人都能做，AI不过快一点。人能做的，很多AI还不能做。 AI也就是一个大知识库，把人类知识压缩到一个模型里，通过提示词，AI把知识再释放出来。 现在的AI，只是一种自回归大型语言模型，这种技术路线到底能走多远，它的上界在哪，现在难说，不过肯定是有天花板的，一个明显的局限是没有实时记忆，除了重新训练整个模型，无法吸收新知识。

其实我们生活的世界，就是高级AI创造出来的虚拟世界！