AI恐致人类灭绝？业界共同声明：与核战同等对待

OpenAI与Google Deepmind负责人在内的专家们警告指出，AI可能导致人类的灭绝，应该跟大流行与核战等其他社会性规模危险一起成为全球优先事项。路透

OpenAI与Google Deepmind负责人在内的专家们警告指出，人工智慧（AI）可能导致人类的灭绝。

BBC报导，数十位AI科学家与其他知名人士在AI安全中心（CAIS）网页上刊登的一分声明签名。该声明指出，“缓解AI带来的灭绝危险应该跟大流行与核战等其他社会性规模危险一起成为全球优先事项”。报导称，这段简洁的声明旨在克服“可能难以表达对部分先进AI最严重风险的担忧”此一障碍，并且开启讨论。

在声名下方署名的学者与公众人士包括早先对超智能AI（super-intelligent AI）带来风险发出警告的辛顿（Geoffrey Hinton）博士、蒙特娄大学电脑科学教授班吉欧（Yoshua Bengio）、Google Deepmind执行长哈萨比斯（Demis Hassabis）、ChatGPT研发商OpenAI执行长奥特曼（Sam Altman）跟AI新创企业Anthropic执行长阿莫迪（Dario Amodei）。

辛顿、班吉欧与纽约大学教授杨立昆（Yann LeCun）因为在深度学习领域的开创性研究，并因此共同于2018年赢得表彰电脑科学领域杰出贡献的图灵奖，让外界经常称3人为“AI教父”。但不同于辛顿与班吉欧，也在Meta工作的杨立昆认为，这些世界末日级警告是过虑了。

许多其他专家同样认为，AI消灭人类的恐惧不现实，并且将注意力从已经成了问题的系统内偏见等议题分散。普林斯顿大学电脑科学教授纳拉亚南（Arvind Narayanan）此前告诉过BBC，类似科幻的灾难情景不实际，“目前的AI远远没有足够的能力让这些风险成形，因而将注意力自AI的短期危害转移离开”。

网页直连>>

Artificial intelligence poses "extinction" risk, bosses of top firms warn https://t.co/ljGiiz5ABh

— BBC News (World) (@BBCWorld) May 30, 2023

耸人听闻！

魔高一尺，道高一丈。中国人民已经找到了对付人工智能的法宝。这个法宝，就是习近平思想。活学活用习近平思想，AI只能是服服帖帖，全心全意为人民服务，不敢兴风作浪。

要想马儿不吃草又要马儿跑得快，理想是美好的

AI还不能从实体世界获得知识，改变实体世界。AI的知识，都是靠人喂。AI能做的，人都能做。人能做的，很多AI不能做。 现在的AI肯定是有天花板的，一个明显的缺限是没有实时记忆，除了重新训练整个模型，无法吸收新知识。 现在炒作AI毁灭人类，一是不现实，杞人忧天；二是会限制AI正面的发展，失去AI本应带来的好处。

中共能让AI不反党，人类就能让AI不反人类。没问题。哈哈。

现在是generative AI, 自己会生成一些东西，不是简单机械式输出，无法预料。有的国家会禁止，就像crypto coins. 因为会削弱政府的权威。

zhanglao9 发表评论于 2023-05-30 12:34:51 魔高一尺，道高一丈。中国人民已经找到了对付人工智能的法宝。这个法宝，就是习近平思想。活学活用习近平思想，AI只能是服服帖帖，全心全意为人民服务，不敢兴风作浪。 ---- 我就喜欢砍9哥发言，每次都能让我茅塞顿开醍醐灌顶。我要向9哥称臣。

写这个的是不是看《黑客帝国》走火入魔了。人类最终成为机器人的人肉电池？

俺本来挺恐惧死亡的。现在不了！人类都得灭绝，俺个个还有啥好放不下的！超坦然！

AI模型类似于中国人的思路，总结归纳，海纳百川，而不是逻辑。落在中国手里，是和平和法制的手段。落在美国手里，就用在军事用途，最不济也搞些AI污粪

骗钱胃口够大的

连没包皮都不敢骂的AI怎么也不可能比没包皮本身更可怕吧。所以大家还是别听别有用心的炒作，洗洗睡吧，呵呵

“AI还不能从实体世界获得知识”。是不是忘了特斯拉怎么开发自动驾驶的？ "AI能做的，人都能做？"人下围棋能赢得了阿尔法狗么？ "AI的知识，都是靠人喂."显然已经过时了。阿尔法零就没用到人类任何棋谱，完全从零开始左右互博。 "现在的AI肯定是有天花板的，一个明显的缺限是没有实时记忆，除了重新训练整个模型，无法吸收新知识。"你说的是chat-gpt3.5。实时的GPT已经有了。 泥川 发表评论于 2023-05-30 12:44:53 AI还不能从实体世界获得知识，改变实体世界。AI的知识，都是靠人喂。AI能做的，人都能做。人能做的，很多AI不能做。 现在的AI肯定是有天花板的，一个明显的缺限是没有实时记忆，除了重新训练整个模型，无法吸收新知识。 现在炒作AI毁灭人类，一是不现实，杞人忧天；二是会限制AI正面的发展，失去AI本应带来的好处。

至少目前，ai蠢得一b，根本没有人格，智力还比不上昆虫。建议制造这种言论的自己关掉手机，这样ai就不会灭绝他了。

meldyhk 发表评论于 2023-05-30 20:26:47... --------------------------------------------------------------------- 说得有道理。不过GPT3.5，GPT4这些大型语言模型（LLM）的知识还是要靠人来喂，训出来后，虽然其知识广度远超任何个人，但是深度差多了。LLM不能实时学习的缺陷是根本性的，因为知识是保存在它的千亿参数里，改变众多参数的计算量太大，等于重新训练，不可能实时完成。 LLM可以和搜索结合提供实时信息，但是LLM模型本身还是旧的。实时学习的实现，要等到新的技术路线走通之后。 当然，下围棋，预测蛋白质结构，以及任何大点儿的计算问题，计算机远超人类。