胡锡进:美国科技精英在内斗什么?世界在围观什么?

今日头条
Toutiao
最新回复:2023年11月22日 4点29分 PT
  返回列表
77318 阅读
13 评论
胡锡进


OpenAI究竟在发生什么?简单说,现实利益与理想主义发生了摩擦。被董事会解雇的奥特曼(Sam Altman)支持有效加速主义,把推动人工智能发展置于首位;该公司首席科学家萨斯克维尔(Ilya Sutskever)更注重防范AI的风险,提倡人工智能的超级对齐。这本来就是人类发展AI的推力和制动力,缺一不可。现在Altman已经获得投资人和几乎全体员工的支持,占了绝对上风,萨斯克维尔已经倒戈。



▲奥特曼被罢免后以访客证件进入Open AI 办公楼(图源:奥特曼个人社交媒体)

尽管还没有最终结果,但这已经不是几个年轻科学家之间的争吵和博弈了,全体员工的利益加入了进来,资本的利益加入了进来,美国社会的商业利益和AI霸权利益加入了进来,有效加速主义战胜超级对齐,这个大方向、大趋势已经确定无疑。

人工智能超级对齐需要对齐的是人类安全,确保AI在强大起来的过程中,形成对人类的爱,这样的爱得是母亲(强大起来的AI)对婴儿(人类)一样的关照。OpenAI成立时注册成非营利机构,目的就是研究成果为全人类服务,避免被一家公司垄断。马斯克是它最早的投资参与者之一,后来OpenAI为了壮大,变成有限营利公司。在它发布了ChatGPT之后,展现出大河出川的无限前景,一旦完全商业化,很可能成为万亿美元的顶级上市公司,原来的初心还守得住吗?

事实证明,萨斯克维尔与董事会一起解雇奥特曼,但形势在几十个小时之内就出现反转,到目前770个员工中,超700名员工联署要求奥特曼回归,否则他们都将辞职,与奥特曼一起前往微软。这表明,在巨大利益推动下,超级对齐不可能在商业大环境下得到遵守,对它的打破是注定的。

奥特曼未必就不担心人工智能失控并对人类造成潜在伤害,但他力推的有效加速主义是照顾各方利益的现实主义选择。除非美国政府站出来干预,阻止人工智能在没有绝对安全措施情况下的突飞猛进,否则仅靠市场的自身力量,超级对齐不可能被长期遵守。

最坚持超级对齐的萨斯克维尔面对员工和投资者的强大反对,迅速倒戈,加入了要求奥特曼回归的联署,这应该也是他面对员工集体反对和投资人施压的无奈“变节”。这可以看成商业潮流中理想主义十分脆弱的冰山一角。是的,那么多投资人等着OpenAI一旦完全商业化并且上市而大捞一笔,更有无数公司等着OpenAI创造并开放大规模应用,实现在他们自己在各领域新一拨的成功。

而且,OpenAI投入更多资源去做人工智能安全,美国和其他国家私营公司会那样做吗?现在AI竞争也成为国家竞争的一部分,美国政府愿意美国公司的AI整体迭代速度慢下来吗?美国现在打击中国的重点目标之一就是我们的AI研发。老胡相信,华盛顿对奥特曼的路线压倒萨斯克维尔路线是乐见其成的。



▲当地时间10月17日,美国商务部发布新的芯片出口限制。美国商务部长雷蒙多称,此举的目的是限制中国“获得可能推动AI和精密计算机领域突破的先进制程半导体的途径”。(图源:外媒)

从远处观看OpenAI的这场人事大地震,和其中的戏中戏,老胡想到的是, OpenAI的人工智能研究确实进步得很快,他们说人工智能已经有了“意识”,发生这场路线之争,显示已经到了或者接近了人类需要抉择接下来准备冒多大风险的那个临界点。

我还想到,在中国互联网的聊天群里,我从没有看到相关知识分子和研究者群体对中国AI研究已经遭遇上述现实风险的讨论,我相信不是中国的知识分子缺少那样的责任心,更可能是我们的AI研究与美国的研究存在一个差距,那样的风险还没有形成我们这边知识分子群体的紧迫感。所以大家都在议论OpenAI的事情,谈得津津乐道,如数家珍。



AI刚开了一个头,它的纵深空间里都有什么,今天很难想象。中国一定要加快AI研发,那样才能提高我们了解AI深空的视野和立意。它不光是AI应用带动经济发展的问题,还有维护国家安全基本面,对塑造人类未来参与权的重大利益。

现在我们看着OpenAI几个年轻创业者之间玩“宫斗戏”,AI未来发展方向仿佛就由他们的斗争来决定,这是不行的。那么怎样才叫行?我们只有把自己的AI脚步加快,才能在那个速度中产生领会,并且获得话语权。

r
rfid_bay
1 楼
胡锡进为中国AI发展指明方向。
D
Deepspace_01
2 楼
不认为OpenAI有了自我意识,有了创新能力。人类的担忧太早了。
W
WuxiMM
3 楼
他敢说说墙内的内斗么? 哈哈!
不允许的笔名
4 楼
Deepspace_01 发表评论于 2023-11-21 08:01:09 不认为OpenAI有了自我意识,有了创新能力。人类的担忧太早了。 ====== 你“不认为‘’根据的是哪个模型? 你用过OpenAI内部的模型吗?你怎么定义自我意识的? 创新能力有目共睹,AI已经替代了大量传统认为需要"创新"的工作岗位,你r认为不认为根本无所谓,,你在移动目标而已。
x
xllee
5 楼
yt人割韭菜圈钱的垃圾
x
xllee
6 楼
它那么神咋不知道哈马斯会进攻yt国呢
拾麦客
7 楼
套用胡锡进和战狼的口头禅,这是美国内政,关你啥事儿?
何西2017
8 楼
这恰好是美国科技强大原因,就是内部竞争
生肖迷宫
9 楼
独裁者们不懂现代科技,以为连偷带抄就能咋地。实际上,最尖端的科技都是世界范围科技人员合作的产物。靠你啥举国体制,奴才拍马机制,建立多少金思想习思想研究中心都是徒劳。
慧殊
10 楼
胡某还是说说你们自己的内斗吧,血肉模糊谁也比不了。 你胡舔指不了方向。
有门部关
11 楼
胡锡进可比OpenAI强多了。没有神经网络,不用数据训练,叫他吐什么就能吐什么,还对党国没有安全威胁。
W
WXY好
12 楼
再次证明了美国坏!
t
tina0
13 楼
他是在给中国只为私利,不负责任地发展AI技术找借口和理由,做一个铺垫,其实这是中国的一贯做法。比如为了GDP,对环境保护完全放弃,造成大规模环境污染,释放二氧化碳造成全球温度变暖,中国都是罪魁祸首。但中国一直为此狡辩,拒不停止这种损人不利己的举动。现在又轮到AI技术。胡的这些说法,就是鼓吹为了追赶美国,中国不要顾及AI技术对人类潜在的负面影响。这种自私自利的立场,会让人类受到严重挑战,甚至伤害,与世界上越来越多的科学家和负责任的政治家,正在发起的有关AI技术安全的辩论和呼吁背道而驰。