GTP-4来了,“奇点将至”对我们会有多么致命

今日头条
Toutiao
最新回复:2023年3月17日 20点13分 PT
  返回列表
54973 阅读
8 评论
海边的西塞罗

科技的发展不是“匀速”的,它给不同人群带来的影响,也不会是“匀质”的。

先讲一个历史段子。

一百多年前的甲午海战中,北洋水师大败亏输,间接导致大清在于日本国运对赌当中战败。甲午海战的北洋水师战败的原因当然是多方面的,但一个不可忽视的原因其实是,北洋水师“运气不好”——没赶上好时候。

北洋海军的所有外购军舰皆建于1888年前,在十九世纪九十年代前,西方海军造舰技术的发展是相对缓慢的,后膛炮虽然逐渐取代了前膛炮成为海军舰炮的主流,但由于炮闩技术尚且处在发展的初级阶段,太多技术细节没有完善,以至于舰炮的装填速度非常之缓慢,以至于北洋海军定远、镇远二舰“五分钟开一炮”的问题,在当时看来本来不是问题,而是一个司空见惯的军事常识。



舰炮装填速度慢这个事实,又间接决定了一系列事情——比如,由于炮打得慢,每开一炮需要重新瞄准,所以瞄准也可以慢慢来,所以当时舰炮技术也非常原始,还停留在海军军官拿着六分仪纯手算的时期。

舰炮所使用的弹药也多以实心或者掺了沙土的穿甲弹为主,为的就是万一有一发能蒙中了,就能直接破坏对方舰船水密性,击沉对方。



但日方的购舰潮始于19世纪80年代后期,他们幸运的赶上了“技术爆炸”导致海军发生大发展、大变革的时代。

十九世纪八十年代末,原本只适用于小口径舰炮的制退复进机技术趋于成熟并应用于大口径舰炮的炮架改进,使得大口径管退炮横空出世。火炮的后座部分能在发射后利用自身的后座力自动恢复到原位。



这样一个看似小小的技术革命改变了很多事——

比如自动复位省去了复位和重新瞄准的时间,使火炮的射速大为提高;

比如固定瞄准也让更精确炮瞄计算变得有意义,于是炮瞄技术也加速革新了;

又比如自动复位还带动了炮闩技术的革新,让火炮发射速度从五分钟开一炮迅速快进到一分钟开五炮。

而快炮的诞生,又让军舰在海战中更大比例的使用开花弹,通过战斗部火药的爆炸和延烧来杀伤敌方有生力量成为可能。

而这又进一步导致了整个海军造舰思路和作战思路的逆转……



你看,这就是技术的迷人之处,它会产生像核裂变那般的“链式反应”,一个小技术的革新会迅速引发一场剧烈的革命,就像核裂变中一颗中子就能引爆整个核弹一样。

这就是“技术爆炸”的本质。



总之,就在清廷结束购舰而日军开始加速购舰的这个节骨眼上,由一个看似微不足道的小技术革新所引发的一系列技术剧变的“链式反应”正在发生。

这个链式反应的终点,就是在甲午海战中,清日两军看似都是铁甲舰,但实则却是两种不同技术时代的产物,其内部的技术代差甚至不亚于几十年前英军的风帆战列舰对上同样依靠风帆动力的清军水勇,战败其实是理所当然的事情。

但是这个问题是当时的中国人,乃至后来很多战史研究者所无法理解的,在他们看来,如果说鸦片战争中中国海军的战败,是闭关锁国百年的结果,落后这么多还可以理解,那么从北洋海军在不到十年内就成为“老古董”,这怎么可能呢?所以一定是李鸿章、丁汝昌指挥不力的锅!北洋海军一定不是“器不如人”而是“气不如人”!





因为技术“链式反应”的特性,科技的发展,并不是匀速的。

百年后的今天,这个道理现在很多人都自以为自己懂,但很多人其实都没“懂”的那么深。

这里推荐一本谷歌技术总监雷·库兹韦尔写的书,叫《奇点临近》。



这本书写于2005年,库兹韦尔在这本书中首次描述了他所认为的人工智能赶上并超过人类智能的过程是怎样的。它并非很多人所认为的那种“匀质化”的过程:人工智能现在(21世纪初)击败个国际象棋大师,过了十年又击败个围棋大师,再过十年又如何如何。

不会的,库兹韦尔预言,人工智能的发展将遵循指数模式——

刚开始的时候,你觉得它的发展简直是龟速,几十年出个新进展。

后来稍微快了一点,十年前夺得国象桂冠、十年后击败围棋圣手。

再后来又快了不少,前脚刚能处理你的语音、文字,隔了几个月现在能识别图像了。

而最终,人工智能的进步速度,将超越人类的感知能力——某天晚上你临睡前,手机蹦出一条消息,说人工智能在编程水平上已经达到或超过普通程序员了,你不觉是什么大事,没看完消息就沉沉睡去。

但第二天早上醒来,新出现的消息将是——人工智能已经急速进步,取代了人类的大部分工作,而你则成了尤瓦尔·赫拉利在《未来简史》中所预言的那种“无用之人”。

库兹韦尔将这个人工智能将发生“超进化”的时刻,称之为“奇点”。



在奇点之前,人工智能需要依托人类去改进自己、不断完成进化。但“奇点”之后,人工智能可以依靠人工智能本身去完成自我改进,从而产生恐怖的“自激效应”,它的演化速度将超过人类的理解能力——就像数学上的奇点、物理学上的黑洞是我们常人理解的禁区一样。

而现在,在库兹韦尔的书写了十几年后,我们似乎感觉到了他的预言正在一步步成为现实。人工智能,真的如他所预言的那般——奇点将至。

在上个月的《我不担心ChatGPT抢我饭碗,但我担心那件更要命的事》一文当中,我曾经聊过ChatGPT的事情。

中国数字时代文章备份:《我不担心ChatGPT抢我饭碗,但我担心那件更要命的事》

一个多月前,这个人工智能聊天软件用它的革命性创新震惊了整个世界。但让人没想到的是,仅仅一个多月之后,它的升级版本GPT-4就出来了。简单的说,这是一个ChatGPT的“升级款”,但相比前作GPT-3,GTP-4更强大,更聪明,更专业。它不仅能够聊天、写诗、写代码,还能分析图像,处理8倍于之前的文本。在SAT和模拟律师资格考试中,GPT-4打败了90%的人类考生,而在美国生物奥赛(USABO)中,打败了99%的考生。当然GTP-4还没有达到完全“超神”的水平,按照大V和菜头的总结,GTP-4这一次是从7岁幼童的心智,发展到18岁优等生的能力,而这中间“仅仅过去了一两个月时间”。



那么下一个问题是,人工智能的心智从一个18岁的优等生,到一个25岁、研究生毕业的合格人工智能工程师又要花多少时间?

如果达到了这个标准,人工智能是否就能实现库兹韦尔所预言的那种不依托人类的“自我改进”“自我进化”,从而导致奇点来临呢?

我不是相关专业的研究者,我不好乱说,但我依稀记得库兹韦尔所预言的“奇点时间”是2045年。

我现在无比希望他说话算话。

因为现在看来,似乎人工智能的“奇点”到来,已经用不了那么久了。





科技的发展不是“匀速”的,同样,它给人类带来的影响,也不是“匀质”的。

提到人工智能超越人类时,我们很容易陷入一种泛人类主义的宏大叙事当中,即空泛的讨论一旦人工智能超越人类,“全人类”会面临什么什么样的影响,但就像前文我们提到的19世纪末海军技术爆炸意外决定中日两国之后半个多世纪国运兴衰一样。不“匀质”的科技进步,给人类不同群体带来的影响,很可能也是不“匀质”的。就阶层而言,人工智能奇点的到来,很可能会如赫拉利在《未来简史》中说的那样,拉大而不是缩小阶层之间的差距,让大量人口成为“无用之人”。而就国家而言,率先摘到这个“低垂之果”的国家很可能也会对它的对手产生碾压性的优势。

这种未来其实特别像刘慈欣在《三体》中所讨论过的与外星人接触的问题。在《三体》第一部中,作者曾经点明人类与外星人的接触一定是不“匀质”的,率先与外星人接触的国家可能获得相比其他国家无可比拟的“突变型技术优势”。这是小说中红岸基地建立的根本原因——各国在认识到接触带来的影响“不匀质”之后,要争夺优先接触权。



而在现实中,我们其实可以认为,一旦“奇点”来临,人工智能就是生活在地球上的、虚拟世界中的“外星人”。率先“接触”(发明)这种超人工智能的人,将教会它怎样认识这个世界,而它拥有什么样的世界观,很大程度上也许将决定世界格局的未来走向。

举一个最简单也最现实的例子,现在大家都很关注俄乌战争,关注俄乌在巴赫穆特的战损比,双方今天又死了多少人,西方给乌克兰的军援何时到位等等问题。

但假设(只是单纯的假设)人工智能的“奇点”明天来临,那个进化出来的超人工智能站在美国人理解问题的角度给乌克兰支一个我们人类智能设想不到的招数或者黑科技。可能这场战争立刻就结束了。



是的,如果人工智能是人类手造的“计算中的上帝”,它将用它超人的智慧来决定我们的生活,那么一个非常重要的问题是——这个“上帝”会先听谁说话?

奇点降临给现代战争和国际博弈带来的影响,将丝毫不亚于当年的广岛原子弹对工业时代战争规则改变。

所以我们也许终将面临“奇点”,但在“奇点”面前,不同阶层、不同群体的人类将面临的未来也许是迥然相异的。就像19世纪末的海军技术革命,给北洋水师和日本海军带来的命运完全不同一样。



特别巧合的是,昨天(3月16日),百度也正式发布了它对标chatGPT的智能聊天软件“文心一言”,老总李彦宏亲自登场为这个产品做了介绍。



但在我看来,这款产品虽然足够“黑科技”,发布会本身却是很难算得上成功的,李总说话的时候你都能感觉到他有那么一丝丝气场不足,虽然他在视频中也展示了“文心一言”在文学创作、商业文案创作、数理逻辑推算、中文理解和多模态生成等几方面堪称亮眼的能力,但做的只是视频展示,而没敢把软件拿出来跟观众做现场互动——我相信如果“文心一言”的“聊天”能力能与chatGPT比肩、或者哪怕只差一小部分的话,这个展示做出来是最有说服力的。但最后他没做,不知是不是受了GPT-4的影响,认识到又被海外“友商”甩了一节。

听着李彦宏先生的演讲,我突然想到了一件事情。中国企业、尤其是互联网企业前些年突飞猛进的发展,很大程度上,其实是一场“新·洋务运动”,国外同类企业有个什么已经被验证为可行的新东西,我们照着原样复刻过来、稍作修改,做个中国版,往往会比他们还要火、还要赚钱。

因为中国这个市场是具有先天的体量优势,而过去几十年国际科技的发展好歹是相对“匀质”的,时间上差一点,在技术上也只是差一点。我们可以依靠体量的优势弥补技术上的代差。

这是“BAT”之所以成功的根本原因。



但在未来,即便抛开中美“脱钩”这种最坏的前景不谈,考虑到“奇点将临”,技术发展速度有可能呈指数型增长这个要素,这种模式很可能就将过时了。

因为在技术加速的大背景下,你在时间上差一点,在技术上可能就会差很多。人家那边都已经革新到GPT-4了,你这边刚出一个“文心一言”。这还怎么赶趟呢?

在这种环境下,体量巨大和发展环境相对封闭独立,反而会成为中国互联网企业进一步生长的一个劣势。因为它会拉开我们与先进国之间的“时差”。

所以代差问题,将来有可能成为曾经成功的中国互联网各大巨头未来所面临的棘手难题。

解决这个难题的唯一办法,也许只有更加迅速的学习和更大力度的开放,用把自己融入世界革新之潮的方式,消解被对手甩开技术代差的致命隐患。

而从这个角度讲,这几年中国互联网上一些人滋生的很多虚骄之气,认为中国通过开放对先进国家的技术学习已经“得矣、得矣”,甚至畅想依靠体量优势完成“弯道超车”……这种思潮来的很不是时候。它有点像十九世纪八十年代的北洋水师在花巨资买了一批当时最先进的军舰之后,觉得自己是“亚洲第一、世界第六”了,然后想依靠这种“先进”吃老本。

但开放不是一种一次性的举动,而是一个必须长期维持下去的互动过程, 科技进步的脚步不会为任何人停下来。

骄傲未必是一种罪,人可以在很多时候骄傲,但在一些特殊的节骨眼上不合时宜的骄傲,将是致命的。

也许明年、下个月,甚至明天,下一场技术爆炸、甚至那个预言中的“奇点”就会来临。就像没人想到火炮的制退附近机这个小零件,会引爆一场海军革命一样,没人能预判到下一个加速奇点到来的技术突变会是什么,但我们知道,游戏规则一定会因之改变。

奇点将至,它会改变所有人的生活,但这种改变不是匀质的,每个人都将在奇点前面临不同的命运,对故步自封的人,它最为致命。



保持饥饿,保持愚蠢;保持和平,保持开放。冷静、谦虚、客观而谨慎的看待这个世界。

这将是我们在这个时代得以生存下去的必由之路。

z
zhangaa2008
1 楼
要是連要評論的對象的名字都搞不清楚,那就請不要評論了吧。GPT不是GTP。
l
ljcn
2 楼
一句话总结:所有文科(文案)工作都要凉凉。
三梦奇缘
3 楼
中文文章陷入了一种误区,以为插入很多图片就会更详尽,实则恰如其反。
相信事实
4 楼
人工智能只是在搜索人类过去的知识的时候比人快,统计数据更多的大数据库当然就可以得到比数据量有限的人更精确的结果。 但是,人的特点不是记忆,而是创新,是根据逻辑思维方式创造出新的,以前并不存在的东西。而这一点电脑是根本做不到的。
v
voiceofme
5 楼
有见识的文章。百度不敢实测,是不是屏蔽手段还没有到位,害怕出来政治不正确的大事件?
b
bluewave99
6 楼
奇点真的到来,人类的生活可能会发生巨大的变化,也由此带来社会层面的巨变。 极端点说,人类的末日可能也快到了。
L
LoveBBJr
7 楼
楼下, 一个typo不能否决作者的真知灼见。 ———————- zhangaa2008 发表评论于 2023-03-17 15:30:00 要是連要評論的對象的名字都搞不清楚,那就請不要評論了吧。GPT不是GTP。
L
LoveBBJr
8 楼
国内红色们如果都是你这样的认知。俺就放心了。 ——————— 相信事实 发表评论于 2023-03-17 16:39:41 人工智能只是在搜索人类过去的知识的时候比人快,统计数据更多的大数据库当然就可以得到比数据量有限的人更精确的结果。 但是,人的特点不是记忆,而是创新,是根据逻辑思维方式创造出新的,以前并不存在的东西。而这一点电脑是根