细思恐极:跟人学,变小狗,小狗咬你三大口

木有文化
楼主 (文学城)

这是我在上幼儿园还是小学时候听的儿歌,当时用来笑话小朋友跟人学,没想到这许多年后,居然变成了这一波人工智能的写照。

我们都知道,当下最热门的人工智能的实现方式,是 Generative AI: 给计算机/神经网络引擎灌输大量人类已有的文本对话,古今中外,圣哲先贤,让计算机只专做一件事:鹦鹉学舌。

于是神奇的事情发生了:我们能想到的任何语境任何场合的任何问题,其他人在其他场合基本都已重复过无数次。计算机只需要仿照此前类似语境的人的类似回答,重组一下答案,答案不但很靠谱,而且似乎充满了智慧。

水平还超过百分之八九十的人类的平均值。

跟人学,变小狗,小狗反咬人三大口。

----

我刚来美国读书的时候,谈了个女朋友。有一天我开她的玩笑:“你知不知道孔子有一句名言,唯女子与小人难养也?“

她一点也不生气,笑着跟我说,”哎呀巧了,夫子一句话把咱俩都说进去了。“

这是我完败的一次斗嘴。我对她佩服的五体投地,一直记到今天。虽然其实后来她告诉过我,她以前听过这个应对。

我讲这段故事,只是想说明,完全的”原创“并没有那么重要。我们每个人其实都是在用以前听到过,看到过,记住了的文字和语言,来重组回答新的情况。

非原创的”学舌“,百分百的可以给听者‘智慧’,甚至‘天才’的印象。

读书破万卷,下笔如有神。AI 读过而且牢记的,是老庄孔孟李杜白,是 Plato,Aristotle,Dostoyevsky。它说出来的话,想不高大上都很难。

----

我做的行业大概和自动驾驶有点儿关系,不是狭义的 Generative AI。但文生图,图生文,Occupancy Networks,等等等等,包括编代码,写文档,业界 AI 忽然用的都是同一套路数。

灌进去海量的人类数据,AI 似乎就‘学会了’。虽然我们不知道它是怎么学会的。

养过小孩的父母,肯定都知道一种感觉:"How in the world did he/she learn to do THAT?"

AI 最近就常给我这种感觉。

----

所以我觉得,AI 在很多场合全面碾压人类,将是已经或者必然的发生。

但让我害怕的,是人脑也不过就是这样。

我怕人类不过是在和AI一样的 重组/Generate ‘新’的 content:所谓的创造力,灵感,情绪,甚至灵魂,都仅仅是恰好重组出很出色的结果。

也就是说,人类不一定是具有灵魂,「(神)照着自己的形像」创造出来的神的儿子,而不过是一个比大猩猩计算量快几百几千倍的高级大猩猩。

这才是最让我害怕的事。



更多我的博客文章>>> 细思恐极:跟人学,变小狗,小狗咬你三大口 爱(Charity) 维纳斯(Venus)和阿多尼斯(Adonis) 摩西之死(The Death of Moses) 阿塔兰塔(Atalanta)
l
ling_yin_shi
我觉得是儿时启智的问题:现在孩子基本玩拼图,搭积木,重在组合。我们小时候自由奔放多了,玩泥巴,那可是自己撮土,捧水,调个

半天,搓搓捏捏团团圆圆,搞了个四不像还要夸一夸:看,我的是大狼狗,咬死你们!

糯米粥
这是一种

Contemplation on existence ?

最近在读Amy Tan 写的观鸟日记,下面这段也是她的一种contemplation. 或者说,我觉得其实整本观鸟日记都贯穿了一种她的作为一位敏锐的作者对自己的existence 而有的一种contemplation
  

糯米粥
贴一段

我自己最近的contemplation on existence ,跟你的境界高低立见

老键
走廊这两天好像是为诺奖颁布做准备 - The Nobel Prize in Physics 2024

The Nobel Prize in Physics 2024 was awarded to John J. Hopfield and Geoffrey E. Hinton "for foundational discoveries and inventions that enable machine learning with artificial neural networks"

老键
一剑和直言两兄务请细看,AI居然进了物理奖,颠覆三观了吧

https://www.nobelprize.org/prizes/physics/2024/popular-information/

W
Wtp003
“这才是最让我害怕的事“。这句话就区分了人和AI/大猩猩
z
zhiyanle
没任何颠覆,反而觉得发迟 诺奖没给计算机 全球早就议论纷纷了。基因科技一样 获奖也会有泡沫。。。
z
zhiyanle
见下我的猜测 生物DNA的3D数据管理,早晚有诺奖 也是早有很多议论了。。。
木有文化
是啊,小时候玩泥巴玩过家家,一玩就是好几个小时,好怀念啊
木有文化
我可以认同她的这个

Try to have my own contemplation. Even though I know many others would have had the same (contemplation).

So I can honest call this my own, even though ...

木有文化
境界高低立见啊

我其实常在 contemplate: 怎么能在这个 existential crisis 的大环境里,在股市里能捞一笔。

木有文化
因为我是看涨 AI 的
木有文化
我也和朋友讨论过这个问题:self aware

在创作(写诗/作画/谱曲)被 AI ‘攻克’之前,这些艺术领域都被认为是人的‘神性’的领域。

Self Aware / Self Preservation 很有可能和这些类似,本来被认为是神圣玄妙的东西,一旦被戳破,才发现也就那么回事。

木有文化
诺贝尔奖加一个新的cateogry 可不是件容易的事
糯米粥
It really gives me a good chuckle
z
zhiyanle
说的很是, 非常非常艰难。。。
糯米粥
见过这张图片吧:

你的滤镜是不是有点儿太神话艺术了?以前在西安读书的时候要求去延安学习,当地老农唱的信天游就是最接地气的艺术,比矫揉造作的一些当代歌手好听n倍。我觉得他们没有把信天游赋予神性

糯米粥
想了好一会儿,

怎么认真回复一个。

你写的这篇让我觉得相当的thought provoking, 一点不是弹棉花。

我觉得我自己也是一个比较introspective soul, 我的模模糊糊的想法是:没有对人跟人之间的connection 的那种追求和付出,这个世界不过是冰冷的机器,按既定的规则运作。个体旅程的意义来源于相互的emotional connection  而艺术只是把这种emotional truth 放在琥珀里面, 几千年后还在。

举个例子:比如今年4,5月,我家高中生邀请妈妈一起来读莎翁的lady Macbeth, 我们俩一起分析原文的一些遣词用句和布局的时候,妈妈趁机给他洗脑:以后有个女孩子跟他一起读书,一起分析,就像我们母子现在这样,就像爸爸妈妈经常辩论时事一样,这样是不是会把平凡的每一天过得有有滋味?我家傻儿子一边傻笑一边小鸡啄米的点头

这些“只在当下”的体会是AI不一定可以给予了。hmmm...刚想到电影Her, 好像不同意我的这个说法

木有文化
那我们还是挺不一样的

似乎你觉得的人生意义,更偏重人与人之间的emotional connection,而我更认同 solitude journey 或者是 individual struggle。

不过这样也合理:一直说女生更social么。

老键
属于fearmongering吧。多瑙那些AI歌根本听不得,绘画啊视频啊也是多看头晕。AI能写你的文,我的诗?远着呢
陶陶三
这一段

女朋友不错啊。

木兄肯定害怕了很长时间。

木有文化
有啥好怕的
糯米粥
咱们这个分歧很经典

就是动物世界也经常如此

我在带大我家男娃的过程中,切身体会到了我家小男孩给自己划的界限比同龄时候的妈妈要大很多,就是你说的solitude journey. 例子太多太多,比如小学时候妈妈课间去卫生间都要找伴去,我家男孩觉得这种行为unthinkable (原话)

还想到有个动画片老电影The Incredibles, 我觉得后面的一根暗线就是爸爸妈妈的这种分歧

https://en.wikipedia.org/wiki/The_Incredibles

好莱坞把这个钻的挺透的,不少action movies后面的一根线是the hero's journey (我正好听过几个这方面的Ted talks)。要我说,最后男女对世界的理解在中点相遇

土豆-禾苗
上帝创造了人=人创造了AI……同理
f
freemanli01
人脑不过如此,不过,人不仅仅是人脑。这个是只有宗教修行才能解决的问题。
木有文化
嗯,我也看过这个Hero's Journey

自打小时候听三国,看到诸葛亮对弟弟说,“汝可躬耕于此,勿得荒芜田亩。待我功成之日,即当归隐” 但后来秋风五丈原,我就特别看重你图中的最后一步:铅华洗尽,归隐世间。

所以我一直觉得 LOTR 有着最好的结尾:Sam 在帮助 Frodo 毁掉了邪恶指环后,

And he went on, and there was yellow light, and fire within; and the evening meal was ready, and he was expected. And Rose drew him in, and set him in his chair, and put little Elanor upon his lap.

He drew a deep breath. ‘Well, I’m back,’ he said.

木有文化
然后 Nietzsche 就宣称,God is Dead。然后某 AI 就宣称,goto hell, sapiens
木有文化
人不仅仅有脑袋,更重要的是还有

决定脑袋的。。。屁股

糯米粥
以前没有跟三国,跟LOTR 联系起来。还真的是呀
f
freemanli01
呵呵文化兄,我是认真的。其实佛教的根本内容,之一,就是区分心和脑,心也不是通常感受的肉心