大叔周六听AI访谈的想法

B
Bustmangte
楼主 (北美华人网)
https://www.youtube.com/watch?v=YtJEfTTD_Y4
周六早上在家给家里换装智能开关,一边听OpenAi 的cofounder访谈,一句话总结:我觉得多一些女人做领袖的话也许我们的未来会有不同的结局:
Major take away: 你知道AI会对社会产生巨大的或好或坏的影响,为什么还要这么早放出来?回答:我们绝对知道会产生巨大的影响,AI就像是一个巨大的增幅器,好的和坏的都会同时被放大,科技从来都不是基于造福人来的,科技都是中立的。但是早点放出来弊端会暴露更多,我相信社会中的正义的力量总是多于恶的力量的的,借助整个社会的好的一面,我们会帮助AI往好的方向发展。我的想法:男人至死是少年,这基本上就是问他如果你创造出神的同时也要创造一个恶魔甚至多个恶魔,你愿意么?答案竟然是愿意!???我们都知道一个恶魔能够造成的破坏远比一个神能拯救的人多得多。结论是潘多拉的魔盒已经打开,以后你要面对的其实也不是AI带来的挑战,而是站在AI背后的人,以及他们的恶意。如果之前你只愿意抡起拳头来反抗邪恶的话,那么现在你要全副武装才能够生存,good luck。
你知道AI学习的背后有着非常多的职业道德的隐患,比如AI学习很多艺术工作者以及文学甚至是科技工作者自己的成果,并很有可能在之后取代他们,为什么还决定要把这项技术进行公开?答:我们人类总是高看自己的智慧(这个我赞同), AI现在也的确有很多道德层面的问题,但也正是我们意识到只靠我们这些AI开发者是无法解决这些问题的,因此我们有必要把它公之于众,呼吁整个社会以及立法层来一起监督,和我们共同开发这些AI。 我的想法:男人至死是幼童,对一个你们自己都无法完全理解的黑盒子,你指望立法层面和政府层面可以有人去给“”它“”设计一个狗链子来拴住它,要知道法律都是社会道德的底线,在AI没有做出任何贡献之前,整个社会也许都已经被颠覆的根本没有能力去做监督了。
访谈中有讲到一则故事,他本人的太太曾经有过多次被误诊的经历,(被采访者没有说这是不是他开发AI的初衷)而CHATGPT给他提供了最终确诊的同样的诊断(这里有一定的做广告的嫌疑)。他自己也谈到了很多工作将要被取代,特别是跟脑力劳动相关的(他提到我们早先预测的是体力劳动最先被替代,但是材料科技的发展阻挡了这条道路,AI的出现也许会从发某个层面上来说一并取代整个人类的劳动,从脑力到体力,毕竟AI可以自行迭代软硬件开发甚至包括生物开发)。 首先被迭代的工作,将会是———听清楚了——“论坛的版主”(访谈里说的,不是我编的)哈哈哈。我的想法:男人至死是精子,单线程的生物,跟女性不一样,女性骨子里都会考虑下一代的生存甚至族群的生存。这种我要实现什么,我一定要干点什么,为了我老婆,我要做点什么的直男思维,某种程度上是十分具有风险的,尤其是这么重要的科技突破掌握在他手里。就像我老婆经常跟我说的:人的烦恼大部分都是自找的,做个普通人有什么不好呢?
如何面对AI对整个社会带来的风险和影响呢,一般FDA在宣布一个药品上市之前要经过非常多的实验和调查,那么没有监管的AI直接开发会造成的破坏性也是巨大的吧?答:这个风险和影响是巨大的,但要了解AI的成长是指数级的,某种意义上等它成熟了再放出来也许就太晚了(意思是等成熟了AI也许就再也无法监管了,或许在过程中就会被政府和大公司给控制掉),因此我们希望在它是婴儿时期就放出来,至少可以让它接受全社会的监管,某种意义上可以让它为人类的福祉做贡献而不是走向反面。我的想法:某种程度上,你让任何人去做这个选择,能否被他做的更好,我不觉得,在这个层面上或许他的做法是对的。但我其实在想,有的时候要不要做这个选择,是不是时候去做这个选择才是最重要的。既然他们都已经选择了非盈利的模式来开发这个东西,那么看到了它作为信息化社会负面增幅器的苗头之后,哪怕是可以帮助人类走向更辉煌的未来,难道不是应该先停下来,认真考虑一下熵增的原理么(事物总有向混乱发展的倾向性)。难道不应该等人类的智慧(理性和感性)和社会形态有着更加稳定和秩序化倾向的时候再去考虑开发AI技术么?
抱歉,随便写的读后感,大家可以自己听听访谈,还是有很多有意思的点的。我用了一些性别方面的隐喻,只是为了增加话题性和笑料,大家别介意。但我总体的感受就是,这是一个典型的直男式思维的初创公司,非常年轻,非常有活力,也极具破坏性。某种程度上,很多大企业都是由一些比较年长的老人来带领的,你可以说他们缺乏创意,给自己上了很多镣铐。但你怎么不知道这些镣铐不是他们自己上的呢,某种意义上,一个公司就是一台火车,都是有其运营寿命的,如何在设计时速上通过不断维护不断调整走完自己的设计寿命,这个理论上才应该是大部分公司的理念吧。
个人想法,仅供娱乐消遣,我其实想说的就是让人无感的科技发展才是最好的科技发展速度,看科幻电影很爽很刺激,但是生活在赛博朋克的“高科技,低生活”的世界里面却真的不是一个好的体验。