Hinton 离开GOOGLE

加州阳光123
昨天看到这则新闻,看评论说有良知的人现在都jump the ship 了 :)

潜在的危险还是很大,Hinton 说以前以为是30-50年之后的事情,现在看来比他预计的要快很多。

s
study169
有些中文媒体也跟踪报道了

https://mp.weixin.qq.com/s/cixl0rVzoKX5KJdt_wawBw

 

N
Numero
“It is hard to see how you can prevent the bad actors from

“It is hard to see how you can prevent the bad actors from using it for bad things,”

 

 

J
Jennifer_H
可惜的是他不能阻止A I这场革命性运动的,甚至都不能让它放慢脚步。
N
Numero
不过美国最近一直在讨论立法,这方面阻力不会大,很多“大佬”支持

中国以技术为第一位,不讲法规,可能有些AI方面会超过美国。。。

z
zaocha2002
是,这是之前潭里有一位SCOTTGU提到过的关于AI他的CONCERN。AI是双刃剑
z
zaocha2002
谢谢分享
s
study169
他甚至还担心,人工智能技术迟早会颠覆就业市场
N
Numero
不会阻止,但是会有很多法规出台。AI革命跟以前技术革命类似,会带来好处坏处

和恐慌

AI更甚,但是现在技术还没有达到科幻电影里的那种,差的很远

z
zaocha2002
欧盟好像去年12月在推出AI标准,类似电动汽车,虽然德国汽车大厂开始动,之前还是因为标准问题。国内新能源汽车也是很火,

因为没啥regulation.

s
study169
很难,谁都担心落后。
加州阳光123
几年前Elon, 盖茨就联合起来发表对AI的concern了,呼吁要由巨型公司

统一管理担心以后会危害人类。

z
zaocha2002
还是会有regulation出台。。。最清醒的估计就是欧洲吧,所以技术推动比较慢
z
zaocha2002
本来就应该如此。。。
N
Numero
这确实是个问题
t
tibuko
这种军备竞赛,立法有个啥用,你不搞,等黑客超过你,还有啥还手之力
加州阳光123
但是人性是贪婪的,谁掌握了AI,谁就掌握了控制世界的砝码,这一点上不是所有的人都愿意为了和平而放弃的。

对于高科技公司来说不愿意放弃之外,还有无数小公司也在研究AI,如果被某个想控制人类的团体或机构买入之后后果不堪设想。这就和研究生化武器一样,一定要有严格认证,但是现在已经遍地开花了。

z
zaocha2002
看看外星人如何做了

z
zaocha2002
总是需要有一些控管的
加州阳光123
以后电影里的都要变成真的了
加州阳光123
跟枪支一样,公开的知道,还有多少是闷头搞研究外界不知道的?
z
zaocha2002
还有生物武器。

娃爹现在还在聊这些

z
zaocha2002
看天鹅打架

N
Numero
看电视节目讲AI 克隆声音,一摸一样的

这个要是想做点坏事栽赃啥的很容易做到了。。。

宝马奔驰
楼上两位年轻

不知有没有看过七十年代翻译到中国的美国大片《未来世界》,exactly讲这件事的。

风景线2
欧洲推动慢不是因为清醒,而是因为技术落后,突破性工作大部分都不是在欧洲做的,而且欧洲产业化速度慢

Regulation 肯定要有, ai ethics 早几年就是研究热点了。危言耸听没必要

加州阳光123
我去找来看看 英文名叫什么?
z
zaocha2002
AI部分没有发言权,我说的是电动汽车,

和AUDI从7年前开始谈电池部分的时候 很多案子包括曾经参与的都推不下去就是regulation问题。

t
tibuko
The world, is on the brink of terrifying possibilities

-- Angier

z
zaocha2002
好像听说过,具体讲啥不知道,谢谢推荐
教导1
这都没看过,年轻啊
教导1
现在的美剧西部世界就更牛了
加州阳光123
应该看过,只是不sure
N
Numero
AI有60多年的历史了,每次大起大落都有恐慌和危言耸听,这一次有很多重大成果,比如

语音图像方面的突破等等以前人们觉得人工智能不可以去企及的领域

每次都会引起恐慌和道德哲学方面的讨论

每一次崛起都是因为某种先进的技术发明,而每一次遇到瓶颈,也都是因为人们对于人工智能技术的期望太高,超出了它技术能达到的水准。。。

 

教导1
我也忘差不多了,只记得仿制各国政要替换控制世界,然后一刀下去,露出里面金属
z
zaocha2002
刚去查了,这部没看过,我记得我最早有记忆的国外片子是蝴蝶梦和卓别林的
教导1
可以啊,蝴蝶梦80年开始放的
z
zaocha2002
没看过,打算找来看看。
z
zaocha2002
你知道有个小辣椒是哪个电影里的吗?
教导1
那时候看未来世界,大西洋底来的人。都惊为天人,现在再看没啥意思了,眼界翻了几千倍了
教导1
叶塞尼亚?还是冷酷的心?
z
zaocha2002
LOL,俺妈说我从此不敢进电影院有几年。我只记得蝴蝶梦里全是黑黢黢的,其它没印象了
z
zaocha2002
好像是

因为我认识这配音演员

z
zaocha2002
大西洋底来的人是电视剧吧
教导1
N
Numero
是啊,但是也看到AI技术能帮助盲人“看见”东西,帮助不能自理的人有最严地活

觉得还是一个很了不起的技术革命的

这是一把双刃剑

教导1
丁建华?李梓?
z
zaocha2002
不是

这个角色不是主角。

不过听过他们的一些私下故事,不过讲述人带有感情色彩。

成功的兔
是,跟以前不一样,这一次是工业商业开出招人职位
j
jingzhumama
那个是神剧, lol

最后一个season也放完了, 去年的事了

m
mom2023
换个想法。75岁没准退休去了哈哈哈
教导1
肯定是些八卦吧,演艺圈么。
教导1
老了,看这些绕来绕去的费脑子
米奇的厨房
我看的应该是水晶鞋与玫瑰花,一群大臣在国王带领下又唱又跳的,好玩的很
米奇的厨房
是大嘴罗兰?
z
zaocha2002
那是啥片?
米奇的厨房
老版本的Cinderella

 

 

z
zaocha2002
可能哈
风景线2
我觉得他离开的真正原因是对google最近的reorg不满

Google为了和chatGPT竞争,把很多不挣钱的research projects 砍了,把deepmind并进了Google research. 更专注engineering,less open ended research,这可能和Hinton 的想法不一致

z
zaocha2002
不是
风森读书声
有良知的科学家,没有任何约束和规范的AI,总有一天会反过来侵蚀人类