后悔开发AI?“人工智能教父”:真的好危险

今日头条
Toutiao
最新回复:2023年5月5日 4点44分 PT
  返回列表
29731 阅读
4 评论
财联社

被称为 " 人工智能教父 " 的多伦多大学教授 Geoffrey Hinton,在宣布离开谷歌之后表示,对自己在开发人工智能这项技术中的角色感到遗憾。

在漫长的谷歌生涯之后,Hinton 透露,他虽然常用 " 他不做,别人也会这么做 " 的借口安慰自己,但仍对于人工智能带来的负面影响感到不安,他怀疑这项技术将给人类带来危害

他指出,生成式人工智能语言模型可能会导致虚假信息、照片和视频等在互联网上大量传播,而公众极易被其迷惑,很难分辨真假

此外,Hinton 还在媒体采访中表达了对科技巨头之间 AI 竞赛的担忧,并质疑巨头们是否走得太远,并无法在危险出现时及时踩下刹车

辉煌成就下的不安

2012 年,Hinton 和他的两个学生创建了一个神经网络模型,可以分析数千张照片并识别常见物体。其中一个学生 Ilya Sutskever 在 2018 年成为 OpenAI 的首席科学家,并领导了 ChatGPT 的开发。

而 Hinton 和其创办的公司后来则被谷歌收购,他本人也在谷歌研究了十多年的人工智能模型。

周一,Hinton 在推特上发文称,因为离开了谷歌,他可以发表关于人工智能危险性的言论,而不用担心影响到谷歌。他强调,谷歌在人工智能上的行为非常负责。

而 Hinton 的担忧似乎也引发了谷歌一些现职员工的共鸣。据测试谷歌人工智能 Bard 的一些员工称,AI 很危险,而谷歌也似乎并没有把人工智能的道德放在首位,反而急于求成,希望赶上 OpenAI 的 ChatGPT 技术

但谷歌首席科学家 Jeff Dean 澄清称,谷歌致力于负责任地开发人工智能,不断学习、了解这项技术可能出现的风险,同时也在大胆创新。

除了人工智能的道德方面,Hinton 还谈到人工智能最终对人类劳动力市场的冲击,其可能造成律师助理、翻译和行政性工作方面的大量裁员。这也是包括 OpenAI 首席执行官 Sam Altman 在内的行业专家们的忧虑所在。

Hinton 指出,大多数人认为人工智能比人还聪明的未来还很遥远,他之前也认为这个可能性还需要 30-50 年时间去实践。但现在,他的想法改变了。

s
sept.
1 楼
马巴巴说他最后悔的事是创立了阿里。都一样,就是brag
z
zhongguoren8
2 楼
得便宜卖乖,真恶心。后悔创办阿里,腾讯,京东。 发了财都说后悔,怎么不把公司捐给社会?
弟兄
3 楼
机器人反人类罪
O
Observer12
4 楼
人工智能教父阴险又危险