“类似核弹严重后果” 美国会听证:“GPT之父”极忧虑AI

今日头条
Toutiao
最新回复:2023年5月17日 3点28分 PT
  返回列表
59863 阅读
6 评论
中央社



▲“ChatGPT之父”OpenAI执行长阿特曼出席听证会。(图/路透)

美国国会正就监管AI寻求共识,OpenAI执行长阿特曼今日首次赴国会听证,面对议员提出有关AI影响选举、就业和过度集中于少数企业的问题,他呼吁成立专责机构加强规范。

OpenAI执行长阿特曼(Sam Altman)今日出席美国参议院司法委员会听证会,两党议员就AI广泛影响和监管措施向阿特曼提问。

美国共和党籍联邦参议员霍利(Josh Hawley)开场指出,生成式AI(Generative AI)发展规模有如网际网络,为人类历史上最重要的技术创新之一,随即提出警告说,“这可能会招致类似原子弹的严重后果”。

阿特曼表示,生成式AI的出现好比“印刷机时刻”,能够改善和创造工作;他强调,监管措施对风险控管至关重要,并说他对AI可能对世界带来危害深感忧心,希望能与政府合作,防范新技术发生问题。

几名国会成员和专家对AI系统可能影响选举,像是散播不实讯息或是操纵选民,表达严正关切。

民主党籍参议员布鲁门塔(Richard Blumenthal)播放AI生成的录音,指出如果生成的内容支持乌克兰投降或是支持俄罗斯总统普京(Vladimir Putin)领导,“这景象很可怕”。

阿特曼说,他对AI模型普遍操纵、说服或制造虚假互动讯息极为忧虑。

此外,国会成员也对AI技术过度集中于少数大企业之手提出担忧,民主党籍参议员布克(Cory Booker)点出OpenAI与微软(Microsoft)相互合作,并说科技巨擘控制大众生活,影响力与日俱增,令人感到恐怖。

阿特曼回应,的确只有少数公司能提供生成式AI模型,但他认为如此状况下,政府要关注的企业不多“可能有益于监管”,他相信未来会有更多竞争。

其他国会成员和专家也就AI对新闻、智慧财产权的影响提出看法。

OpenAI去年底推出聊天机器人ChatGPT,两个月活跃用户破亿,外界对加速控管AI的呼声高涨,近期,美国政府和国会对立法监管AI展开研议,这是阿特曼首度赴国会听证,被视为两党议员就此议题寻求共识的重要一步。

阿特曼于听证会建议美国政府考虑实施3项计划:成立新的机构批准AI模型、建立一套安全准则规范AI模型、要求独立专家学者对AI模型进行审核。

同时,他支持设立一个国际组织为AI制定标准,并举出管制核武已有前例。

华尔街日报指出,阿特曼15日已和两党约60名众议员私下会晤,另外,华盛顿邮报引述不具名国会议员助理消息表示,今日下午阿特曼与国会负责人工智慧议题成员还有一场简报会议。

D
DumbGoose
1 楼
个人也始终认为,某些集团、人员对AI的操控,才是AI真正让人担心的危害。至于对AI摆脱人类的操控并攻击人类这样的担心,还比较遥远。 现有的搜索引擎号称只是为你搜索资讯然后展示给你,也就是说,号称还没有代你思考,只是提供资讯。而AI向你提供的已经是被分析处理过的资讯,也就是说,已经代你思考并作出结论或者选择了。而在很多人的心目中,AI代自己作的思考比自己的思考更高明,而AI代自己做出的结论或者选择比自己作出的更权威更可取。
不允许的笔名
2 楼
Altman是之父,那Ilya Sutskever算什么?
O
Observer12
3 楼
骗子,企图左右政府
D
DumbGoose
4 楼
然而,众所周知,现有的各搜索引擎,包括 google,使用的已经是 ranking system(排序系统),也就是说,它们提供的资讯已经是经过排序、取舍的了。而AI当然是更进一步,提供的直接是思考和选择以后的最终结果了。 除了对于算法的操控,AI的输出当然还取决于其资讯来源。天朝发展AI实在是让人觉得荒谬滑稽。只能接触强内被严格控制的资讯来源的AI,能输出什么呢?当然只能产出更精更高更强的喜脑资讯,而AI应该也会成为比微信更神的喜脑神器。
一点小看法
5 楼
不可能了,以后连规范法规都是AI写得好。最好的办法是让AI三权分立互相制衡,也许是唯一的解决办法。
西
西岸-影
6 楼
看了这个听证会,很可笑的水平。 其实下面的回答问题的CEO只需要一句话就能让上面的议员们闭嘴,省很多事情, China is doing it too。 就够了。