ChatGPT这类AI进步速度惊人，产学界不只1人出言警告可能威胁人类存亡。（资料照／路透） 人工智慧（Artificial intelligence，AI）当道，各行各业都在谈论如何应用AI，不少行业也面临因AI兴起而可能消失的风险，学界甚至警告会威胁到人类生存。现在就连OpenAI、Google Deepmind、Anthropic等多家AI企业领袖与业界、学界专家逾350人同声警告AI可能会导致人类灭绝，呼吁全球各界务必致力于降低此事发生的风险。于此同时也有科学家认为这种说法有夸大之嫌。 综合英国广播公司、路透社报导，这项发布于非营利组织“AI安全中心”（Center for AI Safety，CAIS）网站的声明简而有力：“全球应把降低AI造成人类灭绝风险的优先顺序，拉高到与大流行疾病、核武战争这些影响社会的议题并列。” 辛顿日前已自Google离职，他认为AI很可能威胁人类生存。（资料照／美联社） OpenAI执行长奥特曼（Sam Altman）、Google Deepmind执行长哈萨比斯（Demis Hassabis）、Anthropic创办人兼执行长阿莫戴（Dario Amodei）、研究AI先驱科学家辛顿（Geoffrey Hinton）、蒙特娄大学教授班吉欧（Yoshua Bengio）等人，都在署名之列。美国哈佛大学、中国清华大学等全球多所学府与研究机构的学者，也加入连署。 欧盟已开全球之先著手制定AI相关法案，奥特曼上週才批评欧盟管控过度还放话要退出欧洲，结果遭到政坛抨击。几天之后奥特曼就加入了CAIS的连署，立场显然大有转变。奥特曼预计週四（6月1日）与欧盟执委会主席范德赖恩（Ursula von der Leyen）会面。 OpenAI执行长奥特曼。（美联社） 2018年以人工智慧深度学习（Yoshua Bengio）荣获“电脑界诺贝尔”图灵奖（Turing Award）的3名学者就包括辛顿与班吉欧，另一名获奖人是纽约大学教授、同时也在Meta任职的勒昆（Yann LeCun），3人并称“AI教父”。辛顿日前向路透社表示，AI对于人类构成的威胁“可能比气候变迁还大”。 不过，勒昆与辛顿、班吉欧对于此事的态度并不相同。勒昆认为这些世界末日一般的警告是夸大其辞。其他不赞同如此末日论调的专家认为，“AI恐导致人类灭亡”的恐惧不切实际，也会转移已知问题的焦点。 “AI教父”之一勒昆对于辛顿等人发出AI恐致人类灭亡的论调并不赞同。（资料照／美联社） 普林斯顿大学电脑科学家纳拉亚南（Arvind Narayanan）先前已向英国广播公司表示，科幻小说一般的灾难场景并不真实：“目前AI的能耐根本不足以让这些风险成为现实，反而会分散世人对于近期AI害处的注意力。” 今年3月以来，AI带来的可能威胁如雪球般愈滚愈大。电动车厂特斯拉的老闆、钜富马斯克（Elon Musk）今年4月也加入公开信连署，敦促下一代AI技术开发应予以暂停。这封公开信质疑世人是否应该开发最终在数量、智商层面淘汰、取代人类的非人类智能。 美国与欧盟的美欧贸易暨科技委员会（U.S.-EU Trade and Technology Council, TTC）本週正好也在瑞典开会，预料会讨论有关AI规范议题。
ChatGPT这类AI进步速度惊人，产学界不只1人出言警告可能威胁人类存亡。（资料照／路透）
人工智慧（Artificial intelligence，AI）当道，各行各业都在谈论如何应用AI，不少行业也面临因AI兴起而可能消失的风险，学界甚至警告会威胁到人类生存。现在就连OpenAI、Google Deepmind、Anthropic等多家AI企业领袖与业界、学界专家逾350人同声警告AI可能会导致人类灭绝，呼吁全球各界务必致力于降低此事发生的风险。于此同时也有科学家认为这种说法有夸大之嫌。
综合英国广播公司、路透社报导，这项发布于非营利组织“AI安全中心”（Center for AI Safety，CAIS）网站的声明简而有力：“全球应把降低AI造成人类灭绝风险的优先顺序，拉高到与大流行疾病、核武战争这些影响社会的议题并列。”
辛顿日前已自Google离职，他认为AI很可能威胁人类生存。（资料照／美联社）
OpenAI执行长奥特曼（Sam Altman）、Google Deepmind执行长哈萨比斯（Demis Hassabis）、Anthropic创办人兼执行长阿莫戴（Dario Amodei）、研究AI先驱科学家辛顿（Geoffrey Hinton）、蒙特娄大学教授班吉欧（Yoshua Bengio）等人，都在署名之列。美国哈佛大学、中国清华大学等全球多所学府与研究机构的学者，也加入连署。
欧盟已开全球之先著手制定AI相关法案，奥特曼上週才批评欧盟管控过度还放话要退出欧洲，结果遭到政坛抨击。几天之后奥特曼就加入了CAIS的连署，立场显然大有转变。奥特曼预计週四（6月1日）与欧盟执委会主席范德赖恩（Ursula von der Leyen）会面。
OpenAI执行长奥特曼。（美联社）
2018年以人工智慧深度学习（Yoshua Bengio）荣获“电脑界诺贝尔”图灵奖（Turing Award）的3名学者就包括辛顿与班吉欧，另一名获奖人是纽约大学教授、同时也在Meta任职的勒昆（Yann LeCun），3人并称“AI教父”。辛顿日前向路透社表示，AI对于人类构成的威胁“可能比气候变迁还大”。
不过，勒昆与辛顿、班吉欧对于此事的态度并不相同。勒昆认为这些世界末日一般的警告是夸大其辞。其他不赞同如此末日论调的专家认为，“AI恐导致人类灭亡”的恐惧不切实际，也会转移已知问题的焦点。
“AI教父”之一勒昆对于辛顿等人发出AI恐致人类灭亡的论调并不赞同。（资料照／美联社）
普林斯顿大学电脑科学家纳拉亚南（Arvind Narayanan）先前已向英国广播公司表示，科幻小说一般的灾难场景并不真实：“目前AI的能耐根本不足以让这些风险成为现实，反而会分散世人对于近期AI害处的注意力。”
今年3月以来，AI带来的可能威胁如雪球般愈滚愈大。电动车厂特斯拉的老闆、钜富马斯克（Elon Musk）今年4月也加入公开信连署，敦促下一代AI技术开发应予以暂停。这封公开信质疑世人是否应该开发最终在数量、智商层面淘汰、取代人类的非人类智能。
美国与欧盟的美欧贸易暨科技委员会（U.S.-EU Trade and Technology Council, TTC）本週正好也在瑞典开会，预料会讨论有关AI规范议题。