巴黎AI峰会:中国前外交部官员与"AI教父"激烈交锋

今日头条
Toutiao
最新回复:2025年2月11日 16点36分 PT
  返回列表
59861 阅读
39 评论
BBC中文

傅莹也对中美紧张局势对AI安全进展造成的负面影响表示遗憾

一位前中国外交部官员当面拿一份重要的国际人工智能(AI)安全报告开玩笑。这份报告由 “人工智能教父 ”约书亚·本吉奥(Yoshua Bengio)教授领导、96位全球专家共同撰写的。

前中国外交部副部长、中国驻英国大使傅莹现为北京清华大学(Tsinghua University)学者。

傅莹和本吉奥教授两人周一(2月10日)在巴黎举行的为期两天的全球人工智能峰会前的小组讨论中发表了讲话。

此次巴黎人工智能峰会的目的是让世界领导人、技术高管和学者聚在一起,来研究AI对社会、治理和环境的影响。

傅莹首先感谢加拿大本吉奥教授提供了这份“非常非常长”的文件,并补充说中文翻译长达400页左右,她还没读完。

她还挖苦了“人工智能安全研究所”(AI Safety Institute)的名称——本吉奥教授是该研究所的成员。

中国现在也有自己的同类机构;但傅莹指出,中方决定将其称为“人工智慧开发和安全网路”,因为已经有很多类似机构,但这种措辞强调了合作的重要性。

中国人工智能聊天产品“DeepSeek”(深度求索)面世,正值美国总统特朗普重返白宫的第一周,这家中国AI初创公司向全球科技界投下了震撼弹。

巴黎举行的“人工智能行动峰会”(AI Action Summit)迎来了来自80个国家的嘉宾,OpenAI首席执行官萨姆·奥尔特曼(Sam Altman)、微软总裁布拉德·史密斯(Brad Smith)和谷歌首席执行官桑达尔·皮查伊(Sundar Pichai)等美国科技巨头均出席。

伊隆·马斯克(Elon Musk)不在嘉宾名单上,但目前尚不清楚他是否会加入。

此次峰会的一个焦点是在日益分裂的世界中监管AI。这场峰会召开几周前,中国的DeepSeek推出了强大的低成本AI模型,挑战了美国的主导地位,引发了巨大的产业转变。

“中美对立有碍AI发展”

此次双方的激烈交锋,是全球政治在强大的“AI军备竞赛”中竞争的象征,但傅莹也对目前中美两国关系的对立情绪对人工智能安全进展的负面影响表示遗憾。

她说:“当科学正处于上升轨道时,两国关系走向了错误的方向,影响了管理风险的团结与合作。”

“这非常不幸。”

傅莹精心描绘了中国人工智能幕后的一角,描述了自2017年中国首次公布其人工智能发展规划以来的创新 “爆炸期”,这比ChatGPT在西方引起病毒式轰动现象还要早五年。

她补充说,“当(开发)速度很快时,就会发生危险的事情”,但没有详细说明可能发生的情况。

“中国人(比西方人)行动得更快,但也充满了问题,”她说。

傅莹认为,在开源的基础上建立AI工具,意味着每个人都可以看到它们是如何运作的,从而为改进它们做出贡献,这是确​​保技术不会带来伤害的最有效方法。

大多数美国科技巨头并不共享驱动其产品的技术。

法国巴黎爱丽舍宫外墙上展示了“人工智能行动峰会”的标志

傅莹说,开源为人类提供了“更好的发现和解决问题的机会”,并补充说“巨头之间缺乏透明度让人们感到紧张”。

但本吉奥教授不同意这种说法。

他的观点是,开源也为犯罪者的滥用敞开了大门。

不过,他也承认,“从安全角度来看”,使用开源架构构建的中国AI助手DeepSeek比ChatGPT更容易发现问题,ChatGPT的程式码尚未被其创建者OpenAI共享。

周二,法国总统马克龙(Emmanuel Macron)、印度总理莫迪(Narendra Modi)和美国副总统万斯(JD Vance)等世界领导人将在峰会期间举行会谈。

讨论议题包括AI将如何影响工作世界、如何用于公共利益,以及如何减轻其风险。

多个国家之间还宣布了一项价值4亿美元的新合作夥伴关系,旨在支持服务于公共利益(例如医疗保健)的AI计画。

2月10日,法国总统马克龙“人工智能行动峰会”第一天活动结束时发表讲话

英国技术大臣彼得·凯尔(Peter Kyle)在接受BBC采访时表示,他认为英国在技术采用方面落后将是危险的。

为政府提供人工智能建议的劳拉·吉尔伯特(Laura Gilbert)博士表示,她认为维持“国民医疗服务计划”(NHS)至关重要,因为它所承诺的效率很高。 “如果不抓住AI,你将如何为NHS提供资金?”她问。

英国AI行动计划的起草人马特·克利福德(Matt Clifford)警告说,AI技术将比计算机当时首次进入工作场所,打字被文字处理取代时“更加激进”,该计划已被政府完全接受。

人工智能公司Faculty的老板马克·华纳(Marc Warner)表示:“工业革命是体力劳动的自动化;人工智能是认知劳动的自动化。”他补充说,他不相信他两岁的孩子会“找到我们今天所知道的工作”。

h
hachimada
1 楼
开源利于发展,闭源利于赚钱。
竞选
2 楼
希望不久的将来,AI将代替医生给人看病,代替法官来判案,可以做到人人平等。
a
ajaychen_2024
3 楼
AI很难平衡法律和人情。有些案子被告可能罪无可赦但是又情有可原。AI只能作为助手,辅助,最终决定权还是应该在人类手里。 竞选 发表评论于 2025-02-11 01:29:30希望不久的将来,AI将代替医生给人看病,代替法官来判案,可以做到人人平等。
令胡冲
4 楼
这个狗P教授得多无耻和无知,才能说出这种不靠谱、缺乏常识的话来。Windows安全,还是Unix/Linux安全?99%的病毒和安全漏洞都在闭源的微软产品上。这人一辈子活在象牙塔里,穷扯什么安全? 傅颖的话没有说错。美国如今的无耻让人诧异。烂事做绝,振振有词。 ——————— 但本吉奥教授不同意这种说法。他的观点是,开源也为犯罪者的滥用敞开了大门。
z
znggg
5 楼
刀子可以是厨具,也可以是凶器,好像没有人担心它的安全
锡耶纳
6 楼
中共前外交部傅官员,请问你党什么时候拆除封锁中国人民的GFW 墙?????
我爱城堡
7 楼
一看就是台湾人写的,还“网路安全”。
x
xidada
8 楼
付莹 喜欢开源 是为了偷着方便......
r
reference
9 楼
按照楼下的说法,android 开源又是怎么说哪?
g
groogle
10 楼
说没穿裤子把她露出来了 跑到法国丢人现眼
亮油
11 楼
"2017年中国首次公布其人工智能发展规划",什么发展规划?规划了什么?Dartmouth 学院1950s就开始AI研究,他们当时就有发展规划,比“中国首次”早一甲子。吹牛吹惯了,张口就来。
E
Erdoalja
12 楼
天朝那套双赢理论全世界早就看明白啦! 你越是装高大上要引领世界,越是被人讨厌!
墙头的一朵梨花
13 楼
一开源,土共粪坑国就遥遥领先,呵呵,世界上的人不会相信土共粪坑国的鬼话了。
一骑绝沉
14 楼
外行评论内行?
k
kl3527
15 楼
不开源,怎么弯道超车?:))))
c
ca_lowhand
16 楼
ds在模型根本技术上没有创新,改进一下meta模型来蒸馏GPT。但在工程应用上卷到了极致,这也是好事,会促进整个行业大幅降低成本
y
ytren
17 楼
什么震撼炸弹?DS 其实很垃圾。俺试过很多的胡说八道。呵呵
芒溪
18 楼
才两个礼拜,因为DS大跌的美股就已经收复失地,说明大家都明白过来,敢情这个DS就是个小偷,没什么技术,只是空手套白狼,蒸馏磨芯片而已。
芒溪
19 楼
还有这个傅莹把大会缩写当ISIS,还自以为得意是个好梗, 其实这个一点都不好笑,等于当犹太人的面说你这个名字像 奥斯维辛集中营,好有趣哦. 共产官僚的愚蠢可见一斑
5
5mslj
20 楼
中共还有这里的长贱,两三年前还认为自己在人工智能上遥遥领先,那时候开什么源了?
l
lthy
21 楼
外交人员都是文科出身,基本为理工盲,拿自己弱项去拼人家强项,结果不言而预。
远山在呼唤
22 楼
就不能找个懂行又善辩的去开这会?派这人去看不出有诚意。
远山在呼唤
23 楼
芒溪 发表评论于 2025-02-11 06:21:31还有这个傅莹把大会缩写当ISIS,还自以为得意是个好梗, 其实这个一点都不好笑,等于当犹太人的面说你这个名字像 奥斯维辛集中营,好有趣哦. 共产官僚的愚蠢可见一斑。 ------------ 这种场合耍这种小聪明博眼球,遭人鄙视。华春淫也是这路货。
我知道我不知道
24 楼
@znggg,中国政府就很担心要求购买需实名制。 ------------------------------------------ znggg 发表评论于 2025-02-11 03:08:00 刀子可以是厨具,也可以是凶器,好像没有人担心它的安全
我知道我不知道
25 楼
@令胡冲,人家教授不好意思把话说透。安全不是仅仅技术本身,而是指不让这么强大且难以控制的技术落入流氓国家的手中,否则可能是整个人类的灾难。就好像核弹,无法想象恐怖组织比如哈马斯如果手中有核弹会做出什么样的疯狂举动。 ---------------------------------------------------- 令胡冲 发表评论于 2025-02-11 02:23:50 这个狗P教授得多无耻和无知,才能说出这种不靠谱、缺乏常识的话来。Windows安全,还是Unix/Linux安全?99%的病毒和安全漏洞都在闭源的微软产品上。这人一辈子活在象牙塔里,穷扯什么安全? 傅颖的话没有说错。美国如今的无耻让人诧异。烂事做绝,振振有词。
我知道我不知道
26 楼
这不就是吸取教训了吗?开源是有利于技术的发展,但也给居心叵测的人弯道超车的机会。就好像WTO,初心是好的但架不住有人加入后就不守规矩不履行当初申请加入时的信誓旦旦。 -------------------------------------------------------- reference 发表评论于 2025-02-11 03:53:49 按照楼下的说法,android 开源又是怎么说哪?
令胡冲
27 楼
开源本身就是要防止这种风险。OpenAI那种美国公司就是风险。 —————— 我知道我不知道 发表评论于 2025-02-11 08:30:10 @令胡冲,人家教授不好意思把话说透。安全不是仅仅技术本身,而是指不让这么强大且难以控制的技术落入流氓国家的手中,否则可能是整个人类的灾难。就好像核弹,无法想象恐怖组织比如哈马斯如果手中有核弹会做出什么样的疯狂举动。
我知道我不知道
28 楼
而且自作聪明称为“人工智慧开发和安全网路”。智慧怎么定义?智慧只有人类可能具有,甚至有人认为智慧是属灵的而人类只能不断接近智慧。机器无论怎么先进它都不具有思想,至少是在可见的未来都如此。
我知道我不知道
29 楼
所以美国很早就有技术伦理或技术道德这个概念,而且有专门的机构去立法和监督。但对于没有道德基因的组织和国家怎么办?开源了以后文明国家考虑的是道德而而流氓国家考虑的是杀更多的人去威胁或统治世界。开源是能解决部分问题但远远不是全部。就好像版权一样,版权必须要有但也有期限和时效。开源也需要有类似的管理机制。 -------------------------------------------------- 令胡冲 发表评论于 2025-02-11 08:41:22 开源本身就是要防止这种风险。OpenAI那种美国公司就是风险。
s
size0
30 楼
中国人和西方人对世界,宇宙的看法就是不同,为什么一定都要听西方的?只不过大家都该服从大家同意的,已经制定并现行的规矩。每个人,每个国家都在争取自己的利益最大化,为什么一定要让东方人妥协呢?
s
size0
31 楼
不开源,人工智能的发展就不会威胁人类了?!微软是OpenAI的最大外部投资者,不开源的主要目的就是为了赚钱,就跟Windows操作系统一样,要躺赚!跟是否防止犯罪,毛线关系没有!别给自己脸上贴金了!
我知道我不知道
32 楼
@size0,没人要规定东方人妥协啊?这不是谁的办法好使谁的技术管用就用谁的?我也想中国全世界最牛掰所有的发明创造都是中国遥遥领先中国干啥都赢两次。但你不能东方只有马车和轿子就不允许西方汽车火车在世界到处跑吧。清朝老百姓倒是把铁轨和电线杆都扒了义和团也刀枪不入了,但撼动了历史前进的车轮么?邓小平说不管白猫黑猫抓到老鼠的就是好猫,他没说这黑猫白猫必须是东方的猫。我们在国外读书工作不能太民粹了,头上不能还顶了根清朝的齐腰大辫子来文学城讨论AI吧? ---------------------------------------------------------- size0 发表评论于 2025-02-11 09:08:13 中国人和西方人对世界,宇宙的看法就是不同,为什么一定都要听西方的?只不过大家都该服从大家同意的,已经制定并现行的规矩。每个人,每个国家都在争取自己的利益最大化,为什么一定要让东方人妥协呢?
我知道我不知道
33 楼
@size0,我没脸上贴金。OpenAI槁垄断我也分不到一分钱,相反我的订阅费还要暴涨。我们在讨论无条件开源是否会带来不可控的危险而不是谈钱。您要谈钱有专门的投资版块但恕我才疏学浅就不奉陪了。 ---------------------------------- size0 发表评论于 2025-02-11 09:12:22 不开源,人工智能的发展就不会威胁人类了?!微软是OpenAI的最大外部投资者,不开源的主要目的就是为了赚钱,就跟Windows操作系统一样,要躺赚!跟是否防止犯罪,毛线关系没有!别给自己脸上贴金了!
泥川
34 楼
美国Paulson Institute下属智库 MacroPolo的数字: 美国的企业和研究机构专门研究AI的顶级研究人员中,毕业于中国大学的人数最多。2019年为27%,但2022年达到了38%。超过了从美国大学毕业的37%。
我知道我不知道
35 楼
看来美国思想比较实际,英雄不问出处,人才不拘一国。 ---------------------------------------------- 泥川 发表评论于 2025-02-11 10:33:39 美国Paulson Institute下属智库 MacroPolo的数字: 美国的企业和研究机构专门研究AI的顶级研究人员中,毕业于中国大学的人数最多。2019年为27%,但2022年达到了38%。超过了从美国大学毕业的37%。
湾区范儿
36 楼
从周总理在联合国设站群雄开始,打嘴炮中国人堪称第一。
G
GoldenEar
37 楼
不知道这次AI大会怎么会由法国和印度共同举办?他们算哪根葱啊?哈哈哈。美国和中国的AI发展必将势不两立!中国人打翻了美国独霸AI并赚取全世界金钱的桌子,美国能不恼怒么!以后更得处处与中国对着干!
荒野猎人
38 楼
这个会议没有邀请马斯克参加,至少缩水一半!
星尘行者
39 楼
安全不安全和开源不开源不是1对1的关系。甚至可以说是两码事。DEEPSEEK开源,给大家看到了另一条可能发展AI的道路,当然是好事。但据此就相信甚至吹捧DEEPSEEK开源是为了大家的福祉,就有点太扯了。楼下不是有人说了美国搞AI的人才里有30%都是中国出来的吗。所以就算是用中文,也最起码先了解一下DEEPSEEK哪些开源了和它的开源协议,再胡吹比较好。据我看来,DEEPSEEK开源,特别是吹捧自己开源,主要是这几个原因:第一还是逼迫OPENAI开源,OPENAI不但不开源,连Paper都不发。没办法,别的不说,搞科技的谁不想看最好的技术是什么样的。当然这里面可能夹杂着政治原因。不知道也就不评论了。 第二(最大可能性)就是利诱那些科技不是特别发达(又喜欢ZB)的国家,使用自己的开源模型,而不是发展自己的AI,从而达到控制这些国家AI发展的目的。第三,从技术上羞辱美国AI公司。第三未见得是坏事。自从几十年前开始搞outsourcing以后,好多美国公司以为自己靠PPT经理就可以保持自己的先进性,把实际的技术工作转移到国外,实际上不但流失了自己的大批技术人才,还培养了国外的技术人员。DEEPSEEK清楚的显示了这么做的坏处。就算DEEPSEEK开源的每个字你都认识,没有相关的技术人员,想复制DEEPSEEK就是做梦。LOL。