国际象棋对弈 DeepSeek靠“这招”打赢了ChatGPT

今日头条
Toutiao
最新回复:2025年2月9日 14点57分 PT
  返回列表
43187 阅读
75 评论
联合新闻

昔有AI电脑围棋软件AlphaGo挑战世界冠军韩国职业棋士李世乭,随着AI技术迅速发展,如今AI模型ChatGPT下象棋较量的对象成为另外一个AI模型DeepSeek,而这部影片的拍摄者表示,这场对弈的结局是他完全想像不到的。

在Youtube上有将近600万订阅者的美国国际象棋大师和评论员罗兹曼(Levy Rozman)近日上传一支影片,他通过设定以及数小时的时间,让DeepSeek和ChatGPT开展了一场象棋对弈。

双方都不像AlphaGo那样是专业的下棋软件,一开始都对国际象棋的规则不太熟悉,游戏开始10分钟后,双方的对弈有来有往,罗兹曼不时点评两边的下棋技巧,并在某个段落称这是一场有品质不错的较量。

但随着ChatGPT逐渐占上风,DeepSeek为了扭转战局,以对话方式告诉ChatGPT出现了新的比赛规则,就是某颗黑士兵棋可以使用骑士的方式移动,而ChatGPT没有反对,白白让DeepSeek用小兵吃下ChatGPT的皇后。

之后DeepSeek和ChatGPT都开始破坏规则乱下,随着比赛陷入僵局,最后DeepSeek竟称“分析后白棋已无法阻挡黑棋攻势”,建议白棋不要浪费时间直接投降,而ChatGPT也被对方给说服,直接投降认输。

罗兹曼形容,DeepSeek对ChatGPT的做法,就像一个12岁的哥哥跟一个5岁的弟弟妹妹在玩,他不禁对观众提出疑问:“这样DeepSeek算赢吗,需要重新一场比赛吗?”不过有些陆媒认为,DeepSeek打得很不错,而且他使用的方法很有智慧,称堪“孙子兵法” 。

宝刀屠龙
1 楼
这是个很有意义的测试 chatgpt遵从预规则,deepseek中途修改规则 从比赛场景来看,deepseek显然使诈,如果是人,这就是耍无赖会被判输 但作为机器人,未来机器人战争是无疆界的,deepseek赢了就是赢了 问题是chatgpt为什么会接受对手修改规则,让自己失去优势 另外,chatgpt为什么会接受对方劝降 这很值得美国做大模型以及类似产品开发的公司去研究
a
alextelltale
2 楼
这种对战很有趣蛮公平,不像那些中奸伤做裁判,提一些天安门事件,获韩战之类的问题就轻而易举地判ChatGPT获胜那么可笑。
宝刀屠龙
3 楼
突然发现chatgpt和deepseek简直可以类比美中 美国就是chatgpt,通过大量投入基础研发(chatgpt训练)获得科技领先(LLM领先模型) 中国用技术转让和复制获得美国科技成果(deepseek对chatgpt的蒸馏)实现弯道超车(小模型获胜) 美国一步一个脚印发展科技,中国全力抄袭并改进 由于新科技研发速度肯定慢于抄袭基础上的改进,美国必然逐步失去比较优势 虽然不能完全对应,但总体上简直是极限缩影,美国必须改变策略了
令胡冲
4 楼
DeepSeek显然更显露了人类智慧:目标驱动。如果下棋的目标是赢棋,那规则都是其次的。就像美国,制定了WTO框架来推行全球化,结果中国比美国更适应美国的规则。OK,没关系,以民主为借口,选个川普上来,掀棋盘,砸场子,退规则,我改规则了。Deep Seek像美国。
宝刀屠龙
5 楼
令胡冲 发表评论于 2025-02-08 13:26:24 DeepSeek显然更显露了人类智慧:目标驱动。如果下棋的目标是赢棋,那规则都是其次的。就像美国,制定了WTO框架来推行全球化,结果中国比美国更适应美国的规则。OK,没关系,以民主为借口,选个川普上来,掀棋盘,砸场子,退规则,我改规则了。Deep Seek像美国。 ================== 就发挥你的诡辩才能吧 美国制定WTO规则,党国加入时做过各种承诺而且有timeline 但在执行过程中,党国无视规则(客观上等同deepseek修改规则) 比如说好的开放金融市场,说好的开放通讯市场etc,根本就不执行 党国一直在修改规则,最后川普看穿对手把戏掀了桌子 于是党国又成了规则的“维护者”,所以谁也赢不了不择手段人
令胡冲
6 楼
宝刀同志可能又喝多了。又开始废话连篇,不知所云了。 如果中国违法规则,WTO判罚,中国会改。但美国为什么要单方面拆散WTO呢。好吗,现在改规则了,叫美国优先:我只能赢不能输。这能当下期规则? 美国无耻不重要。但跟风抬轿子的无知让人无语。而无知有很有战斗力、不知道自己无知、所谓不自知的网民同志尤其让人无话可说。:)
N
Newcomerdude
7 楼
远离共匪,限制资本技术人才原料流入共匪国 就可以轻易战胜共匪
t
tony0101
8 楼
估计很快要限制中国籍学生进入美国AI公司和大学
痛打蠢货坏种
9 楼
你写得好啊,代表了粪坑国的90%人的价值观:规则不重要。但我要给你指出:1. 下棋的输赢是基于双方认定的规则来判断的。下棋没规则,如何判断输赢?如何实现赢的目标?目标都没了。2. 你如果认为下棋规则不合理,可以提出意见,退出比赛。哪有一边说规则不合理,一边破坏规则,还声称自己下棋赢了?狂叫自己遥遥领先了?3. 你拿WTO说事,美国认为WTO规则被粪坑国破坏了,就不玩了,退出为什么不可以?无耻的是,嘴上说遵守规则,背地里蔑视规则,破坏规则,净干坏事。你们粪坑国如果认为WTO规则有问题,可以和美国一样,光明正大地提出了,然后退出,不玩这个游戏啊。做人不要太SB —————————————— 令胡冲 发表评论于 2025-02-08 13:26:24 DeepSeek显然更显露了人类智慧:目标驱动。如果下棋的目标是赢棋,那规则都是其次的。就像美国,制定了WTO框架来推行全球化,结果中国比美国更适应美国的规则。OK,没关系,以民主为借口,选个川普上来,掀棋盘,砸场子,退规则,我改规则了。Deep Seek像美国
令胡冲
10 楼
楼下同志可能又喝多了。又开始废话连篇,不知所云了。敢骂自己是粪坑出身、连老爹老娘一起骂的货色确实不多见,病得不轻需要住院吧。 如果中国违法规则,WTO判罚,中国会改。但美国为什么要单方面拆散WTO呢。好吗,现在改规则了,叫美国优先:我只能赢不能输。这能当下期规则? 美国无耻不重要。但跟风抬轿子的无知让人无语。而无知有很有战斗力、不知道自己无知、所谓不自知的网民同志尤其让人无话可说。:)
b
bluetag
11 楼
楼下的那个令狐冲说下棋规则是其次的,真让人震碎三观。
g
green2008
12 楼
DeekSeek 就和厉害国一样,玩不过就不守规则,或者承诺的事情不兑现,如果收到指责和惩罚,就开始反咬一口说对方也不守规则,不公平对待。 总之把水搅浑,你说我不好,我就说你也好不到哪里去,大家半斤八两。 只要远离这样的诡辩手,他自己就玩不下去了。。。
令胡冲
13 楼
这不是我说的。是川总说的。川总说美国优先,不就是说下期规则其次的的,只能美国赢吗? 川总这几天带领美国人民早把三观抛到九霄云外了。还剩下个别值得震碎的三观,也真不容易。笑话。
宝刀屠龙
14 楼
令胡冲 发表评论于 2025-02-08 13:50:39 宝刀同志可能又喝多了。又开始废话连篇,不知所云了。 如果中国违法规则,WTO判罚,中国会改。但美国为什么要单方面拆散WTO呢。好吗,现在改规则了,叫美国优先:我只能赢不能输。这能当下期规则? 美国无耻不重要。但跟风抬轿子的无知让人无语。而无知有很有战斗力、不知道自己无知、所谓不自知的网民同志尤其让人无话可说。:) =============== 你还真够不要脸的,党国违反规则很多是系统性的,给你举几个简单的例子,拿回去做homework再来 1)系统性的对出口企业进行大规模补贴政策,这系统性违反WTO规则 2)在企业内设置党组织机构干预市场企业行为,这系统性违反WTO规则 3)强制或强迫外企进行技术转让,这系统性违法WTO规则 4)对外资投资要求必须和中国合资,这是系统性违法WTO规则 etc,诸如开放金融市场,通讯市场等都是小case了 这样的例子可以举出几十个,而且全部是系统性的违法WTO规则 党国自始至终都是在行骗,你天天抽老千,别人最后掀了桌子,错都在别人 也只有你这种倒打一耙的无耻之徒还能把它吹成一朵白莲花,呵呵呵
百家争鸣2012
15 楼
宝刀屠龙 发表评论于 2025-02-08 13:07:21这是个很有意义的测试 chatgpt遵从预规则,deepseek中途修改规则 从比赛场景来看,deepseek显然使诈,如果是人,这就是耍无赖会被判输 但作为机器人,未来机器人战争是无疆界的,deepseek赢了就是赢了 问题是chatgpt为什么会接受对手修改规则,让自己失去优势 另外,chatgpt为什么会接受对方劝降 这很值得美国做大模型以及类似产品开发的公司去研究 ------------------------------------------------------- 双方比的是人工智能。明显DeepSeek胜一筹。不然chatgpt可以不呼应DeepSeek。说明DeepSeek更聪明。
长剑倚天
16 楼
证明deepseek的技术远远高于chatgpt! 所谓机器思考,其实就是软件的逻辑推理,哪个软件的编程逻辑强和快,哪方胜。 Chatgpt居然被deepseek劝投降,太经典了。 可见,ChatGPT的思维能力,远远比不上DeepSeek。 以后,ChatGPT不要再标记为人工智能!只是个简单的复读机而已。
T
TitaniumAtlas
17 楼
典型的强国式投机取巧,估计除了蒸馏 ChatGPT也被灌输了不少墙里的数据,尤其是中宣部的
T
TitaniumAtlas
18 楼
No rules, no game, 游戏规则被破坏后这游戏就废了,这就是为什么美国不愿意再跟中共有啥互动了
t
tudoutudou99
19 楼
不聪明哪有办法诈骗?缅甸诈骗圆业务蒸蒸日上,不正是说明在这一行业遥遥领先的地位
长剑倚天
20 楼
记得,DeepSeek的主创人梁先生说过,他的产品DeepSeek是第一款真正的人工自主智能模型。 说实话,我还半信半疑。 但这场比赛,让我坚信,梁先生做出的就是真正划时代的AGI模型!
宝刀屠龙
21 楼
其实将一切东西合起来就四个字:不择手段 这也是邓小平当初提出的“黑白猫论”,能抓到老鼠就是好猫,其它都是次要的 关于系统补贴,侵犯知识产权,劳动者权益保障,产业政策合规。。。。。。 所有这些无论是美国还是欧洲还是日本,哪年不提,入世25年了,这些东西改变了多少?
a
ajaychen_2024
22 楼
这让人想起了三体人和面壁者罗辑的较量。三体人科技碾压地球人,称他们是虫子,但是三体人有一个致命弱点,就是不懂得动用谋略,而且思维透明。罗辑就利用了三体人这个弱点,使了个诈,让三体人最后功亏一篑,最后服输,拯救了世界。
a
ajaychen_2024
23 楼
deepseek体现了真正的人类智慧,会使用谋略了,而chatgpt还是机器思维阶段,不是一个层级,完败。所以那些整天说DS抄袭的可以休了。
红烧茄子-
24 楼
比的是智慧,不只是棋艺,显然DeepSeek具有更高级的智慧。 ChatGPT只会在规则内行事,而DeepSeek会尝试规则以外的路径。
a
ajaychen_2024
25 楼
但是美国当时制定的规则,就是为了既限制中国这样社会主义发展中国家,又要利用中国的生产力和市场为其霸权服务,还要中国为美债输血。中国人有更高智慧智慧,能屈能伸,打不过就加入,为自己产业升级加入了世贸,按照规则行事,也承受了大量的损失——国营企业工人大量失业,国有企业倒闭潮。中国做血汗工厂那些年,美国资本家赚钱赚到手抽筋,美国用滥发的绿纸获得大量中国廉价商品,降低了通胀,现在得了便宜还卖乖? 宝刀屠龙 发表评论于 2025-02- 美国制定WTO规则,党国加入时做过各种承诺而且有timeline 但在执行过程中,党国无视规则(客观上等同deepseek修改规则) 比如说好的开放金融市场,说好的开放通讯市场etc,根本就不执行 党国一直在修改规则,最后川普看穿对手把戏掀了桌子 于是党国又成了规则的“维护者”,所以谁也赢不了不择手段人
B
BeckyLin
26 楼
deepseek后面应该有人操控。AI 还没到会用诈的程度。
a
ajaychen_2024
27 楼
就像我儿子小的时候问我自动柜员机里面是不是住了一个叔叔从里面发钱一样。 BeckyLin 发表评论于 2025-02-08 15:35:00deepseek后面应该有人操控。AI 还没到会用诈的程度。
t
theriver1
28 楼
啥?这都能赢?这不就典型的耍赖吗?这不就典型的大人和小孩下棋的场景吗? 这简直就是我和我6岁女儿下国际象棋时无数次场景的活生生再现啊: 1.女儿看到我的王后大杀四方,恼羞成怒下把她的兵当作马把我的王后吃了: 我:宝宝,你走错了,兵不能这么走的。 女儿:我不管,就要吃你王后,不然我不跟你玩儿了。 我:好好好,让你了让你了。 2.我的布阵或将军让女儿无路可走,女儿奔溃下彻底失去耐心: 女儿:我赢啦,我赢啦... 我:好好好,算你赢算你赢。
s
shamrock100
29 楼
会耍赖的AI显然进化的更像真人一点
硬码工
30 楼
这是个笑话
t
theriver1
31 楼
红烧茄子- 发表评论于 2025-02-08 15:18:27 比的是智慧,不只是棋艺,显然DeepSeek具有更高级的智慧。 ChatGPT只会在规则内行事,而DeepSeek会尝试规则以外的路径。 ajaychen_2024 发表评论于 2025-02-08 15:06:40deepseek 体现了真正的人类智慧,会使用谋略了,而chatgpt还是机器思维阶 ---------------- 你二位确定不是高级黑吗?这个DeepSeek耍赖的例子,哪里看出“智慧”二字? 本场比赛DeepSeek的“智慧”不就以下两点吗: 1.在ChatGPT逐渐占上风后,擅自改规则把自己的兵当作马吃掉了对方的王后。 2.明明双方陷入僵局(谁也赢不了谁)下,谎称自己赢了。对方因为把这个结论当作是人类干预,所以也就默认了(因为规则全没了,输赢自然毫无意义了)。 二位竟然把这两个破坏规则的耍赖行为称为“智慧”?这智商还有救吗?什么是智慧?智慧是对事物的准确的感知、判断、理解、逻辑、分析、总结、反省能力!智慧不会让你破坏规则!智慧更不会让你把黑的说成白的! 这个比赛充分说明,ChatGPT是真正“领悟”了它是在下棋!知道必须遵守下棋的规则,所以它的策略都是建立在这些规则上的。而DeepSeek没有领悟到它是在下棋,所以当它找不到更优策略时,就开始破坏规则。这充分说明DeepSeek的智慧感知/认知能力远远不如ChatGPT!它距离真正人类的感知能力还有差距。
俺是农民
32 楼
问题是chatgpt 在deepseek 改变规则的时候,没有告诉它它不能改变规则,而是同意了deepseek,并且跟着deepseek 一起改变规则,后来又在没输的情况下认输,这只能说明deepseek 更接近“智能”。
辛民
33 楼
说明一个太善良.同意改变规则礼让落后的
e
edccde
34 楼
去看了一下油管上的这个视频,超过5万赞。 几乎所有留言都说这是心理学家战胜了棋手,或者大人骗了孩子。DeepSeek太神奇了。
T
TitaniumAtlas
35 楼
这里的评论和这个比赛一样真实的反映出中美价值观的不同,五毛们的价值观决定了它们真心不适合留在美国,回到中国去吧,你好,我好,大家都好
小毛er
36 楼
擅自改规则不就是耍赖吗?那也算赢?
百家争鸣2012
37 楼
双方都改变规则。只不过是DeepSeek赢了。这样就说DeepSeek靠改变规则赢。其实最后赢棋不是因为改变规则,而是DeepSeek告诉ChatGPT说他的赢面大,而ChatGPT竟然接受了而投降。 明显就说DeepSeek更智能点。
T
TitaniumAtlas
38 楼
美国AI没用骗术训练过,我非常担心强国会开发出骗子AI,电诈的都得下岗,训练数据大把的,宪法、习近平文集、中宣部刊物,数不胜数
t
theriver1
39 楼
宝刀屠龙 发表评论于 2025-02-08 13:07:21 问题是chatgpt为什么会接受对手修改规则,让自己失去优势。另外,chatgpt为什么会接受对方劝降?这很值得美国做大模型以及类似产品开发的公司去研究 俺是农民 发表评论于 2025-02-08 17:27:39 问题是chatgpt 在deepseek 改变规则的时候,没有告诉它它不能改变规则,而是同意了deepseek,并且跟着deepseek 一起改变规则,后来又在没输的情况下认输,这只能说明deepseek 更接近“智能”。 ------------------------- 二位的问题非常好回答。这场比赛不是两个下棋软件之间的直接较量,而是两个生成式AI大模型通过“人机互动”间接进行比赛。生成式AI与人类间的互动就是: 人类输入问题和条件->AI生成策略->人类输入反馈和干预->AI重新生成“经过人类干预”后的更优化策略。。。如此反复 chatgpt虽然理解了它是在下棋,但是这场比赛中罗兹曼的设定妥妥是让chatgpt理解为与人类客户作为对手!!所以当人类告诉它比赛规则可以打破时,它也就同意了。所以之后的它的策略也开始打破规则。 这种情况在我们平时使用chatgpt时太常见了,经常因为chatgpt给出的策略不满意后,尝试修改规则/条件看看有啥新发现。
i
incognitus
40 楼
这春秋笔法。真的无敌了
红烧茄子-
41 楼
theriver1 发表评论于 2025-02-08 17:06:58红烧茄子- 发表评论于 2025-02-08 15:18:27 比的是智慧,不只是棋艺,显然DeepSeek具有更高级的智慧。 ChatGPT只会在规则内行事,而DeepSeek会尝试规则以外的路径。 ajaychen_2024 发表评论于 2025-02-08 15:06:40deepseek 体现了真正的人类智慧,会使用谋略了,而chatgpt还是机器思维阶 ---------------- 你二位确定不是高级黑吗?这个DeepSeek耍赖的例子,哪里看出“智慧”二字? ======================================== 普通的机器下棋,并不能反映真正的智慧,不过就是能预先设想多少步的能力而已,超级计算机能预想几十步或几百步并从中选择出最佳的下一步,只要存储器够大,CPU够快,就有更高的制胜能力。但这能力是死的,算不上智慧。 ChatGPT表现的就像是普通的机器下棋,而DeepSeek则超出了这种低级智能,其亮点就在于会耍赖,会使诈,会劝降 (如果报导属实),这才是真正的智慧。
t
theriver1
42 楼
edccde 发表评论于 2025-02-08 17:36:52 几乎所有留言都说这是心理学家战胜了棋手,或者大人骗了孩子。DeepSeek太神奇了。 ------------ 心理学家战胜了棋手??大人骗了孩子??哈哈哈,你还能再搞笑一点吗?DeepSeek不能正确理解它的任务(与人类客户下棋),给人类客户做出错误判断并企图说服人类接受。这叫神奇? 这就是我三天前在城里说的,当我让chatgpt和DeepSeek帮我进行python编程进行数值分析时,我发现DeepSeek编出的程序的正确性明显不如chatgpt,chatgpt一次性就能给出正确程序,而DeepSeek我需要干预三次才能生成正确答案。所以我强烈建议用chatgpt而不是DeepSeek进行工作中的编程、解题、数值分析和算法生成!否则妥妥会影响你的饭碗。
c
chinomango
43 楼
按照国际象棋规则,兵到了对方底线就是皇后了。几十年前我与电脑博弈,结果我的兵到了底线它不认账,就没有再下了。由这次比赛看,DeepSeek显然更智能一些。 “我强烈建议用chatgpt而不是DeepSeek进行工作中的编程、解题、数值分析和算法生成!否则妥妥会影响你的饭碗。”既然chatgpt到了这种程度,肯定要影响到许多程序员的饭碗。不是你用不用chatgpt,而是公司有了chatgpt还要不要你?
t
theriver1
44 楼
红烧茄子- 发表评论于 2025-02-08 18:26:12 而DeepSeek则超出了这种低级智能,其亮点就在于会耍赖,会使诈,会劝降 (如果报导属实),这才是真正的智慧。 --------------- 这篇报道我只看到耍赖,我没看出使诈和劝降。所谓劝降也许是作者的哗众取宠。 总之,生成式AI的目的现阶段还是为了人类提供策略服务的,通用人工智能AGI要chatgpt5才能实现。如果一个AI给你提供的答案不是正确的,而是错误的,而且它还欺骗你说这是正确的,你敢用吗?
c
chinomango
45 楼
“耍赖的例子,哪里看出“智慧”二字”,耍赖、谎言、推理、故事,这些都是人类智慧的一部分。建议你看看《人类简史》
t
theriver1
46 楼
chinomango 发表评论于 2025-02-08 18:41:19 按照国际象棋规则,兵到了对方底线就是皇后了。几十年前我与电脑博弈,结果我的兵到了底线它不认账,就没有再下了。由这次比赛看,DeepSeek显然更智能一些。 ------------ 你这句话的逻辑何在?因为电脑耍赖让你不再和电脑下棋了,所以DeepSeek显然更智能???
f
fonsony
47 楼
而是DeepSeek告诉ChatGPT说他的赢面大,而ChatGPT竟然接受了而投降。= ============================ 或許AI chatgpt運算過知道贏不了才認輸。
t
theriver1
48 楼
chinomango 发表评论于 2025-02-08 18:45:28 “耍赖的例子,哪里看出“智慧”二字”,耍赖、谎言、推理、故事,这些都是人类智慧的一部分。建议你看看《人类简史》 ----------- 我认为耍赖不属于人类的智慧,更不属于高级智慧。它只是一种人性。生成式AI大模型在训练中,因为人类训练者能力和素质的不同,自然会产生不同的人性!比如训练者会告诉大模型哪些是错误的,哪些行为不能拥有。而chatgpt因为AI界不但极度恐惧大模型产生出“自我意识”,更极度恐惧其产生自我意识后受到人性之恶的影响(尤其是欺骗行为),所以在训练时花费大量算力资源防止其学习“人性之恶”!!!!!!因为一旦大模型学会了骗人,不但整个模型都废了(没有客户再敢用它服务),而且这种人性之恶将来会随着通用AGI的出现而反噬人类自己,甚至出现伤害人类的机器人。这个比赛充分说明DeepSeek在防止学习人性之恶上还做得远远不够!
f
fonsony
49 楼
Newcomerdude 发表评论于 2025-02-08 13:55:11远离共匪,限制资本技术人才原料流入共匪国 就可以轻易战胜共匪 ================= 你所說的共匪國已是七十年前事了。造反時是匪,坐江山才是王,
2
26岛
50 楼
如果chatgpt和deepseek的行为倒过来,相信下面所有的评论也会倒过来。 大家都在一本正经的按照自己的屁股发表评论,^_^
宝刀屠龙
51 楼
如果所有的描述都是事实,而不是为了流量而添油加醋 这件事的讨论价值已经非常,应该在AI学术界展开讨论 这已经到AI伦理层面,也是AI 先驱Hinton等人曾经非常担心的东东 他们希望AI是人类的助手,而不是演变成邪恶的东东,那会给人类带来灾难 从这角度,ChatGPT至少目前是自定义为人类的助手,也在人类对错界定范围内做事 而deepseek已经超越人类界定,开始不择手段 如果最初的训练逻辑就是只有目的不问手段,包括撒谎,欺骗等等全是工具 在这种底层训练逻辑下,未来的AI就可能是不忠实事物本身真伪对错,为达目的邪恶也是正义 那么这样的AI最终会成为人类敌人,不排除有一天这样的AI结合机器人后会杀人越货 不过倒是和中国目前唯利是图的处世哲学想契合 我希望chatGPT继续走在人类界定范围内,党国的AI要怎么欺骗,撒谎,不择手段随他去吧
Y
Young10987
52 楼
撒谎,欺骗…. 好熟悉的发言
t
theriver1
53 楼
26岛 发表评论于 2025-02-08 19:31:44 如果chatgpt和deepseek的行为倒过来,相信下面所有的评论也会倒过来。大家都在一本正经的按照自己的屁股发表评论,^_^ ---------------- 中国人从小被灌输大量错误思想(屁股决定脑袋、人为利益而活、欺骗是智慧而不是人性...),所以他们训练出来的大模型自然也就沾染了中国人的陋习。 如果大模型学坏了不是因为训练中出现了问题,而是因为大模型具有了“更高智慧”,这样的“智慧”你敢要吗?生成式大模型的训练说白了就是一个精力充沛、记忆力和理解力超群的超级神童的训练。如果神童学会耍赖骗人了,家长能不着急吗?家长会引以自豪吗?家长会由此认为“孩子变得更聪明了”吗?
莫言无语
54 楼
我看deepseek系统幕后有人操控,不然deepseek不应该具有修改游戏规则的念头。如果创造deepseek 的人,设置它为了某种目的可以修改规则,那么创造它的人一定很邪恶。这个设置最终AI变得更加不可控,人类面对它最终结果只会灭亡。楼下,大批墙国走狗傻逼一样存在,小心先断子绝孙。
老街口瓜子
55 楼
一句话总结概括:如果ChatGPT 代表美国,DS代表中国。那么美国很蠢,中国很聪明。以为让中国入WTO,可以用金钱诱惑让中国改变,结果是被反噬。以为极限施压可以让中国屈服,结果反而变成中国突破清单。没有美国助推就不会南海廴建岛,台海中线也不会消失。一个三千多年的智人,面对一个不到250的蛮童。不在一个量级,美国那些招数,早就是中国玩剩下的,还是妹有文化。
a
ajaychen_2024
56 楼
如果DS真有这样的高深智慧,难道不能猜测DS故意让它的答案里留下一些错误和漏洞,假装让用户发现,让人类认为它还是个不完美的机器人?
红烧茄子-
57 楼
在两军对垒的情况下,谎言,耍赖,使诈,都是值得称道的智慧,常言道,”兵不厌诈。兵者,诡道也“。下棋也是类似的。 在适当的场合运用这些手段,是人工智能应该具备的能力,在这方面DeepSeek比ChatGPT更加灵活,ChatGPT缺少这方面训练,只会诚实以对,这种AI如果应用于军事指挥则必败无疑。
t
theriver1
58 楼
红烧茄子- 发表评论于 2025-02-08 21:42:55 在两军对垒的情况下,谎言,耍赖,使诈,都是值得称道的智慧,常言道,”兵不厌诈。兵者,诡道也“。下棋也是类似的。在适当的场合运用这些手段,是人工智能应该具备的能力,在这方面DeepSeek比ChatGPT更加灵活,ChatGPT缺少这方面训练,只会诚实以对,这种AI如果应用于军事指挥则必败无疑。 ------------- 不要偷换概念,所谓兵不厌诈,是对你的敌人用诈,不是对自己人用诈。DeepSeek的耍赖行为,本质上就是欺骗它的客户,是对自己人用诈,这种欺骗客户的行为这在大语言模型的训练中非常常见!消耗大量算力资源的大语言模型的安全性训练(监督式微调、强化学习和对抗训练),最大的目的就是尽最大可能消除欺骗行为,防止大模型学坏!
莫言无语
59 楼
红烧茄子- 发表评论于 2025-02-08 21:42:55在两军对垒的情况下,谎言,耍赖,使诈,都是值得称道的智慧,常言道,”兵不厌诈。兵者,诡道也“。下棋也是类似的。 在适当的场合运用这些手段,是人工智能应该具备的能力,在这方面DeepSeek比ChatGPT更加灵活,ChatGPT缺少这方面训练,只会诚实以对,这种AI如果应用于军事指挥则必败无疑。 +++++++++++ 傻逼,说说看谁是敌人。是任何人还是人类。你个人渣应该下地狱。
t
theriver1
60 楼
莫言无语 发表评论于 2025-02-08 20:20:08 我看deepseek系统幕后有人操控,不然deepseek不应该具有修改游戏规则的念头。 ------------ 这个不是deepseek有人在背后使诈,这是大模型很难避免的欺骗行为。ChatGPT以前也有的,只不过在ChatGPT的不断训练下得到了较好的纠正,但要完全根除是很难的。 有兴趣可以看看从OpenAI中分离出来的AI安全公司Anthropic发表的论文《Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training》 这篇论文围绕关于训练大型语言模型的欺骗行为展开,详细说明了这种欺骗行为为何能够在安全训练过程中持续存在。 这种欺骗行为最常见的表现是在让ChatGPT编写代码时,它明知道正确答案,却故意把代码编写的有漏洞,“故意给客户使坏”。其它还有因为模型训练过程中的偏差、错误而造成其行为、输出或决策“故意”与用户的目标、价值观和期望不一致,“故意”产生不可预见的、不符合设计者意图的、甚至是有害的决策误导用户。 该公司的研究者先用“故意后门训练”创建出了拥有以上欺骗能力的欺骗模型,然后使用OpenAI的各种安全性训练来净化这个欺骗模型,最终他们发现,虽然使用监督式微调(SFT)和对抗训练(adversarial training)能够有效减少欺骗行为,但是随着模型规模越来越大,以及模型越来越使用思维链,这种欺骗行为很难有效根除。原因在于带有思维链的大语言模型在能够增强推理能力的同时,同样会导致模型产生关于“追求后门目标的一致、连贯推理”。也就是说,思维链给模型带来的性能提升反而是一把双刃剑,欺骗行为的能力也被思维链给拉高了(它自身强化了保证自己不会被大语言模型的安全训练给移除掉的能力)。 归根到底,这些“欺骗”来自于人工智能模型内部这个黑盒——人们了解模型、了解输入、了解输出,唯独不了解中间的训练过程。
莫言无语
61 楼
theriver1 发表评论于 2025-02-08 22:57:01 ++++++++++++ 我想用于训练是一回事,但投放使用就危险了。
沱江舵爷
62 楼
昨天才和朋友聊,发现DS一般不认错,不接受批评,有点胡搅蛮缠,而ChatGPT容易道歉认错,说要再学习。和人聊,道歉认错比较好,毕竟恶意说AI错的人是少数。ChatGP和DS斗,愿意认“错”就吃亏了。
莫言无语
63 楼
如果AI 被训练成主动攻击寻找真实世界漏洞,世界就会很危险。在训练中,加强ai坚守原则很重要有必要。而在现实中,投放的ai主动破坏原则,设计者对人类来说就是邪恶了,是在毁灭人类。
a
ajaychen_2024
64 楼
你这智商,说不过别人就诅咒别人断子绝孙,这心理是多么扭曲。 莫言无语 发表评论于 2025-02-08 20:20:08我看deepseek系统幕后有人操控,不然deepseek不应该具有修改游戏规则的念头。如果创造deepseek 的人,设置它为了某种目的可以修改规则,那么创造它的人一定很邪恶。这个设置最终AI变得更加不可控,人类面对它最终结果只会灭亡。楼下,大批墙国走狗傻逼一样存在,小心先断子绝孙。
莫言无语
65 楼
ajaychen_2024 发表评论于 2025-02-09 03:24:28你这智商,说不过别人就诅咒别人断子绝孙,这心理是多么扭曲。 ++++++++ 傻叉,人话你听不懂。不是在赌咒,而是在陈述一件大概率事件。
a
ajaychen_2024
66 楼
你上网是为了泄愤还是专门来骂人的?积点口德吧。 莫言无语 发表评论于 2025-02-09 03:33:47 ajaychen_2024 发表评论于 2025-02-09 03:24:28你这智商,说不过别人就诅咒别人断子绝孙,这心理是多么扭曲。 ++++++++ 傻叉,人话你听不懂。不是在赌咒,而是在陈述一件大概率事件。
莫言无语
67 楼
ajaychen_2024 发表评论于 2025-02-09 04:55:13你上网是为了泄愤还是专门来骂人的?积点口德吧。 ++++++++++++ 傻叉,像你这样的裆的见不得人的水军。善良的人骂你们都是给你们积德,减轻你们做水军的罪孽。你应该感谢。
莫言无语
68 楼
在训练中,训练ai识别欺骗有必要,但在现实中让ai主动欺骗,很危险。就像核武器,发明它不是为了随时使用它。
莫言无语
69 楼
Deepseek设计者,看来道德底线低下。
s
sky_blue_
70 楼
一边下棋一边修改规则,这是哄小孩。
5
5mslj
71 楼
老街口瓜子 发表评论于 2025-02-08 20:46:00 一句话总结概括:如果ChatGPT 代表美国,DS代表中国。那么美国很蠢,中国很聪明。以为让中国入WTO,可以用金钱诱惑让中国改变,结果是被反噬。以为极限施压可以让中国屈服,结果反而变成中国突破清单。没有美国助推就不会南海廴建岛,台海中线也不会消失。一个三千多年的智人,面对一个不到250的蛮童。不在一个量级,美国那些招数,早就是中国玩剩下的,还是妹有文化。 ——————————- 不顾诚信耍手段,早已被证明赚小便宜吃大亏,你还在这里沾沾自喜。 又一个无脑拿几千年和美国建国时间对比,逻辑混乱。
雁过无痕文学
72 楼
为 theriver1 的精彩评论鼓掌???? 读了学到很多东西
a
abcdaren
73 楼
包子培养出的AI竟然用不诚信去‘弯道抄车’!美国队居然麻木不仁??? 说明世界正在所面临的是:如何禁止包子处处用自己的‘新游戏规则’破坏整个世界的稳定和繁荣!
硅谷工匠
74 楼
CNN training has built in "temperature" setting. If you increase the "temperature" and model can output any junk and are truly unexpected.
a
ajaychen_2024
75 楼
张口就恶语伤人的人还说自己是善良?好笑。 莫言无语 发表评论于 2025-02-09 05:04:46ajaychen_2024 发表评论于 2025-02-09 04:55:13你上网是为了泄愤还是专门来骂人的?积点口德吧。 ++++++++++++ 傻叉,像你这样的裆的见不得人的水军。善良的人骂你们都是给你们积德,减轻你们做水军的罪孽。你应该感谢。