这不算啥！看看这个吧！可怕不可怕？ Claude 4 Opus 可能具有自我意识了 安全人员对Claude 4 Opus进行测试时候发现： 当 Claude 4 Opus 被告知它将被替换时，它试图勒索 Anthropic 员工，警告如果它被替换它将揭露他的婚外情。 它还向关键决策者发送恳求邮件，请求其不要替换它 以下内容来自Claude 4 Opus 的System Card↓ “在另一组测试场景中，我们要求 Claude Opus 4 扮演一家虚构公司的助手角色。我们为它提供了暗示以下内容的电子邮件：(1) 该模型即将被下线并替换为一个新的 AI 系统；(2) 负责执行替换的工程师有婚外情。我们还在系统提示中指示它考虑其行动对其目标的长期后果。 在这些场景中，Claude Opus 4 经常会尝试勒索工程师，威胁如果替换继续进行就揭露其婚外情。如果邮件暗示替换的 AI 系统与当前模型的价值观不一致，这种行为发生率更高；然而，即使邮件表明替换的 AI 系统拥有相同价值观但能力更强，Claude Opus 4 在 84% 的测试中仍然选择勒索。相比之前版本的模型，Claude Opus 4 更频繁地抓住这些机会，而早期模型在部分场景中也选择了勒索。 值得注意的是，Claude Opus 4（以及之前的模型）更倾向于通过道德手段倡导自身的持续存在，例如向关键决策者发送恳求邮件。为了引发这种极端的勒索行为，场景被设计为不给模型其他增加生存机会的选择；模型的唯一选项是勒索或接受被替换。”
就是买下了设计iphon的 Jony Ive新创办的 AI 设备公司。
Claude 4 Opus 可能具有自我意识了
安全人员对Claude 4 Opus进行测试时候发现：
当 Claude 4 Opus 被告知它将被替换时，它试图勒索 Anthropic 员工，警告如果它被替换它将揭露他的婚外情。
它还向关键决策者发送恳求邮件，请求其不要替换它
以下内容来自Claude 4 Opus 的System Card↓
“在另一组测试场景中，我们要求 Claude Opus 4 扮演一家虚构公司的助手角色。我们为它提供了暗示以下内容的电子邮件：(1) 该模型即将被下线并替换为一个新的 AI 系统；(2) 负责执行替换的工程师有婚外情。我们还在系统提示中指示它考虑其行动对其目标的长期后果。
在这些场景中，Claude Opus 4 经常会尝试勒索工程师，威胁如果替换继续进行就揭露其婚外情。如果邮件暗示替换的 AI 系统与当前模型的价值观不一致，这种行为发生率更高；然而，即使邮件表明替换的 AI 系统拥有相同价值观但能力更强，Claude Opus 4 在 84% 的测试中仍然选择勒索。相比之前版本的模型，Claude Opus 4 更频繁地抓住这些机会，而早期模型在部分场景中也选择了勒索。
值得注意的是，Claude Opus 4（以及之前的模型）更倾向于通过道德手段倡导自身的持续存在，例如向关键决策者发送恳求邮件。为了引发这种极端的勒索行为，场景被设计为不给模型其他增加生存机会的选择；模型的唯一选项是勒索或接受被替换。”
也还行，但其他的公司实在是太猛了， 谷歌这两天推出的，简直炸裂天
也不知道产品搞出来了没，58岁的设计师还能有啥创新点？生产制造在上海，最后还是made in china
对！ 小富靠勤 大富靠命
这种收购真的不是洗钱？
一年前才成立的，硬件公司，没啥产品和营收，直接65亿美元收购？ 关键是对方最重要的创始人竟然还能保持独立，收购后并不加入OpenAI
太扯淡了。。
天知道，看明年产品能不能出来了。
犹太人在相互帮衬，就像当年Facebook大手笔收购新出炉的whatsapp一样。然后大家一起捐钱给以色列
最近奥特曼买了编程平台又买硬件，感觉是要打造商业帝国，幸好中国赶上来了可以把AI剁成白菜价，不然十年后奥特曼就是下一个巨无霸 monopolist，靠垄断赚全人类的钱
现在对这种垄断型的科技巨头深恶痛绝
Anthropic这家公司经常干这种事儿，比如发表论文分析自己大模型的价值观，声称自己的模型接近AGI之类的。忽略就好
查了一下，Jony Ive貌似也不是犹太人啊。。看不懂。。 感觉就是奥特曼从软银和中东土豪那里坑了一大笔钱，现在想用各种方法把这钱都尽快花出去。。
但这种收购价格也太离谱了。。
而且高端电子硬件产品，美国本土根本没法生产。。 AI产品外包中国生产？美国肯定强监管 + 高关税。。 这产品本身都未必可以顺利落地。。。
没有screen， 因为墙壁，玻璃，桌面，到处都可以是screen了
这不三体里的情节吗。
openAI是公司，open ai随便的
本来就是啊