Giovanna 发表于 2025-06-07 17:52 说对了一半，就是纯技术不值钱了。值钱的不是权力，而是如下几点：1，表达能力和逻辑思维。如果你每天都用LLM就知道，大家一样写类似的prompt，有的人就能把问题定义得非常规范毫无歧义，一步一步清晰拆解，输出格式和验证都有想到。有的人写出来就是一团浆糊。2，战略眼光和判断力。以前你有点子未必能实现得了，现在技术壁垒没有了，更放大了“选择比努力重要”。选择做什么不做什么，才是你能提供的核心价值。老人想倚老卖老，凭经验吃老本躺平摸鱼的好事不存在了。一个年轻人可以通过LLM实现好几个点子快速实验迭代，摸索出新路线来，经验值指数级增长。 说到底，经典通识教育下产生的人才，会更适应AI新时代，整合知识体系，辩证批判性看问题，会沟通擅长表达，而不是纯粹的搞技术培训。
Strangerthing25 发表于 2025-06-07 17:43 回复 2楼 的帖子 很明显的 之前组里很多技术大牛每天被其他组员各种ping问题 最近被ping的频率大大降低 因为大家直接可以用AI解决自己遇到的技术问题 很多所谓大牛在AI提供的方案面前不值一提 而且AI直接可以写code 所以大牛的存在价值也在下降 以前他们可以任性妄为 迟到早退 在老板面前摆谱 现在各种panic中 老板现在反而喜欢资质平平但是听话的员工 以后让这些听话的员工用AI训练干活 取代那些浑身是刺的所谓技术大牛就好 所以讨好老板反而更重要了 （除非老板的老板用AI取代老板）以后能不能被分配到资源和任务比技术好不好更重要 之前老板可能把任务和资源分配给技术好的人毕竟他们能出活 现在没有必要了 分给自己喜欢的下属就好 反正AI技术足够出活了 所以大家比拼谁能更让老板喜欢
更准确的说，AI的出现让努力奋斗贬值了，而资源更加重要了。权力只是一种比较容易变现的资源而已。 AI的出现只会让贫富差距和阶层差距越来越大；人力的价值会变得越来越低。西方式的民主会走下坡路，因为不太可能真正一人一票来让一个占大多数人口的贫民来决定社会的发展；而更可能实现的是借效率的名义来让AI来大量参与管理一个社会，实际上就是大资本管理一个社会。这个时候普通人甚至连观察社会怎么运行的机会都会剥夺。更进一步的话，实际上可能普通人将来能接触到真实世界的机会都会被剥夺：你能看到的，能学到的，基本都是大资本让你看和让你学的。 对于普通人来说，如果把眼光放远的话，应该尽量投资一些例如地产啊能源啊这些AI无法取代的实物资源；如果是华人的话，也许回国是一个更好的主意。 pinwheel 发表于 2025-06-07 18:27
pinwheel 发表于 2025-06-07 18:27 更准确的说，AI的出现让努力奋斗贬值了，而资源更加重要了。权力只是一种比较容易变现的资源而已。 AI的出现只会让贫富差距和阶层差距越来越大；人力的价值会变得越来越低。西方式的民主会走下坡路，因为不太可能真正一人一票来让一个占大多数人口的贫民来决定社会的发展；而更可能实现的是借效率的名义来让AI来大量参与管理一个社会，实际上就是大资本管理一个社会。这个时候普通人甚至连观察社会怎么运行的机会都会剥夺。更进一步的话，实际上可能普通人将来能接触到真实世界的机会都会被剥夺：你能看到的，能学到的，基本都是大资本让你看和让你学的。 对于普通人来说，如果把眼光放远的话，应该尽量投资一些例如地产啊能源啊这些AI无法取代的实物资源；如果是华人的话，也许回国是一个更好的主意。
完全同意，AI不能用聪明来形容。人类的共情是人与人之间，和AI没有一毛钱关系 不论是AI还是其它各种科技的发展创新，未来劳动效率大幅提升，对人力的需求必然是降低的。也就是产能过剩了。这个时候社会财富的分配规则也需要根据生产力的发展而做出调整，否则很容易出现上层阶级奴役其他人和社会。奴役zheh个词汇或许不再适用，但是事实上就是这么个情况。 个人资产可以无限传宗接代，可以获取长期稳定收益的规则也会造成严重贫富差异，阶层固化，而人类文明也可能因此停滞不前，甚至倒退。 blocked 发表于 2025-06-07 23:58
baobaoguaiguai 发表于 2025-06-08 01:51 作为父母，最失败的就是让孩子卷刷题的技能。在孩子学东西最快的阶段，卷最容易让ai代替的能力。这个时候，最应该重视的是交流和social能力，理解事物运行能力，对世界的了解，拓宽知识面。刷题简直是浪费生命。
Giovanna 发表于 2025-06-07 17:52 说对了一半，就是纯技术不值钱了。值钱的不是权力，而是如下几点：1，表达能力和逻辑思维。如果你每天都用LLM就知道，大家一样写类似的prompt，有的人就能把问题定义得非常规范毫无歧义，一步一步清晰拆解，输出格式和验证都有想到。有的人写出来就是一团浆糊。别的不说，看看版上发帖人水平差距有多大就知道了，车轱辘话颠三倒四的讲不清楚的不在少数，这还是母语。2，战略眼光和判断力。以前你有点子未必能实现得了，现在技术壁垒没有了，更放大了“选择比努力重要”。选择做什么不做什么，才是你能提供的核心价值。老人想倚老卖老，凭经验吃老本躺平摸鱼的好事不存在了。一个年轻人可以通过LLM实现好几个点子快速实验迭代，摸索出新路线来，经验值指数级增长。 说到底，经典通识教育下产生的人才，会更适应AI新时代，整合知识体系，辩证批判性看问题，会沟通擅长表达，而不是纯粹的搞技术培训。
custom 发表于 2025-06-08 10:35 别的不说，讨论下怎么对付烙印吧？
Geofan 发表于 2025-06-08 11:54AI真的特别利好上层，我身边白人产品经理自从有了这个，也敢对着编程问题指手画脚了，这个东西简直就是针对了小镇做题家，不过也没什么大问题，Gpt现在离真的智能离得着呢，还是需要最顶层的小镇做题家调教它，只是需要的小镇做题家数量少多了。
flyerx 发表于 2025-06-08 12:06 简而言之，一切书本上可以学到的知识变得更廉价，书本上学不到的知识，这大概就是智慧？！变得更珍贵。所以需要both 天赋➕自驱力。
ecnanif 发表于 2025-06-08 16:06 短期来说是好事，长期来讲并不好。 Ai 的知识就是建立在大牛和小牛 和无数技术人员的经验积累上的，它自己不会突破现有的技术，只是重复技术。 就像计算器的出现，美国很多学生都依赖计算器，觉得算数没用了，一般人的数学差很多，大多数在美国的数学家是外国的，从小打好数学基础的人。 就像写作一样，现在不论谁，都可以用AI写的人模狗样，但是自己的真实写作水平可能会越来越差，因为不需要写的那么好。 同样的，大家觉得学好技术没用了，大家的技术普遍会下降，注重技术的，技术大拿会越来越少，技术突破越来越少，这简直是个悖论。
计算器的出现，并没有阻碍信息学革命吧。 而且好比隐形飞机，论文是毛子手写的，F-117 多边形是手算的，但 F-22 是电算的，不是更加优越。 tidewater 发表于 2025-06-08 16:10
tidewater 发表于 2025-06-08 15:21 这里有管理学的一个最最基本层的争议，就是说沙壁高管能不能单靠智囊团。 但问题是，智囊团意见不一致的情况下，沙壁高管相信谁的问题，最后出现智囊团里劣币驱逐良币。 但智囊团很贵，也不容易找人。现在有了 AI，穷瘪三如果够聪明（不是智商测试的聪明），AI 就相当于价格便宜量又足的智囊团。
短期来说是好事，长期来讲并不好。 Ai 的知识就是建立在大牛和小牛 和无数技术人员的经验积累上的，它自己不会突破现有的技术，只是重复技术。 就像计算器的出现，美国很多学生都依赖计算器，觉得算数没用了，一般人的数学差很多，大多数在美国的数学家是外国的，从小打好数学基础的人。 就像写作一样，现在不论谁，都可以用AI写的人模狗样，但是自己的真实写作水平可能会越来越差，因为不需要写的那么好。 同样的，大家觉得学好技术没用了，大家的技术普遍会下降，注重技术的，技术大拿会越来越少，技术突破越来越少，这简直是个悖论。 ecnanif 发表于 2025-06-08 16:06
劣币驱除良币这个跟人性有关，自古以来就有，AI的出现会扩大这个现象吗？为啥？ flyerx 发表于 2025-06-08 16:26
Fhu 发表于 2025-06-08 21:16 AI对所有人都accessible是现在的一个阶段。AI运算所需要的能源非常惊人，除非可控核聚变实现，否则所有功能能被替代的普通人为什么能随便用。 沾沾自喜“认知高”的，也是和现在的机器比。迭代那么快，ChatGPT刚出来的时候小学数学也做不好，现在IMO的题也能做了。IMO的题我相当一部分是不看答案的话想一天也想不出。而所谓创造力，直觉，insights，其实不就是找不obvious的connection吗？这个人类还真没有LLM擅长。现在机器最大问题是什么？是hallucinations，但换个角度看，我们人类不就是说天才和疯子一线之差吗？hallucination里面有用的就是创造力。 以后技术成熟了，thiel就养两架机器，一架负责hallucinate从0到1，一架负责验证implement从1到1000。到时mere mortals，认知高认知低，都跑去做biofuel
回复 46楼 tidewater 的帖子 你每次的prompt，都是training data，如果用来解决技术问题好的话，以后机器也会模仿你用prompts，无论你开始多么白痴的prompts。最后认知再高的人也是可以被模仿的 Fhu 发表于 2025-06-08 21:26
回复 49楼 tidewater 的帖子 所有的人类语言，都是数据 如果有足够技术条件计算能力的话，你写prompts时读回答时，各种细微面部表情也是数据 仔细想一下吧 Fhu 发表于 2025-06-08 21:38
tidewater 发表于 2025-06-08 21:20 AI 当然会扩大，俗称 prompt engineering。 就好比你跟 AI 聊的时候，合理使用专业术语但不是故弄玄虚，还表述严谨又外推合理，AI 会越聊越专业。 但反过来，如果都是大白话还是定义不清谁也搞不清楚的含糊大白话，AI 也会同样大量含糊不清的大白话兜圈子，还唬得一愣一愣特有道理让人感觉特别舒服哈哈。
......你这是劣币自我驱除的例子.... flyerx 发表于 2025-06-08 21:59
flyerx 发表于 2025-06-08 22:08 AI对所有人都accessible是现在的一个阶段。AI运算所需要的能源非常惊人，除非可控核聚变实现，否则所有功能能被替代的普通人为什么能随便用。 沾沾自喜“认知高”的，也是和现在的机器比。迭代那么快，ChatGPT刚出来的时候小学数学也做不好，现在IMO的题也能做了。IMO的题我相当一部分是不看答案的话想一天也想不出。而所谓创造力，直觉，insights，其实不就是找不obvious的connection吗？这个人类还真没有LLM擅长。现在机器最大问题是什么？是hallucinations，但换个角度看，我们人类不就是说天才和疯子一线之差吗？hallucination里面有用的就是创造力。 以后技术成熟了，thiel就养两架机器，一架负责hallucinate从0到1，一架负责验证implement从1到1000。到时mere mortals，认知高认知低，都跑去做biofuel Fhu 发表于 2025-06-08 21:16:36 AI能做IMO也是基于现有已知的正确答案下不断学习强化。所谓的找不obvious的connection也是在提供了正确答案或者已知样本的指导下的细节对齐，我不认为这是创造力的体现。如果哪一天AI能独立解决一个人类未解决的数学难题，才能让我信服它具有创造力。
Fhu 发表于 2025-06-08 22:15回复 54楼 flyerx 的帖子 人类能做IMO不也是刷题强化学习？
Giovanna 发表于 2025-06-08 22:20 我个人认为提出和定义一个有价值的问题，比找出最优解更有意义。问题定义清楚了，AI可以在解空间里暴力搜索。但问题空间本身可以无穷无尽，如何定义attention，才是inherently跟人类价值观相挂钩的。
同感！AI如果不能变成电子石油，让人类躺平，贫富悬殊会快速增大。
很明显的 之前组里很多技术大牛每天被其他组员各种ping问题 最近被ping的频率大大降低 因为大家直接可以用AI解决自己遇到的技术问题 很多所谓大牛在AI提供的方案面前不值一提 而且AI直接可以写code 所以大牛的存在价值也在下降 以前他们可以任性妄为 迟到早退 在老板面前摆谱 现在各种panic中 老板现在反而喜欢资质平平但是听话的员工 以后让这些听话的员工用AI训练干活 取代那些浑身是刺的所谓技术大牛就好 所以讨好老板反而更重要了 （除非老板的老板用AI取代老板）以后能不能被分配到资源和任务比技术好不好更重要 之前老板可能把任务和资源分配给技术好的人毕竟他们能出活 现在没有必要了 分给自己喜欢的下属就好 反正AI技术足够出活了 所以大家比拼谁能更让老板喜欢
支持这个，湾区打工的规则要变了
有道理 但是技术壁垒完全没有了感觉不是好事 而且明显对华人移民不利 华人英文表达能力恐怕是所有移民中倒数的 popularity networking也是倒数 外加各种政治因素 技术壁垒就是以前所说的硬实力 以后软实力更重要 那软实力下去就远了 一个本地富裕家庭出生的白男这种站在金字塔端的更占优势 现在很多tech还有老中是因为老中吃苦 凭技术硬本事 以后就很危险了
AI的出现只会让贫富差距和阶层差距越来越大；人力的价值会变得越来越低。西方式的民主会走下坡路，因为不太可能真正一人一票来让一个占大多数人口的贫民来决定社会的发展；而更可能实现的是借效率的名义来让AI来大量参与管理一个社会，实际上就是大资本管理一个社会。这个时候普通人甚至连观察社会怎么运行的机会都会剥夺。更进一步的话，实际上可能普通人将来能接触到真实世界的机会都会被剥夺：你能看到的，能学到的，基本都是大资本让你看和让你学的。
对于普通人来说，如果把眼光放远的话，应该尽量投资一些例如地产啊能源啊这些AI无法取代的实物资源；如果是华人的话，也许回国是一个更好的主意。
请问你们公司是做什么的？能说吗？谢谢
回国不一定更好，国内人口那么多，竞争更激烈，离开国内这么久哪里有更好的资源。其实在时代大浪前，普通人能做的很少。
完全同意，AI不能用聪明来形容。人类的共情是人与人之间，和AI没有一毛钱关系
不论是AI还是其它各种科技的发展创新，未来劳动效率大幅提升，对人力的需求必然是降低的。也就是产能过剩了。这个时候社会财富的分配规则也需要根据生产力的发展而做出调整，否则很容易出现上层阶级奴役其他人和社会。奴役zheh个词汇或许不再适用，但是事实上就是这么个情况。
个人资产可以无限传宗接代，可以获取长期稳定收益的规则也会造成严重贫富差异，阶层固化，而人类文明也可能因此停滞不前，甚至倒退。
舆论造成改变
美国建国就是一群草民打败了集权。你还想搞AI控制老百姓，这是什么思维 你说的明显就是东大的思维和路线 朋友 这是美国
要想夺走美国人的投票权 美国人家里存的枪不是吃素的
你要说自己的孩子是天才，那不用讨论，可只注重发展社交等。不是的话，现阶段不卷刷题，那大概率只能在社会底层，交流能力比较好可能做个包工头。
很赞同,liberal arts 教育理念的含金量会越来越高。
努力从来都是不值钱的。我不知道大家怎么会有这样的错觉，认为财富是自己努力奋斗的结果。手插秧的农民会因为劳动辛苦而富裕吗？值钱的是leverage，也就是你的productivity能scale到多大程度。十年前的码农值钱，是因为产品可以几乎零成本的scale。掌握了写码技术的人，就有leverage。现在技术壁垒越来越消失了，我的直觉是，未来类似product manager这样的人，有市场需求的直觉，懂产品定位，一旦学会了如何运用AI，就可以直接做出产品，将会是AI最大的受益者。
别"对付"了。还是成为他们吧 :P 烙印其实有很多值得学习的方面，和人拉关系，如何扩大自己的关系网，这些是很重要的。
美国这方面的问题不大。中国刷题成风，美国的教育理念一直反对刷题。 去年罗博深做讲座谈到过这个问题，他说主要是深度思考的能力是key，而不是技巧或刷题。但美国常规是轻视stem，轻视深度思考的能力
说的太好了， 请展开说说为什么华人回国是最好的选择。 国内，卷不是更严重吗，
mark
楼主不懂 AI，至少不懂 AI 的 prompt engineering。
AI 遇上沙壁，只会让沙壁更加自大。
从某种角度，AI 其实更 promote 聪明才智，反而是对抗权力。
是啊 占据资源 占据生产资料。 当然这也不算啥护城河了。
这可不是， 都是国内出来的， 哪能这么天真。 文革是干啥的?? -----个人资产可以无限传宗接代
这里有管理学的一个最最基本层的争议，就是说沙壁高管能不能单靠智囊团。
但问题是，智囊团意见不一致的情况下，沙壁高管相信谁的问题，最后出现智囊团里劣币驱逐良币。
但智囊团很贵，也不容易找人。现在有了 AI，穷瘪三如果够聪明（不是智商测试的聪明），AI 就相当于价格便宜量又足的智囊团。
计算器的出现，并没有阻碍信息学革命吧。
而且好比隐形飞机，论文是毛子手写的，F-117 多边形是手算的，但 F-22 是电算的，不是更加优越。
也有道理，也许是我多虑。 不过信息学革命是跟计算器同时出现的吧。中学生普遍用programmable 计算器也是最近十年的事。
另一方面少数聪明人可以利用AI更有效率地学习。
劣币驱除良币这个跟人性有关，自古以来就有，AI的出现会扩大这个现象吗？为啥？
首先，会解决按计算器就能解决的问题的人，在我看来算不上“数学好”，只是熟练的算术工。真正数学好的人，是直觉敏锐，任何现实问题拿到手，脑子里立刻有模型，且能做逻辑推理和理论证明的人。从这个角度来说，AI解决的也是那些tedious的步骤，反而更highlight了使用者对于技术本质的理解是否深刻。其次，我认为技术的进步就是加速放大人和人的认知差距的过程。AI对所有人都是公平的，一样accessible，你拿它干什么，反映的就是个人的认知水平。拿来投机取巧走捷径，还是作为强有力的学习工具，都取决于个人。以前不擅长学习的人，还可以通过积累时间的暴力蛮干来弥补。现在这条路应该越来越行不通了。
AI时代的分水岭：为什么表达力和判断力，才是技术之外最硬的实力？ 一、AI不是第一场工具革命，但它冲击得更深 从历史看，AI并不是人类第一次面临“工具取代人力”的挑战。
这三次工具浪潮的共同点是： 提高效率 重新分配价值链 淘汰一部分岗位，催生一部分新职业
但不同的是： AI不是“辅助人”，而是在某些维度“类人甚至超人”。它挑战的不是肌肉，不是计算，而是“思维本身”。 工具革命 新工具 被替代者 社会影响 工业革命 蒸汽机、机械纺织 手工业者、体力劳动者 工厂制度兴起，行会衰落，城乡结构重构 信息革命 计算机、电子表格 算盘手、基层白领 办公自动化，信息技术行业兴起 AI革命 ChatGPT、Copilot、文生图 初级程序员、内容写手、设计师等 泛脑力劳动被挑战，中产面临结构性洗牌 二、AI时代，真正的“技术”正在悄悄改写定义 很多人说程序员会被AI淘汰，理由是“LLM自己能写代码、查Bug、改格式”。 确实，很多靠流程记忆、语言熟练度的“技能工”岗位已经不再稀缺。 但我们忽略了一个事实： AI不会自动创造价值，但它会放大“谁能定义价值”的人。 谁能驾驭AI？谁能提对问题？谁能拆解任务？谁能判断答案是否可用？ 这时你会发现，那些真正脱颖而出的人，是： - 能清楚表达复杂意图的人； - 能把需求讲明白、拆得细、验证逻辑完整的人； - 能判断一个结果是否符合场景和目的的人。 表达力 + 判断力，才是AI时代的真正技术。 三、prompt不是魔法，是“结构化思维”的镜子 同样一款AI，同样的问题，不同人提问，得到的答案天差地别。 你以为AI“听不懂话”？其实是你“说不清楚自己要什么”。 写prompt、提需求，其实是一种结构化思维的体现： - 能不能把目标讲清楚？ - 能不能把上下文补全？ - 能不能设定输出格式？ - 能不能提前预设评估标准？ 很多人卡在AI面前，不是“不会用”，而是不懂得表达自己在干什么。 四、判断力：选择比努力更重要 当AI让“实现”变得唾手可得，“选择做什么”就变得无比关键。 你可以用AI一天写五个项目，但哪个值得做、哪个能用、哪个有风险？ 这背后考验的是你的判断力： - 商业判断：有市场吗？真有痛点吗？ - 技术判断：方案是否可靠？是否能scale？ - 伦理判断：是否存在数据偏见？合规吗？ 技术不再是壁垒，选择和判断才是价值所在。 五、经验主义退潮，快速试错崛起 过去，经验意味着你踩过的坑、写过的代码、见过的问题。 但现在，年轻人可以靠AI快速模拟这些过程： - 一天生成三十个方案； - 一周试错五种策略； - 一月完成以往半年才能做完的迭代。 这意味着： - 年长者如果不更新工具栈，经验可能贬值； - 年轻人如果只是靠AI堆答案、不理解本质，也会撞墙。 六、通识教育的价值正在回归 会写、会说、会提问、会辩证思考的人反而更有价值。 因为AI做的是“已有知识的重组”，而人类要做的是： - 提出问题； - 拆解任务； - 审视偏见； - 跨界整合。 这正是通识教育培养的核心能力：表达、判断、批判、沟通、连接。 七、写在最后：谁能驾驭AI，谁才有未来 AI不会淘汰人类，但它会淘汰那些无法驾驭AI的人。 正如蒸汽机淘汰了不愿转型的工匠，电脑淘汰了只会算盘的人，AI也将重塑知识工作的边界。 未来，不是拼你有多少技术，而是拼你有没有“让AI帮你实现目标”的能力。 你不是在和AI竞争，而是在和“不会用AI的人”拉开距离。 更准确地说，你是在和过去的自己拉开距离。
沾沾自喜“认知高”的，也是和现在的机器比。迭代那么快，ChatGPT刚出来的时候小学数学也做不好，现在IMO的题也能做了。IMO的题我相当一部分是不看答案的话想一天也想不出。而所谓创造力，直觉，insights，其实不就是找不obvious的connection吗？这个人类还真没有LLM擅长。现在机器最大问题是什么？是hallucinations，但换个角度看，我们人类不就是说天才和疯子一线之差吗？hallucination里面有用的就是创造力。
以后技术成熟了，thiel就养两架机器，一架负责hallucinate从0到1，一架负责验证implement从1到1000。到时mere mortals，认知高认知低，都跑去做biofuel
AI 当然会扩大，俗称 prompt engineering。
就好比你跟 AI 聊的时候，合理使用专业术语但不是故弄玄虚，还表述严谨又外推合理，AI 会越聊越专业。
但反过来，如果都是大白话还是定义不清谁也搞不清楚的含糊大白话，AI 也会同样大量含糊不清的大白话兜圈子，还唬得一愣一愣特有道理让人感觉特别舒服哈哈。
“I never said you’re not good at what you do; it’s just what you do is not worth doing.” - Sheldon Cooper
你每次的prompt，都是training data，如果用来解决技术问题好的话，以后机器也会模仿你用prompts，无论你开始多么白痴的prompts。最后认知再高的人也是可以被模仿的
prompt 不是来自于 training data
prompt 的数据可以作为 training data，但仍旧无法自我 prompt 或者修改对方的 prompt。
就好比图灵测试是不能用猴子当测试员的。
所有的人类语言，都是数据
如果有足够技术条件计算能力的话，你写prompts时读回答时，各种细微面部表情也是数据
仔细想一下吧
香浓说，根据鲜艳概率和后验概率，这段话的信息量好像为零？如果贩卖焦虑不算信息量。
......你这是劣币自我驱除的例子....
劣币可以把 ppt 做得更好啊，然后哄得 skip manager 也是劣币更开心啊。得益于 AI，整个公司 collective 劣币们蒸蒸日上，驱逐良币不亦乐乎啊 😯
当然最后会不会被竞争对手打趴下，另说，但百足之虫死而不僵也能蹦跶很多年的。
沾沾自喜“认知高”的，也是和现在的机器比。迭代那么快，ChatGPT刚出来的时候小学数学也做不好，现在IMO的题也能做了。IMO的题我相当一部分是不看答案的话想一天也想不出。而所谓创造力，直觉，insights，其实不就是找不obvious的connection吗？这个人类还真没有LLM擅长。现在机器最大问题是什么？是hallucinations，但换个角度看，我们人类不就是说天才和疯子一线之差吗？hallucination里面有用的就是创造力。
以后技术成熟了，thiel就养两架机器，一架负责hallucinate从0到1，一架负责验证implement从1到1000。到时mere mortals，认知高认知低，都跑去做biofuel Fhu 发表于 2025-06-08 21:16:36
AI能做IMO也是基于现有已知的正确答案下不断学习强化。所谓的找不obvious的connection也是在提供了正确答案或者已知样本的指导下的细节对齐，我不认为这是创造力的体现。如果哪一天AI能独立解决一个人类未解决的数学难题，才能让我信服它具有创造力。
属实，比如解决无论黎曼猜想还是歌德巴赫
人类能做IMO不也是刷题强化学习？
人类刷 IMO 的并不全都是为了刷题而刷题。
但 AI 目前的 training 基本就是为了刷题而刷题，就好比 savant syndrome。
我个人认为提出和定义一个有价值的问题，比找出最优解更有意义。问题定义清楚了，AI可以在解空间里暴力搜索。但问题空间本身可以无穷无尽，如何定义attention，才是inherently跟人类价值观相挂钩的。
大模型和 transformer layer 就是 attention 做的更好，相对于从前的模型。
其实 prompt engineering，从某个角度，也就是人对 AI 的 high level attention 的 guidenace。
当然，如果 AI 的 attention 足够好，那末，把黎曼猜想直接扔进去等五分钟 ，，，
所有人的意识基础是脑袋，它就是一个biological computer。有什么是一个computer能做的另一个computer不能做？所差的是成本而已。某天机器所用的产出成本比，in terms of能源intake，比起要吃喝拉撒旅游的高认知人类合算了，后者也可以做biofuel了
觉得Ilya Sutskever自己在后悔弄了了大杀器出来