是啊，据说现在中国军队已经开始大量装备机器狗，连海军都在安排机器人管损，这次打缅北，无人机也是用的摧枯拉朽。虽然一方面高兴中国军力暴涨，不过也真害怕这些智能型武器会不会以后反噬。 驫龘麤靐 发表于 2023-11-24 18:26
2023年11月17日让我想到了几个故事 “Rise of the Machines", 2003 在 “Terminator 3: Rise of the Machines” 中，有个经典场景。两个意识到危险的人，拼了命要阻止Skynet的释放/自由发展。可惜功亏一篑失败。 "I, Robot", 2004 在 "I, Robot" 中，Cofounder 及首席科学家 Alfred Lanning 意识到了危险，试图阻止VIKI的实现。结果没得到总裁的支持，在斗争中败了下来，被全面控制。 "WarGames", 1983 在 "WarGames" 中, WOPR 在simulation/自主学习后几乎成功诱导人类自我毁灭的按钮。 space_invader 发表于 2023-11-23 03:32
不用想了，最后是大部分人类要给ai让路。 小新2014 发表于 2023-11-25 09:31
我觉得ai取代人类是不可能的，但取代大多数人的工作，让资本薅底层羊毛更有效率是肯定的。 momosun 发表于 2023-11-25 09:40
取代大部分工作之后，大部分人没有工作，没有收入，没有消费，资本家从哪里赚钱呢？ 林巧巧 发表于 2023-11-25 10:07
回复 17楼momosun的帖子 》ai能写程序，你作为程序员的价值就不值钱了 AI能控制经济活动，你作为资本家的价值就不值钱了 》资本家要赚钱，但钱是什么？钱是人类服务交换的媒介。资本家要赚取的是其他人的服务。 AI需要资本家吗？ 其他人的服务价值没了 资本家的服务还能有多少价值？ 储存很多食物跟储存不多食物的松鼠，对你来说有什么差别？ space_invader 发表于 2023-11-25 12:49
技术进步是不可阻挡的，如果是电影里描述的这种AI真能实现，那就让我们不要做徒劳无益的抵抗，过好人类最后的时光，面对人类必将灭亡的现实，给新一代文明主动让路。 momosun 发表于 2023-11-25 09:27
“Rise of the Machines", 2003 在 “Terminator 3: Rise of the Machines” 中，有个经典场景。两个意识到危险的人，拼了命要阻止Skynet的释放/自由发展。可惜功亏一篑失败。
"I, Robot", 2004 在 "I, Robot" 中，Cofounder 及首席科学家 Alfred Lanning 意识到了危险，试图阻止VIKI的实现。结果没得到总裁的支持，在斗争中败了下来，被全面控制。
"WarGames", 1983 在 "WarGames" 中, WOPR 在simulation/自主学习后几乎成功诱导人类自我毁灭的按钮。
AGI尚不能洗衣扫地，离超过人类还远 。。。。。AGI 将会是远超过人类的智力存在，她完全不需要帮你洗衣扫地。 但她会让你的知识经验价值归零。 AGI尚不能自驾，离超过人类还远 。。。。。again AGI 完全没必要帮你服务，就像你没必要为虫子服务 。。。。。即便她愿意为你安排，直观的解决方案也是她直接整体控制所有车辆，红绿灯等等的交通系统及规则。 AGI离超过人类还远，我累积些财产还可以享受几十年 。。。。。人类财产对AGI没有价值，接管后她会让你的财产归零。 AGI能超过我，但还是有人能控制她 。。。。。见“Rise of the Machines"， "I, Robot"中大老板的结果。 AGI只是算法，不能控制物理世界 。。。。。见现在 IoT 的快速发展 。。。。。见现在人与人交流沟通对网络的依赖 （你能确定跟你沟通的是人吗？） 。。。。。见现在 各国国防对科技/网络的依赖，及drone的快速武器化 。。。。。见许多人对无形的Q的疯狂追随
最后一个人类superuser账号被封的日子，可能远比你想象的要近。 谁愿意一直被一个智力低下的物种控制？
不会反噬，估计质量问题会更大。
但很难说AI未来会不会发展成一个独立能自运行的群体，也不知这个群体的更新换代会是什么模式
人本身的运行模式就很迷幻。人一直在环境下做各种调节，不断试探和冒险再适应融合。如果以此为基础来设想AI生存模式，感觉AI有很长一段路需要走
世界军备要看美国！国内就是渣渣，东施效颦！
监听，监视也是美国独步人类！
技术进步是不可阻挡的，如果是电影里描述的这种AI真能实现，那就让我们不要做徒劳无益的抵抗，过好人类最后的时光，面对人类必将灭亡的现实，给新一代文明主动让路。
我觉得ai取代人类是不可能的，但取代大多数人的工作，让资本薅底层羊毛更有效率是肯定的。
取代大部分工作之后，大部分人没有工作，没有收入，没有消费，资本家从哪里赚钱呢？
资本家要赚钱，但钱是什么？钱是人类服务交换的媒介。资本家要赚取的是其他人的服务。ai取代了大多数人的能提供的服务价值后，普通人能提供的有价值的服务就会少得可怜，那在交换市场上你能提供的服务价值就会极度贬值。普通人对资本就更加没有议价的能力。
ai能写程序，你作为程序员的价值就不值钱了，ai能做家务，你做家务的价值就消失了，ai能整出美女，你美貌的价值也没有了，ai能做出人造器官，你连卖肾的价值都没有了。
我看到Boston Dynamics的机器狗在马路上闲逛，就觉得挺渗人的，如果哪天带上AK47发疯，肯定比人的mass shooter破坏力大的多，还有他们实验机器人的时候，故意把机器人推倒，哪天机器人发脾气了，绝对可以反杀
》ai能写程序，你作为程序员的价值就不值钱了 AI能控制经济活动，你作为资本家的价值就不值钱了
》资本家要赚钱，但钱是什么？钱是人类服务交换的媒介。资本家要赚取的是其他人的服务。 AI需要资本家吗？ 其他人的服务价值没了 资本家的服务还能有多少价值？ 储存很多食物跟储存不多食物的松鼠，对你来说有什么差别？
我们假设ai不是真正意义自我意识控制一切的ai，要真是终结者和matrix里那种ai，整个人类的都要灭绝。
假设ai就是没有意识的强大生产工具，那资本家控制了ai就控制了物资的生产。资本家可以用极其廉价的代价交换普通人的一切。一块巧克力一顿饱饭就可以换取普通人全部的尊严和可出卖的一切。普通人实在没什么可以用来交换的。
对抗这种未来的关键在于民主而不在于法律，资本家做的一切都可以是合法的，法律也是为资本家服务的。普通人所拥有的就是一张选票，虽然大概率也会被误导被操控，但民主制度已经是普通穷人最后的武器了。
所谓新一代文明就是几个大金主几个按钮控制你们其他所有生物了。人类的毁灭来源于贪婪，自私，短视。OPENAI 700个员工就是短视贪婪而被利用的经典