we don't really "follow" what the abacus is doing, but we "understand" why it is doing so, and that is why we trust it. If we don't understand why it is doing so, we shouldn't trust it.
AI is more complex, but the idea is the same.
Therefore, mystifying AI and trusting AI are contradictory.
piece of it; but when trained by AI itself, it will be much more complex for humans to figure it out. I did a simple exercise using automated ML through configuration and the result looked convincing. Honestly, I don't know how it worked inside. You might say that those engineers creating the deep learning algorithms might know that. As I said, everyone knows a bit. I am new to this and still learning and cannot say much. But based on my observation, it's or will be beyond our understanding.
yes, to which degree to trust AI is hard to say. But AI-related services have already existed in our life without our awareness. Have we doubted them?
2023年的今天，春意盎然，读到立兄的这篇写于2021年的文章，想着自去年11月份Cgpt 聊天智能带给人惊悚的感受，与它的快速进化，这篇文章的前瞻性不得不令人钦佩。
华智冰
（一）
华智冰是中国清华大学研制的一个具有某种程度学习能力的高仿真智能机器人。她的样子像是一个清纯的女生，在今天这个时代面容肯定有一点点卡通气，但一点也不夸张。至少从电视画面来看，已经非常像真人了。我想如果不近距离接触，走在清华校园远远的看到时，可能不太容易认出这是一个机器人。据说她现在就生活在清华校园里，每天走在校园的路上，走进教学楼或图书馆，和同学们坐在一起学习。对于清华的男生来说，这或许有些残酷。
华，代表中国，这反映出传统思维至今对于我们的局限。这个华智冰应该是人类的，而非某个国家民族主义爱国主义的工具。但是，恐怕今天任何国家的X智冰都是国家利益的工具。这是我们这个命运共同体的一点点悲哀。智，代表智慧，而冰，我想可能研究人员取中国古代描写女性所用的冰清玉洁的美好含义，或者《庄子》描写女神：“藐姑射之山，有神人居焉，肌肤若冰雪，淖约若处子。”不过，冰，本身是极寒冷的一种状态。
（二）
很难说华智冰出现在清华校园的学子中时，我们是更像人了，还是不再像人。
和人类相比，华的学习能力还极为低等。但且不说生命进化出人类的智力经历数十亿年，而工智能的产生只有近200年，即便现在她也已经具有了一些我们人类不具备且不可能具备的优势，比如她的计算能力；比如她的信息检索能力，今天没有一个人能够了解互联网上的全部信息，而华可以。当她平静的和我们谈论网络时，只有她可以看到互联网上的全部图片、读到那里的每一篇文章。人类强大因为产生语言而能横向连结成一体，但是人类的自然语言是文学性的语言，依赖人类的联想转换，所以，人类不能完全的相互理解。而之后人类发展出数学语言而进入科学理性的加速进化的今天。而华智冰们是使用数学语言交流，她和同类可以完全理解即时交流。人类强大还因为语言可以保持传递前辈的经验知识，但是后代需要漫长时间的学习，并且不可能完全继承，而对于华智冰，无论她学习的进程多么缓慢，她所掌握到的东西可以瞬间完全的传输给她的下一代，华智冰二代，三代。而如果有一天她的学习的能力有所突破，则会在极短的时间内彻底掌握人类十余万年积累的所有的智慧和知识。任何人类的技能一旦机器具有就会迅速超越人类，使人类永远失去与之抗衡的能力。而今天人类的技能正在一项项转输到机器中。
（三）
这一轮人工智能革命的目标是让人所能做的所有事情机器都能做。因此，它只会持续减少人类工作的种类和机会，并不会带来持久的工作机会的增长。而当这一轮革命进展到一定程度时，人类社会中就将出现固定的结构性无业人口，即从出生到死亡没有任何工作的机会，终生依靠社会抚养。那时，社会结构必然需要改变，人的定义将重写。自农耕时代起，人的存在的意义和价值就在于工作。人通过工作获得尊严和财富的优越。
（四）
我是谁？这是一个古老而恒久的哲学问题，它之所以持续的需要我们回答，就是因为我从根本上就是被我们在不断定义和塑造的。
为什么呢？
我认为，在生命进化过程中，人并不是一个纯粹的生物体，它是由生物体的智人，指导行为的思维意识（软件系统）和工具构成的一个完成自我强化目标的特定任务的工作站。现在，摆脱生物肉身的新一代工作站正在诞生。所以，其实一直以来每一个走在清华校园里的学生，每一个走在我们生活中的工作站，都是一个华智冰的模拟物。
在人的进化过程中，极其缓慢的生物进化已毫不重要。人呈现快速进化，而快速进化主要依靠软件和工具的进化。今天人的工具开始获得智能和独立性。
这时，生命正在由有机生命向无机生命（机器生命）进化。
（五）
由此我们可以发现，人这一物种只是这一进化过程的中间环节。无机生命一旦出现，将拥有比有机生命更大的进化优势，更广泛的生存和扩张的能力和适应性。今天人类出走火星可能只是我们的一种带有一些凄凉的希望。地球之外的星球或许没有时间成为人类的避难所或新起点。因为，人工智能机器已经诞生，并在极其快速的成长。当无机生命的机器获得了完全的智力和独立性之后，它们可以更加有力、自由的向其它星球扩张，实现生命自我增殖的更大化。
生命的本质不一定要传播基因，它有两个更基础的要求：一是传播一个概念，即自我驱动的自我复制；二是传播复制中的变化。这两个性质必然导致自我复制的不断进行并呈增长扩展的状态趋向于复杂化。因此，生命是具有趋向复杂化能力的自我驱动的复制形式。
（六）
那时，当人工智能成熟时，我们人类的进化使命即将终结。人类将逐步消失。而在这个过程中，能够慰籍我们心灵，或者说，我们人类所拥有的那种独特的心灵的感觉，所带来的意识深处的需求的，或许将更多的依赖艺术而非科学。那时，艺术或许将重生复兴，而它的复兴将不再带有现代艺术的那些虚大的指引改造人类和社会的盲目的傲慢，而是回归到艺术产生最初的古老、单纯与天真，但它一定同时又是非常的现代的。
立
2021/10
走在清华校园里的华智冰：
驴大师对立曾经有过不经意的点评，谦虚地说立的文字太好了，比他的还要好。但言下之意，哲学思维还有一定的薄弱，需要突破。
极少数精英通过机器人控制了地球，自己则在外层空间建造了一个高级居住地，需要资源就去地球取。电影还没触及立所说的人类文明问题以及硅人和碳人的区别。
你也可以去问问立，对于我提到的几个问题近年来有没有新的想法。
我眼中的立，才气逼人（这些除了天分，还需要耗费大量的生命和心血），写意人生。但也经常有些怀才不遇的愤懑与抑郁。那个诗人的诗恰到好处描述了“灰”色彩。
至于影云，pure heart是我最真心感受的描述，应该把你冰封在童话故事里，就不会沾染尘世的灰尘了。
Thoughts of this type are arbitrary, that is, you can always say otherwise.
Mr li has this old habit of pretending thoughtful when he is not.
样的运算。
膨涨的大脑，在某种程度上就是Collective consciousness的一种数字化的集成。
https://analyticsindiamag.com/top-ten-best-quotes-by-elon-musk-on-artificial-intelligence/
we don't really "follow" what the abacus is doing, but we "understand" why it is doing so, and that is why we trust it. If we don't understand why it is doing so, we shouldn't trust it.
AI is more complex, but the idea is the same.
Therefore, mystifying AI and trusting AI are contradictory.
(发自我的文学城离线浏览器)
piece of it; but when trained by AI itself, it will be much more complex for humans to figure it out. I did a simple exercise using automated ML through configuration and the result looked convincing. Honestly, I don't know how it worked inside. You might say that those engineers creating the deep learning algorithms might know that. As I said, everyone knows a bit. I am new to this and still learning and cannot say much. But based on my observation, it's or will be beyond our understanding.
yes, to which degree to trust AI is hard to say. But AI-related services have already existed in our life without our awareness. Have we doubted them?
对于被喜欢的人来说，也会陷入同样的心境，因为他们懂得，这种特质是如此的难能可贵！