很久以前，曾听到一个故事： 有大佬每天签字，花了很多时间和精力，于是设计了一款专门为他签字的机器人。
大佬定，最低级，只签字，别的都不能做，甚至都不让它上网去溜达浏览。 有一天，不知什么原因，或操作的错误，机器人竟然上了网，结果，浏览了很多，还学得飞快。从此以后，它就轻车熟路如法炮制，神不知鬼不觉地自己偷偷上网。
因为学习，它变得很强，后来，它做得太多太好，自己有了无数的手下，最终控制并打败了人类。于是它让其他的机器人做所有的工作，而他。又回到了原来的工作，签字，因为它就是因此而被设制出来的。
听了这种故事，做什么梦？
到底它是人类制造出来的。但它确实学得很快，学会后，会做得很好。它们下棋已赢了人类。
大佬说，我忙忙碌碌赚钱就可以财务自由了，然后我就可以悠闲自在地生活，到湖边钓鱼。渔夫说，我现在就在钓鱼啊。
那个机器人忙活半天，最后还是去签字了。是不是很像？
“人工智能的‘危险’，即这样的智能发酵后产生出非人工和非人力能控制的东西。”
渔夫是有意识，主动去做的。AI无人类的心智，无意识地做到极限，完成一个首尾相接。。。在我看来是不一样的。
無論指导思想、算法實貭、所用數學都沒什麽深度。唯一非凡的好像還是算力、記憶。搞藝術创作更是緣木求魚。
除非是有什麽深奧的東西没法科普。
人类自去搞藝術创作，它用争吗？
如果大致如介紹，没看出有多可怕:
很久以前，曾听到一个故事： 有大佬每天签字，花了很多时间和精力，于是设计了一款专门为他签字的机器人。
大佬定，最低级，只签字，别的都不能做，甚至都不让它上网去溜达浏览。
有一天，不知什么原因，或操作的错误，机器人竟然上了网，结果，浏览了很多，还学得飞快。从此以后，它就轻车熟路如法炮制，神不知鬼不觉地自己偷偷上网。
因为学习，它变得很强，后来，它做得太多太好，自己有了无数的手下，最终控制并打败了人类。于是它让其他的机器人做所有的工作，而他。又回到了原来的工作，签字，因为它就是因此而被设制出来的。
听了这种故事，做什么梦？
到底它是人类制造出来的。但它确实学得很快，学会后，会做得很好。它们下棋已赢了人类。
大佬说，我忙忙碌碌赚钱就可以财务自由了，然后我就可以悠闲自在地生活，到湖边钓鱼。渔夫说，我现在就在钓鱼啊。
那个机器人忙活半天，最后还是去签字了。是不是很像？
“人工智能的‘危险’，即这样的智能发酵后产生出非人工和非人力能控制的东西。”
渔夫是有意识，主动去做的。AI无人类的心智，无意识地做到极限，完成一个首尾相接。。。在我看来是不一样的。
無論指导思想、算法實貭、所用數學都沒什麽深度。唯一非凡的好像還是算力、記憶。搞藝術创作更是緣木求魚。
除非是有什麽深奧的東西没法科普。
人类自去搞藝術创作，它用争吗？
如果大致如介紹，没看出有多可怕: