machine learning的数学基础不好搞

首先建立数学基础，还是还原论的思想，希望找到组分一个简洁的定理，可以用来解释整个现象。这个思路一直到20世纪前半叶都很成功，但是渐渐地就发现很多现象是
emergent的，不能还原到组分的性质。 Stephen Wolfram就发现很简单的元胞自动机的rule，可以生产极其复杂的pattern。

想建立machine learning的基础理论有点类似于高温超导体的理论。低温下，原子电子的性质比较齐整，很早就有cooper pair的理论可以解释低温超导体，但是cooper pair在40K以上高温下会分解掉，没法解释高温超导的机理。从80年代实验发现高温超导开
始，已经忙了三十年，实验上发现了铜基和铁基两大系列超导体，而且有无数各种探测手段的实验数据。一方面，搞玄幻的理论学者搞些天马行空的理论，跟实验不能结合，一方面从数据里面似乎拟合一些局部的规律，到今天还是一筹莫展，众说纷纭。

machine learning的理论搞不好也是这么个结局。天才少年Stephen Wolfram就claim宇宙中很多现象只能模拟不能解释，所以80年代他从caltech的高能物理教授quit转向做
计算机符号计算。

wolfram想法的基本成分，是冯诺依曼，图灵，达尔文等人发现的。不是stephen
wolfram。
他找了个奥赛金牌帮他证明110定理，后来人家发布证明，他还起诉人家。

【 在 Caravel (克拉维尔) 的大作中提到: 】
: 首先建立数学基础，还是还原论的思想，希望找到组分一个简洁的定理，可以用来解释
: 整个现象。这个思路一直到20世纪前半叶都很成功，但是渐渐地就发现很多现象是
: emergent的，不能还原到组分的性质。 Stephen Wolfram就发现很简单的元胞自动机的
: rule，可以生产极其复杂的pattern。
: 想建立machine learning的基础理论有点类似于高温超导体的理论。低温下，原子电子
: 的性质比较齐整，很早就有cooper pair的理论可以解释低温超导体，但是cooper
pair
: 在40K以上高温下会分解掉，没法解释高温超导的机理。从80年代实验发现高温超导开
: 始，已经忙了三十年，实验上发现了铜基和铁基两大系列超导体，而且有无数各种探测
: 手段的实验数据。一方面，搞玄幻的理论学者搞些天马行空的理论，跟实验不能结合，
: 一方面从数据里面似乎拟合一些局部的规律，到今天还是一筹莫展，众说纷纭。
: ...................

思想肯定或多或少都要受到前人影响， 找爸爸很没意思， wolfram是的研究侧重是复
杂性现象，至少他是最先明确讨论的。 话说达尔文研究过自动机？

【 在 chebyshev (......) 的大作中提到: 】
: wolfram想法的基本成分，是冯诺依曼，图灵，达尔文等人发现的。不是stephen
: wolfram。
: 他找了个奥赛金牌帮他证明110定理，后来人家发布证明，他还起诉人家。
: pair

细胞自动机是冯诺依曼和另一个人发明的。wolfram当然是杰出的学者。
他claim有自己的东西，都是应该的。

但你说的这些就是瞎claim。
我博士论文是mathematica写的。5年mathematica。我还有模拟机械系统的课件。
在国内硕士论文有一半也是mathematica。

【 在 Caravel (克拉维尔) 的大作中提到: 】
: 思想肯定或多或少都要受到前人影响， 找爸爸很没意思， wolfram是的研究侧重是复
: 杂性现象，至少他是最先明确讨论的。 话说达尔文研究过自动机？

我的主贴只是引用wolfram一个说法，具体点哪个是瞎claim，

【 在 chebyshev (......) 的大作中提到: 】
: 细胞自动机是冯诺依曼和另一个人发明的。wolfram当然是杰出的学者。
: 他claim有自己的东西，都是应该的。
: 但你说的这些就是瞎claim。
: 我博士论文是mathematica写的。5年mathematica。我还有模拟机械系统的课件。
: 在国内硕士论文有一半也是mathematica。

"claim宇
宙中很多现象只能模拟不能解释"
这个一来你说的不准确。二来当初他写书各种claim，是被批评了很久的。

这个所谓的复杂性学科，我算半个专业人士。当初去国家实验室找过postdoc。
被拒了。
【 在 Caravel (克拉维尔) 的大作中提到: 】
: 我的主贴只是引用wolfram一个说法，具体点哪个是瞎claim，

你可以看他的书 A new kind of science, 书很长，这是下面一个的章节。https://www.wolframscience.com/nks/p465--ultimate-models-for-the-universe/
他这个书谈的是思想，并不是一个具体的计算，引起争议很正常，关键是他的看法是不是有价值，我认为很有可能是对的。

【 在 chebyshev (......) 的大作中提到: 】
: "claim宇
: 宙中很多现象只能模拟不能解释"
: 这个一来你说的不准确。二来当初他写书各种claim，是被批评了很久的。
: 这个所谓的复杂性学科，我算半个专业人士。当初去国家实验室找过postdoc。
: 被拒了。

他不是不对。是claim太多。这本书当初有人提出它符合伪科学五个标准里的四个什么
的。不是啥新闻了。

话说回来，
这波复杂性科学的师傅们，还就是他成就最高。他有数学定理，有软件，什么都有。其他人多数还处在拿钱不办事的阶段。
【 在 Caravel(克拉维尔) 的大作中提到: 】
<br>: 你可以看他的书 A new kind of science, 书很长，这是下面一个的章节。
<br>: https://www.wolframscience.com/nks/p465--ultimate-models-for-the-
universe/
<br>: 他这个书谈的是思想，并不是一个具体的计算，引起争议很正常，关键是他的看
法是不
<br>: 是有价值，我认为很有可能是对的。
<br>

物理上重力也是个老大难问题，弄不好重力也是emergent force，重力场只是短距离作用的近似 量子信息熵的。

感觉人类对于非线性混沌系统理解还是不够。
【 在 Caravel (克拉维尔) 的大作中提到: 】
: 首先建立数学基础，还是还原论的思想，希望找到组分一个简洁的定理，可以用来解释
: 整个现象。这个思路一直到20世纪前半叶都很成功，但是渐渐地就发现很多现象是
: emergent的，不能还原到组分的性质。 Stephen Wolfram就发现很简单的元胞自动机的
: rule，可以生产极其复杂的pattern。
: 想建立machine learning的基础理论有点类似于高温超导体的理论。低温下，原子电子
: 的性质比较齐整，很早就有cooper pair的理论可以解释低温超导体，但是cooper
pair
: 在40K以上高温下会分解掉，没法解释高温超导的机理。从80年代实验发现高温超导开
: 始，已经忙了三十年，实验上发现了铜基和铁基两大系列超导体，而且有无数各种探测
: 手段的实验数据。一方面，搞玄幻的理论学者搞些天马行空的理论，跟实验不能结合，
: 一方面从数据里面似乎拟合一些局部的规律，到今天还是一筹莫展，众说纷纭。
: ...................

他这么说等于断了学术界很多人的理想和生路，Wolfram自己已经跳出学术界无所谓了
，别人不高兴是可以理解的。但是现在ML到目前为止就是走的 simulation的路

【 在 guvest (我爱你老婆Anna) 的大作中提到: 】
: 他不是不对。是claim太多。这本书当初有人提出它符合伪科学五个标准里的四个什么
: 的。不是啥新闻了。
: 话说回来，
: 这波复杂性科学的师傅们，还就是他成就最高。他有数学定理，有软件，什么都有。其
: 他人多数还处在拿钱不办事的阶段。
:
: 你可以看他的书 A new kind of science, 书很长，这是下面一个的章节。
:
: https://www.wolframscience.com/nks/p465--ultimate-models-for-the-
: universe/
:
: 他这个书谈的是思想，并不是一个具体的计算，引起争议很正常，关键是
: 他的看
: ...................

他找了个奥赛金牌帮他证明110定理

LOL

【 在 Caravel (克拉维尔) 的大作中提到: 】
: 首先建立数学基础，还是还原论的思想，希望找到组分一个简洁的定理，可以用来解释
: 整个现象。这个思路一直到20世纪前半叶都很成功，但是渐渐地就发现很多现象是
: emergent的，不能还原到组分的性质。 Stephen Wolfram就发现很简单的元胞自动机的
: rule，可以生产极其复杂的pattern。
: 想建立machine learning的基础理论有点类似于高温超导体的理论。低温下，原子电子
: 的性质比较齐整，很早就有cooper pair的理论可以解释低温超导体，但是cooper
pair
: 在40K以上高温下会分解掉，没法解释高温超导的机理。从80年代实验发现高温超导开
: 始，已经忙了三十年，实验上发现了铜基和铁基两大系列超导体，而且有无数各种探测
: 手段的实验数据。一方面，搞玄幻的理论学者搞些天马行空的理论，跟实验不能结合，
: 一方面从数据里面似乎拟合一些局部的规律，到今天还是一筹莫展，众说纷纭。
: ...................

ML更多的是数据和统计吧。

【 在 Caravel (克拉维尔) 的大作中提到: 】
: 他这么说等于断了学术界很多人的理想和生路，Wolfram自己已经跳出学术界无所谓了
: ，别人不高兴是可以理解的。但是现在ML到目前为止就是走的 simulation的路

概率统计本身就有玄学的成分。科学发展到一定程度，实践走在理论前面也是常态。事实上人类文明几千年，理论先于实践也就是牛顿以来3~4百年的事情。最近几十年理论
发展停滞，炼金术士们又搞出些现有理论不能解释的新玩意也不奇怪。

【 在 higerg (higerg) 的大作中提到: 】
: ML更多的是数据和统计吧。