论文作者Zhao Song本科毕业于The Simons Institute for the Theory of Computing,获得了Computer Science学士学位,博士毕业于University of Texas at Austin Computer Science学系,由Eric Price教授指导。在进入得克萨斯大学之前,Zhao Song曾是哈佛大学的访问学者,也在IBM研究中心实习过。
孩子能写出这样的文章,证明心是正的。只有存在感恩之心,自己才能进步。孩子的英语用法总的来讲也不错。但有几点可以改进:
1. 第一,楼下有几位关于称呼“Eric” 是否妥当的观点,我认为即便在美国,在正式的论文中,是绝对不妥的。可以用Mr. Price, 或者直接Price,或者Prof. Price, Dr. Price. 对导师的尊重,在中国对自己导师的尊重更是毫无保留的。比如说对女性博士生导师,仍然尊称为先生。现在仍然如此。
2. 另外几点可以改进之处。比如
I could never image
意思是不是
I could never have imagineed
或
Never could I have imagined
3. 感恩之心是否有言过其实?
The main purpose of writing this thesis is to express my gratitude to all coauthors and collaborators.
无论如何,如果你写此论文只为感恩,那很让人 (我想包括Mr. Price 等)无语。你的目的永远是对得起自己的劳动,对得起自己的研究成果。这才是对那些帮过你的人最好感谢。而且你的研究结果的表述(即此论文)应该是严谨的,不带有任何感情色彩的。
4. 满心的感激的确很好。但在表达上仍然应该点到即止,更不应该繁琐。比如,
I also want to thank Eric for introducing David and Yin Tat to me. 这个感谢有必要吗?
以上我所说都是些许细节。总的来讲孩子很不简单。绝对值得肯定。
一篇论文的篇幅竟然多达数千页,比很多教材都要厚,这简直无法想象。不过,学术界的"能人异士"层出不穷,德州大学奥斯汀分校的CS博士生Zhao Song就做到了。
这是一篇2019年8月提交的博士论文,总篇幅达到了2840页,其中目录就占了31页。此外在致谢部分,论文作者还以整整20页的篇幅感谢了合作者、提供宝贵意见以及读博期间帮助过他的人
不过,作者在论文第1页做了免责声明,表示:”这篇论文不符合德州大学奥斯汀分校当前的写作格式指南,论文仅供参考使用。”下面让我们简单了解下这篇巨长的博士论文到底讲了些什么。
矩阵(matrix)在很多理论计算器科学和机器学习问题中发挥至关重要的作用。在这篇博士论文中,作者旨在提供对矩阵的更好理解,并且文中的很多见解对古老的、已经得到充分研究的算法问题带来了改进。具体来讲,作者从三个层面对计算器科学和机器学习领域的矩阵展开了研究。
首先,他探究了矩阵在优化算法中的作用。作者研究了大量的矩阵优化问题,并针对线性规划、经验风险最小化、常微分方程和深度神经网络提供了新的求解方法和结果。其中,在线性规划优化问题中,作者提出了一种在当前矩阵乘法时间上运行的新算法,并表示gaisuan”解决了停滞了三十年之久的研究障碍”。此外,该算法可以泛化至多种多样的凸优化问题,即经验风险最小化问题。具体算法如下所示:
论文截图(utexas.edu)
然后,他探究了随机矩阵中的集中不等式问题。具体来讲,作者将大量的切尔诺夫(Chernoff)类型的标量集中不等式和斯宾塞(Spencer)类型的差异定理泛化到矩阵中。
标量随机变量集中的切尔诺夫边界是随机算法分析中的基本工具。过去十年,切尔诺夫边界的矩阵泛化得到广泛应用,但这种泛化存在着一定的限制,并且是否可以消除这些限制的问题也悬而未决。通过提供大量更宽松独立性假设条件下新的矩阵切尔诺夫边界,作者对这一问题给出了肯定的答案。
以下为定理8.1.1:k均匀强瑞利分布(Strongly Rayleigh Distribution)的矩阵切尔诺夫边界。
论文截图(utexas.edu)
斯宾塞定理是差异理论中的一个著名结果,但如何将斯宾塞定理泛化至矩阵设置中这个重要问题却没有得到解决。作者在这方面取得了一些进展,并证明了在某些限制设置条件下斯宾塞定理可以实现矩阵泛化。并且,文中的结果可以泛化至著名的卡迪森-辛格猜想(Kadison-Singer conjecture)问题。
以下为定理1.3.4:卡迪森- 辛格问题。
论文截图(utexas.edu)
最后,他提出了一系列求解矩阵问题的新算法。新算法大致可以分为两类:矩阵分解问题和结构化重建问题。在矩阵分解算法上,针对各种低秩矩阵分解,作者提出了新的算法,包括一些新的固定参数可处理的算法;在结构化重建算法上,针对一些具有结构矩阵的重建任务,给出了新的算法。例如,作者重新考虑了L2/L2的压缩感知问题,提出了编码速度更快和列稀疏更小的算法。此外,作者还给出了针对傅里叶变换(Fourier transform)的快速算法等。
论文作者Zhao Song本科毕业于The Simons Institute for the Theory of Computing,获得了Computer Science学士学位,博士毕业于University of Texas at Austin Computer Science学系,由Eric Price教授指导。在进入得克萨斯大学之前,Zhao Song曾是哈佛大学的访问学者,也在IBM研究中心实习过。
Zhao Song的研究领域广泛,涉及机器学习、理论计算器科学和数学,如深度学习理论、对抗样本、强化学习、线性回归、矩阵/ 张量分解、线性规划、傅立叶变换等。论文被引用次数超过2000次:
Zhao Song被引用次数(网页截图/机器之心)