看帖神器
未名空间
追帖动态
头条新闻
每日新帖
最新热帖
新闻存档
热帖存档
文学城
虎扑论坛
未名空间
北美华人网
北美微论坛
看帖神器
登录
← 下载
《看帖神器》官方
iOS App
,体验轻松追帖。
2020总结
查看未名空间今日新帖
最新回复:2021年1月31日 21点54分 PT
共 (1) 楼
返回列表
订阅追帖
只看未读
更多选项
阅读全帖
只看图片
只看视频
查看原帖
G
GYCS
接近 4 年
楼主 (未名空间)
2020年因为疫情,对于大家来说都是不容易的一年。对于我来说是个比较重要的节点,我进入到了三十岁,也在今年对于很多事情有了新的看法。
(1) 今年是从我到美国六年半以来,第一次感觉到自己这么多年积累的东西终于开始对我有了正向的作用。18年毕业后,20年citations终于有了一点点井喷的状态,尤其是
一些我以为不会有人正眼看的paper也有了citation,我有种“它们终于被看到了,它
们也不是完全无用的学术垃圾”的感觉。今年自己写的和coauthor的论文一共有四篇,希望正在投的两篇能有个好去处。
(2) 不断改进了自己工作和学习的方法,我开始对自己的未来越来越有信心。
1.学会了非常熟练的用pdb或者pycharm breakpoint来熟悉codebase
2.熟练使用各种加速的model training方法来尽量更快地得到实验结果,从而根据结果debug(apex/ multi gpu distributed training, also explored sparsify)
3.参考了很多official codebase,现在代码模块化的风格更好了,并且加入profile和logging,更容易被其他人读懂并且get started,也形成了template可以很快的把其他新项目套入。
4.我发现很多方向浅尝辄止不如一个topic弄的非常非常的熟悉,1)因为你在弄明白这一个topic的时候由浅入深地学习,探索出来一套适合自己的方法,2)并且因为你成功攻克一个难关,你就会对自己有信心,有信心自己有能力去攻克另外一个topic。
5.每个人都有自己的学习方法,你如果感觉你学习一个topic的时候比较吃力费劲,或
者收获和付出不成正比,除了你就是学不明白之外,还有一个很大的可能性:1)教你
的人的方法不适合你 or 2)你现在的学习方法不那么适合你学习现在的这个topic。你不妨先跳出现在的这些tutorial或者工作形式,探索下新的方法。
6.我们在学习模型的时候有两方面的理解:1)从theory角度理解,主要是
optimization和statistical角度(包括Bayesian optimization);2)从computation graph角度理解,这是为了能让你学会如何implement算法。有的mle不理解theory,但是人家知道自己需要啥去理解computation graph,去implement。有的理论phd复现能
力极差,但理论非常明白。所以术业有专攻,但我们average engineer还是得对于sota做到这两方向都理解。
(3) 在生活中我学会了更好的确定自己与他人的边界,即使是关系再好或者曾经帮助我的人,也不能越界。有了这样的心态,让我看人际关系的时候负担没有那么大了,也不再凡是出现什么问题就开始思考是不是我哪里做错了。(亲密关系方面的总结不太喜欢在网上说,自己私下写了)
(4) 19年的时候因为各种原因高消费很多,虽然那年收入算是比较高但是几乎没有攒下来什么钱。20年的时候一方面因为没法出门也就没有什么动力买新衣服新包,另外一方面也开始感觉这所谓的消费主义是不是自己想要的。我现在的想法是:我不是极简主义者,但是有的东西(比如名牌包)有了一个就可以了,每次出新的都买一个新的对于我来说没有必要,也许对于有人来说这是有让她们满意的benefit的,但是对于我来说没
有,只有负面效应就是钱少了。20年因为没有啥高消费,攒钱方面蛮有成果的。
(5) 20年生活上来说有mixed feeling。1)下半年自己一个人住了个1b1b,相对于和室友一起住的时候,家里干净整洁了很多,也有定期做下简单的家务,整体来说还是满意的;2)今年慢慢学习了如何做菜,会用instant pot了,会做了几个常见菜了,虽然厨艺还是不太行并且每次做饭花的时间还是太多了,没有进行流程优化。而且我一忙起来就不太想做饭了,感觉还是没有形成一个做饭的习惯;3)上半年三四月份的时候失眠
很严重,而且当时因为不会高效跑实验不会打log,经常debug做实验等结果到半夜,非常影响身心健康。这也是为什么下半年花了一些时间来优化实验流程。4)感觉自己花
在用来打发时间的事情上的时间有些太多了,比如看娱乐八卦,刷知乎,看youtube之
类的,这些基本都是没有办法我一边工作学习一边干的,并且过多的话已经超出让我放松的阈值,开始消耗我的精力了。5)19年培养出来的健身爱好,20年因为wfh基本是都没有继续下来,我似乎对switch的健身环还有fitness boxing都不是很感冒。
(6) 20年由于疫情,基本没怎么social也没有出去旅行,希望21年能恢复正常吧。
总的来说,我对2020自己的表现还算是大体满意吧。
请输入帖子链接
收藏帖子
2020年因为疫情,对于大家来说都是不容易的一年。对于我来说是个比较重要的节点,我进入到了三十岁,也在今年对于很多事情有了新的看法。
(1) 今年是从我到美国六年半以来,第一次感觉到自己这么多年积累的东西终于开始对我有了正向的作用。18年毕业后,20年citations终于有了一点点井喷的状态,尤其是
一些我以为不会有人正眼看的paper也有了citation,我有种“它们终于被看到了,它
们也不是完全无用的学术垃圾”的感觉。今年自己写的和coauthor的论文一共有四篇,希望正在投的两篇能有个好去处。
(2) 不断改进了自己工作和学习的方法,我开始对自己的未来越来越有信心。
1.学会了非常熟练的用pdb或者pycharm breakpoint来熟悉codebase
2.熟练使用各种加速的model training方法来尽量更快地得到实验结果,从而根据结果debug(apex/ multi gpu distributed training, also explored sparsify)
3.参考了很多official codebase,现在代码模块化的风格更好了,并且加入profile和logging,更容易被其他人读懂并且get started,也形成了template可以很快的把其他新项目套入。
4.我发现很多方向浅尝辄止不如一个topic弄的非常非常的熟悉,1)因为你在弄明白这一个topic的时候由浅入深地学习,探索出来一套适合自己的方法,2)并且因为你成功攻克一个难关,你就会对自己有信心,有信心自己有能力去攻克另外一个topic。
5.每个人都有自己的学习方法,你如果感觉你学习一个topic的时候比较吃力费劲,或
者收获和付出不成正比,除了你就是学不明白之外,还有一个很大的可能性:1)教你
的人的方法不适合你 or 2)你现在的学习方法不那么适合你学习现在的这个topic。你不妨先跳出现在的这些tutorial或者工作形式,探索下新的方法。
6.我们在学习模型的时候有两方面的理解:1)从theory角度理解,主要是
optimization和statistical角度(包括Bayesian optimization);2)从computation graph角度理解,这是为了能让你学会如何implement算法。有的mle不理解theory,但是人家知道自己需要啥去理解computation graph,去implement。有的理论phd复现能
力极差,但理论非常明白。所以术业有专攻,但我们average engineer还是得对于sota做到这两方向都理解。
(3) 在生活中我学会了更好的确定自己与他人的边界,即使是关系再好或者曾经帮助我的人,也不能越界。有了这样的心态,让我看人际关系的时候负担没有那么大了,也不再凡是出现什么问题就开始思考是不是我哪里做错了。(亲密关系方面的总结不太喜欢在网上说,自己私下写了)
(4) 19年的时候因为各种原因高消费很多,虽然那年收入算是比较高但是几乎没有攒下来什么钱。20年的时候一方面因为没法出门也就没有什么动力买新衣服新包,另外一方面也开始感觉这所谓的消费主义是不是自己想要的。我现在的想法是:我不是极简主义者,但是有的东西(比如名牌包)有了一个就可以了,每次出新的都买一个新的对于我来说没有必要,也许对于有人来说这是有让她们满意的benefit的,但是对于我来说没
有,只有负面效应就是钱少了。20年因为没有啥高消费,攒钱方面蛮有成果的。
(5) 20年生活上来说有mixed feeling。1)下半年自己一个人住了个1b1b,相对于和室友一起住的时候,家里干净整洁了很多,也有定期做下简单的家务,整体来说还是满意的;2)今年慢慢学习了如何做菜,会用instant pot了,会做了几个常见菜了,虽然厨艺还是不太行并且每次做饭花的时间还是太多了,没有进行流程优化。而且我一忙起来就不太想做饭了,感觉还是没有形成一个做饭的习惯;3)上半年三四月份的时候失眠
很严重,而且当时因为不会高效跑实验不会打log,经常debug做实验等结果到半夜,非常影响身心健康。这也是为什么下半年花了一些时间来优化实验流程。4)感觉自己花
在用来打发时间的事情上的时间有些太多了,比如看娱乐八卦,刷知乎,看youtube之
类的,这些基本都是没有办法我一边工作学习一边干的,并且过多的话已经超出让我放松的阈值,开始消耗我的精力了。5)19年培养出来的健身爱好,20年因为wfh基本是都没有继续下来,我似乎对switch的健身环还有fitness boxing都不是很感冒。
(6) 20年由于疫情,基本没怎么social也没有出去旅行,希望21年能恢复正常吧。
总的来说,我对2020自己的表现还算是大体满意吧。