广播里听到对华裔科学家李飞飞博士的采访,她2023年出版了一本半自传书 - The Worlds I see。我找来读了,是本值得一读的好书。李飞飞1978年出生于北京,但她和父母,外公外婆一直在成都生活。她15岁随妈妈来美国,跟五年前来美的爸爸团聚。全家挤住新泽西郊区一室一厅的出租房。她进一所公校读中学,她小时候就对物理和数学有兴趣,一边克服语言关,一边勤奋学习。拿到Princeton全奖,本科读物理。大学毕业后她对computer science和neuroscience都有兴趣,选择了Caltech做两个方向结合的研究, 获得博士学位。她在University of Illinois Urbana-Champaign和Princeton短暂任教后去了Stanford。
对她影响最大的两个人,一个是她妈妈。她大学毕业找花街的工作很容易,读博的时候拿到McKinsey很好的offer。两次她跟妈妈说起要赚钱养家,妈妈阻止了她,说她的梦想就是她们全家的梦想,They didn't come this far for her to give up. 她妈妈心脏不好,做过多次手术。她工作以后一直和父母一起生活。第二个人是她高中的数学老师,放学后到老师办公室做作业,提问聊天。良师变成了益友。她毕业后和老师一家也一直联系。她父母四处借钱买干洗店,钱不够。老师借两万给她们凑齐。可惜老师因病英年早逝。
她有自己的试验室后做的第一个项目是ImageNet. 她从字典的名词开始,分出22000个categories,每个category找到1000张照片,apply label. 她的想法是machine learning和human learning相似,machine看过这么多照片之后,可以学会辨别照片里的object。她开设了一个竞赛,提供1000个category的data for training machine, 做computer vision研究的团队可以比一下机器识别的准确度。竞赛第三年,University of Toronto的AlexNet准确度直接提高了10个百分点。AlexNet用两个Nvidia芯片,24小时连续运作一星期来训练机器, 刚开始机器每个标签都是错的,蘑菇说成瓶盖,拖车成了电子吉他,但错误"trigger corrective signals", "do less of whatever failed, and more of whatever didn't." 1.4 million rounds以后准确度提高到85%。成功来自combination of hardware (Nvidia chip), software (AlexNet algorism) and data (ImageNet pictures). 李飞飞现在的研究侧重点是Human Centered Artificial Intelligence.
广播里听到对华裔科学家李飞飞博士的采访,她2023年出版了一本半自传书 - The Worlds I see。我找来读了,是本值得一读的好书。李飞飞1978年出生于北京,但她和父母,外公外婆一直在成都生活。她15岁随妈妈来美国,跟五年前来美的爸爸团聚。全家挤住新泽西郊区一室一厅的出租房。她进一所公校读中学,她小时候就对物理和数学有兴趣,一边克服语言关,一边勤奋学习。拿到Princeton全奖,本科读物理。大学毕业后她对computer science和neuroscience都有兴趣,选择了Caltech做两个方向结合的研究, 获得博士学位。她在University of Illinois Urbana-Champaign和Princeton短暂任教后去了Stanford。
对她影响最大的两个人,一个是她妈妈。她大学毕业找花街的工作很容易,读博的时候拿到McKinsey很好的offer。两次她跟妈妈说起要赚钱养家,妈妈阻止了她,说她的梦想就是她们全家的梦想,They didn't come this far for her to give up. 她妈妈心脏不好,做过多次手术。她工作以后一直和父母一起生活。第二个人是她高中的数学老师,放学后到老师办公室做作业,提问聊天。良师变成了益友。她毕业后和老师一家也一直联系。她父母四处借钱买干洗店,钱不够。老师借两万给她们凑齐。可惜老师因病英年早逝。
她有自己的试验室后做的第一个项目是ImageNet. 她从字典的名词开始,分出22000个categories,每个category找到1000张照片,apply label. 她的想法是machine learning和human learning相似,machine看过这么多照片之后,可以学会辨别照片里的object。她开设了一个竞赛,提供1000个category的data for training machine, 做computer vision研究的团队可以比一下机器识别的准确度。竞赛第三年,University of Toronto的AlexNet准确度直接提高了10个百分点。AlexNet用两个Nvidia芯片,24小时连续运作一星期来训练机器, 刚开始机器每个标签都是错的,蘑菇说成瓶盖,拖车成了电子吉他,但错误"trigger corrective signals", "do less of whatever failed, and more of whatever didn't." 1.4 million rounds以后准确度提高到85%。成功来自combination of hardware (Nvidia chip), software (AlexNet algorism) and data (ImageNet pictures). 李飞飞现在的研究侧重点是Human Centered Artificial Intelligence.
NVDA网站About Us上有一个A Timeline of Innovations. 记录了公司1993年成立以来的六个里程碑。2012年是这么写的:
AISparks the era of modern AI by powering the breakthrough AlexNet neural network
过去是在草堆里找一根针,现在是找一个草堆的针。
这是个模式转变,大公司口袋深。看好今年继续outperform 。
觉得她的名声大于她的成就。当然了,她的成就也不小。
运气也好。她对AI的影响很大,应该是大于她的实际学术成就。没有她领导的ImageNet,AI的发展也许会晚好几年。
九十年代做AI好多混不下去. 没想到.
cloud sourcing 找了很多人把照片标上签。竞赛前两年参赛的用的都是传统算法,参加的人也少下去了。如果没有第三年的突破的话,可能她的工作就找不到实用价值了。
我们需要有內行的人做这件事。