一定要限制做成open sourced, 除非美国政府解除GPU限制。
DS算法,美国可能要很长时间自己才能弄出来。
中国政府捧着金饭碗要饭吃。
实际上,最好的方式是中美合作,取长补短,为人类做贡献。
细节都在模型参数里面,核心代码也就几千行甚至几百行。开源代码,集众家之长,才是AI发展的真正道路。
就像商店免费给的东西,不要白不要,人人都拿一个。DS蒸馏,的确会运行效率高一点,但也绝对不是10x, 最多2x。蒸馏就是站在巨人肩膀上,学习省很多劲。就像牛顿发现三大定律花了很长时间,我们在学习一个星期就全学会了,考试100分。
一定要限制做成open sourced, 除非美国政府解除GPU限制。
DS算法,美国可能要很长时间自己才能弄出来。
中国政府捧着金饭碗要饭吃。
实际上,最好的方式是中美合作,取长补短,为人类做贡献。
细节都在模型参数里面,核心代码也就几千行甚至几百行。开源代码,集众家之长,才是AI发展的真正道路。
就像商店免费给的东西,不要白不要,人人都拿一个。DS蒸馏,的确会运行效率高一点,但也绝对不是10x, 最多2x。蒸馏就是站在巨人肩膀上,学习省很多劲。就像牛顿发现三大定律花了很长时间,我们在学习一个星期就全学会了,考试100分。