八年磨一剑,Nvidia 剋星来了

n
nakamoto
楼主 (北美华人网)
虽然现在NVDA如日中天,AMD在后面拼命追赶,Sunnyvale的一个新兴的芯片公司Cerebras却已经悄悄地开始了新一轮的技术飞跃。
为啥是飞跃?把NVDA的芯片和Cerebras的芯片放在一起就一目了然了

Nvidia 最红的芯片大小是这样的 (白框里面那块黑的芯片)

Cerebras 的芯片是这样的。这一张晶片就是一个芯片

再看Cerebras的投资人,除了顶级的VC以外还有
OpenAI 的三大佬:Sam Altman, Greg Brockman, Illya Sutskever
OpenAI 董事 Adam D''''''''Angelo
谷歌第一个投资人,为Google起名字的大佬,Sun, Arista 等等公司的创始人之一,Andy Bechtolsheim
和几个科技界的元老级人物


硅谷的创新能力还是最强的,其它地方没法望其项背

S
SmileOrange
上市了吗
p
pot666
配套的软件开发好了吗? 生态环境有了吗? 估计还要若干年
a
abiigale
不懂就问,这个新的芯片比脸盆还大?
m
mvdk
你知道面积大小和成品率的关系吗?
I
ImAbendrot
女大克星?港大?
n
nakamoto
mvdk 发表于 2024-03-15 01:03
你知道面积大小和成品率的关系吗?

创始人团队都是芯片一行的顶尖人物。不然也不会有那么多行业大佬投资。简单的说他们把存储芯片设计中常用的容错技术用到了ASIC芯片设计上去了。所以能达到很好的良率。已经让台积电做到了5纳米。当然也非常不容易,技术攻关用了七八年的时间。2023年的营收已经超过两亿美元。很多大模型在这块芯片上成功运行了。阿拉伯语的LLM模型就是和微软+OpenAI合作在这块芯片上训练出来的。
n
nakamoto
abiigale 发表于 2024-03-15 00:54
不懂就问,这个新的芯片比脸盆还大?

直径300mm的晶圆。每片只做一个大芯片。
d
dragonfire
没看懂, 30公分的大芯片?为啥比Nvidia 的强?
大喜妞
看名字还在想这是什么新型bra
z
zzou
不懂,关注
L
LazyBooBoo
关注一下..
枫叶08
错过了女大的车,这个有股票可以买吗?
j
jingliujl
不懂就问,为什么Nvidia的芯片上多一个手指,是P的图片吧?
辣手摧花
做那么大 除非运算能力超出很多 否则 怎么打N家
n
nakamoto
辣手摧花 发表于 2024-03-15 19:51
做那么大 除非运算能力超出很多 否则 怎么打N家

最后那张图不就是两芯片的技术数据的比较吗?麻烦读帖仔细点啊
n
nakamoto
回复 14楼 jingliujl 的帖子
那是手机和抓手机的手。芯片本身像镜子,不是黑的
c
chainshore
啥意思 是新的芯片很大计算能力更强? 以前做不了那么大因为技术上做不到? 很讨厌一对比就明白这话,除了长得不一样,啥都没明白啊,显得我很愚蠢
c
cloudy
回复 1楼 nakamoto 的帖子
叙事能力不行啊
到底这家公司的芯片优越性在哪里一个字没说。
硅谷是有创新,但也不乏给像Theranos 和Juicero这种大忽悠无脑打钱的大傻子
a
aiyamayayongle
女大的芯片已经是电老虎了,这玩意儿估计不省电。
f
fibril
想起了昨天看小林说的Nikola的故事。感觉现在这些吹上天的AI软硬件有不少Nikola吧?
一生所爱
nakamoto 发表于 2024-03-14 23:29
虽然现在NVDA如日中天,AMD在后面拼命追赶,Sunnyvale的一个新兴的芯片公司Cerebras却已经悄悄地开始了新一轮的技术飞跃。
为啥是飞跃?把NVDA的芯片和Cerebras的芯片放在一起就一目了然了

Nvidia 最红的芯片大小是这样的 (白框里面那块黑的芯片)

Cerebras 的芯片是这样的。这一张晶片就是一个芯片

再看Cerebras的投资人,除了顶级的VC以外还有
OpenAI 的三大佬:Sam Altman, Greg Brockman, Illya Sutskever
OpenAI 董事 Adam D''''''''Angelo
谷歌第一个投资人,为Google起名字的大佬,Sun, Arista 等等公司的创始人之一,Andy Bechtolsheim
和几个科技界的元老级人物


硅谷的创新能力还是最强的,其它地方没法望其项背


搞笑吗?面积大了500多倍 速度快了8倍? 买它的人要亏死吧? 耗电量都不止8倍
j
jellynsyrup
一生所爱 发表于 2024-03-15 21:54
搞笑吗?面积大了500多倍 速度快了8倍? 买它的人要亏死吧? 耗电量都不止8倍

价格估计是xx倍吧
p
pops
这个大的个头,是放电视机里的么?
M
MegMegMeg
哇,算力看上去不错,其他数据呢,散热,功耗,材料损耗,制作工艺各方面的。面积大又没关系,反正放data center里面有的是地方。
d
dodgers
一个卖2-3百万,H100一个卖3万
m
min68
44g SRAM,懂的人不用看照片就知道cost和size了。 前几天牛x哄哄的groq也只敢用200多M,已经被骂死了。 https://mp.weixin.qq.com/s/FlqpV1n9dAmOh2SgzFY9Sg
v
vsfan
好像我有认识的人去那里干过 后来又回去AMD了
简单
别讨论硬件了,硬件是不可能一家独大的。nvda泡泡破不破关键是GPU + CUDA有没有竞争者?
n
nakamoto
搞笑吗?面积大了500多倍 速度快了8倍? 买它的人要亏死吧? 耗电量都不止8倍
一生所爱 发表于 2024-03-15 21:54

看清楚了,是57倍,不是500多倍。速度八倍是FLOPs不是training的速度。实际training的速度比H100快远远不止八倍
耗电量恰恰是这个大芯片的最大优点之一,因为同样的算力情况下大芯片的耗电量只有H100的百分之几。Nvidia H100 必须包装很多板子,这些板子非常耗电,而且这些板子互联又必须通过高速网关,路由器或者交换机。高速网关也很耗电。大芯片集成一大堆GPU在一块芯片上,大幅度减少了不同板子上GPU之间的数据传送,非常省电!
z
zojirushi
vsfan 发表于 2024-03-15 22:50
好像我有认识的人去那里干过 后来又回去AMD了

是不是现在加入的人 很有希望赶上IPO
z
zojirushi
nakamoto 发表于 2024-03-15 23:27
看清楚了,是57倍,不是500多倍。速度八倍是FLOPs不是training的速度。实际training的速度比H100快远远不止八倍
耗电量恰恰是这个大芯片的最大优点之一,因为同样的算力情况下大芯片的耗电量只有H100的百分之几。Nvidia H100 必须包装很多板子,这些板子非常耗电,而且这些板子互联又必须通过高速网关,路由器或者交换机。高速网关也很耗电。大芯片集成一大堆GPU在一块芯片上,大幅度减少了不同板子上GPU之间的数据传送,非常省电!

谢谢专业指点
S
SSBN826
芯片的良率=exp(-A*D) A: 芯片面积 D:产线缺陷率
当面积增加57倍,你先算一下良率会下降多少,然后想想这能不能量产赚钱。
l
littlestern
这么好, 市面上有卖吗? 没有得买卖, 就不是真得好吧?
n
nakamoto
SSBN826 发表于 2024-03-17 00:24
芯片的良率=exp(-A*D) A: 芯片面积 D:产线缺陷率
当面积增加57倍,你先算一下良率会下降多少,然后想想这能不能量产赚钱。

具体怎么做到,我也不是台积电的专家。但是在一篇2021年新闻里Cerebras就声称他们达到了100% yield。三年过去了,现在台积电的工艺只会更好。
The cores are connected with a 2D Mesh with FMAC datapaths. Cerebras achieves 100% yield by designing a system in which any manufacturing defect can be bypassed – initially Cerebras had 1.5% extra cores to allow for defects, but we’ve since been told this was way too much as TSMC's process is so mature.
https://www.anandtech.com/show/16626/cerebras-unveils-wafer-scale-engine-two-wse2-26-trillion-transistors-100-yield
再说了,他们有一流的VC投资,OpenAI 三位创始人都投了,很多芯片界的元老,比如Juniper Networks的创始人,也投资了。这种制程上问题肯定这些人 due dillegence 都会想到。
当然生产工艺能不能scale到大规模? 其它公司会不会赶上来?AMD的苏姿丰最近也说了芯片发展的方向是做大。也许这些公司也有秘而不宣的大芯片正在开发中。毕竟还是风险企业。



l
letgogogo
用英伟达是干活的,为啥要去用这玩意当小白鼠,费时费力