我很难理解之前为什么有人会觉得CUDA是nvidia的护城河。 CUDA终究是软件,中国找一万个工程师,每人年薪百万,搞五年,怎么都搞出来了啊。算算这才500亿人民币而已,怎么护得住几万亿美元的市值。 ljmdtc 发表于 2025-02-03 04:45
niuniu007 发表于 2025-02-03 05:54 这么说,最大输家是老黄 ai公司只会获益,不需要那么贵硬件,还能deliver同样或者更好软件
ljmdtc 发表于 2025-02-03 04:45 我很难理解之前为什么有人会觉得CUDA是nvidia的护城河。 CUDA终究是软件,中国找一万个工程师,每人年薪百万,搞五年,怎么都搞出来了啊。算算这才500亿人民币而已,怎么护得住几万亿美元的市值。
qiminxin 发表于 2025-02-03 09:18 是的,deepseek出来,欧洲印度忽然都觉得自己的AI也行起来了。 中国赚没赚到钱不重要,确保美国赚不到钱很重要。
redalert777 发表于 2025-02-02 19:34 中国初创企业深度求索(DeepSeek)研发大语言模型时据报绕过了美国人工智能巨头英伟达的CUDA框架,为DeepSeek在未来适配国产晶片做好准备。 由英伟达开发的软硬体整合技术“统一计算架构”(Compute Unified Device Architecture,CUDA)一种通用编程框架,允许开发者利用英伟达的图形处理器(GPU)进行计算。 由于CUDA大大降低了研发大模型的难度,因此全球大模型开发商都倾向选择使用英伟达的CUDA技术,助力英伟达占据全球人工智能领域的垄断地位。 然而,据美国科技网站Tom’s Hardware报道,韩国未来资产证券在对DeepSeek技术论文进行分析时发现,该模型的硬件效率之所以能比Meta等高出10倍,因为“他们从头开始重建了一切”。 分析指出,DeepSeek在使用英伟达的H800晶片进行训练时,使用了英伟达的PTX(Parallel Thread Execution)语言,而不是CUDA。
暴露的太早了,美国已经发现中国从新加坡中东等地进口大量GPU,Alex说的deep seek用了五万张H100大概不是空穴来风。下面马上要按国家限量购买GPU了,美国的盟国除外。老黄估计在骂娘 daremighty 发表于 2025-02-03 14:11
eda2k4 发表于 2025-02-03 14:22 为啥又变成了“传*正准备”?前几天说的是已经用华为做inference了,难道是training也用华为?
suwa 发表于 2025-02-03 10:13 这东西全国人民敲键盘都不给力。 自古攻Nvidia CUDA两条路,第一是正大光明地去拆河,工具是OpenCL。 https://www.khronos.org/members/list 村里最强悍拆迁队,各路高手都到齐了村里最强壮,黄老板也扛着锄头在革命队伍里面。 拆了十五年,这河面没有变窄。OpenCL革命队伍里面有美国众硬软大厂,世界级巨头,美国政府主力科研单位。 这种场合绝对少不了中国三剑客华为腾讯清华,够强大了,大家一起去拆黄老板的护城河。到今天AI主力软件Google Brain TensorFLow (Hinton因此获得图灵奖和诺贝尔物理奖)和小扎到PyTorch 只对OpenCL有限支持。这就麻烦了。 上路打不通就走下路,玩底层模拟Nvidia GPU,从此可以跑CUDA和上层建筑,像开源项目zLUDA. 这名声不好,现在AMD Intel撤出起始支持,据说另有大厂后面支持。 玩模拟跑CUDA 实际上加固了黄老板的护城河。 一大帮拆迁队白天拆河, 晚上有人渡河干活。 所以黄老板还在城门上秀拉面扭秧歌。
minqidev 发表于 2025-02-03 13:56 回复 12楼 的帖子 ,昨天梁文峰接受采访时说,他们做Deepseek 的把英伟达显卡研究了遍。他觉得对他来说,没什么技术难度。 这家伙怎么这么厉害?怎么不早点去研究光刻机,那还有什么制裁的事。 还有,最近他收到了37个美国会议的邀请😂,该不该去
mtwash 发表于 2025-02-03 09:47 老黄真难,这边政客逼着他不卖,那边往死了拼要扶持华为昇腾GPU。如果没有这些外力,这些市场应该是老黄轻松全拿的。
minqidev 发表于 2025-02-03 14:25 那些显卡和DeekSeek没关系。主要是用来打游戏。真正高端显卡都在马斯克,Meta,微软, OpenAI, 甲骨文手里,其他人手里得都是渣滓了。
你知道光是新加坡就占女大15%的销售额吗?那么个弹丸之地有多少数据中心?H100基本上除了美国就是中国最多,全是偷运的。Alex Wang对中国这些AI公司很了解,Deep Seek其实就是在H100上搞出来的。 daremighty 发表于 2025-02-03 15:07
daremighty 发表于 2025-02-03 15:07 你知道光是新加坡就占女大15%的销售额吗?那么个弹丸之地有多少数据中心?H100基本上除了美国就是中国最多,全是偷运的。Alex Wang对中国这些AI公司很了解,Deep Seek其实就是在H100上搞出来的。
ca563 发表于 2025-02-03 14:47 都有孟晚舟这个前车之鉴了,还敢来?不怕被抓起来吗?
美颜盛世 发表于 2025-02-03 15:24 洋大人说给他们发绿卡,还怕他们不来美国吗?
weiyixia 发表于 2025-02-03 15:15 有人下载deepseek在4080上就能运作。看来根本不需要很高级的芯片。
Harenough 发表于 2025-02-03 15:28 在什么地方放的录像? 有链接吗?
eda2k4 发表于 2025-02-03 16:03 Inference肯定不需要太高级的gpu,这个大家都可以验证的,现在说的是当初咋training出来的
因为,所有人都觉得用CUDA开发就好了。 主要是为了方便。
还有,就是目前大量的Open Source都是基于CUDA. 不想这次幻方量化,从一开始就绕过的,所以才能这个性能。
即使是现在,很多人还是质疑,是不是只有一小部分是绕过。 还有更多人,还存在幻想,即使是用PTX,也还是在NVIDIA显卡上。
为什么几万亿市值? 因为这几万亿市值,都是基于大家都会用CUDA的基础上的,比如原来只需要1000亿显卡,因为大家都用CUDA,现在需要1万亿显卡。 也就是说,如果你用META的开源代码,因为Meta训练,显卡的使用就是CUDA上。按现有条件,就需要1万亿。如果你用DeepSeek只需要1000亿。该怎么干,你自己可以选择。资本家不是傻瓜,这一万亿我可以投资其他东西。
假设,之前资本家投资了5000亿,把市值炒到了1万亿。前提就是,硬件成本再低也要4000亿。 但是现在DeepSeek,训练成本,撑死了100亿(虽然DeepSeek说只要600万,我们就乘以5000),你自己算泡沫就是。
ai公司只会获益,不需要那么贵硬件,还能deliver同样或者更好软件
是的,deepseek出来,欧洲印度忽然都觉得自己的AI也行起来了。
中国赚没赚到钱不重要,确保美国赚不到钱很重要。
这东西全国人民敲键盘都不给力。 自古攻Nvidia CUDA两条路,第一是正大光明地去拆河,工具是OpenCL。 https://www.khronos.org/members/list 村里最强悍拆迁队,各路高手都到齐了村里最强壮,黄老板也扛着锄头在革命队伍里面。 拆了十五年,这河面没有变窄。OpenCL革命队伍里面有美国众硬软大厂,世界级巨头,美国政府主力科研单位。 这种场合绝对少不了中国三剑客华为腾讯清华,够强大了,大家一起去拆黄老板的护城河。到今天AI主力软件Google Brain TensorFLow (Hinton因此获得图灵奖和诺贝尔物理奖)和小扎到PyTorch 只对OpenCL有限支持。这就麻烦了。
上路打不通就走下路,玩底层模拟Nvidia GPU,从此可以跑CUDA和上层建筑,像开源项目zLUDA. 这名声不好,现在AMD Intel撤出起始支持,据说另有大厂后面支持。 玩模拟跑CUDA 实际上加固了黄老板的护城河。 一大帮拆迁队白天拆河, 晚上有人渡河干活。 所以黄老板还在城门上秀拉面扭秧歌。
中国赚没赚到钱不重要,确保美国赚不到钱很重要。
这是金句
据说有deepseek辅助只用了48小时就移植成功了。华为的gpu比nvda的算力降了5%,成本又降了70%。
,昨天梁文峰接受采访时说,他们做Deepseek 的把英伟达显卡研究了遍。他觉得对他来说,没什么技术难度。
这家伙怎么这么厉害?怎么不早点去研究光刻机,那还有什么制裁的事。
还有,最近他收到了37个美国会议的邀请😂,该不该去
搞不好CUDA就是骗用户买GPU的,这回露馅了。LOL
老印是憋着一股劲的,当年一个投资大会上,老印投资者问sam,我们印度人可不可以独立搞出这种AI
sam那个一脸鄙夷啊, 直接说:对不起,你们搞不出。
那些显卡和DeekSeek没关系。主要是用来打游戏。真正高端显卡都在马斯克,Meta,微软, OpenAI, 甲骨文手里,其他人手里得都是渣滓了。
R2,只在华为上面训练。
美国资本家利益和NVIDIA深度捆绑,谁敢真的去拆护城河?做做样子然后投降,体现NVIDIA的牛逼而已
都有孟晚舟这个前车之鉴了,还敢来?不怕被抓起来吗?
不用考虑那么多,老黄是做芯片的,只要芯片做的最好就没问题。
护城河是自由市场的概念, 大家都遵循一个规则发展, 如果一家有优秀解决方案, 就可以在上面建立生态获利, 不是说别人追不上, 而是追起来实在不划算, 多花很多钱又不一定能超越, 这就形成了成本上的护城河
现在AI都是中美科技战主战场了, 一方都奔着彻底扼死对方去, 追击成本护城河什么的都不值一提,这种环境相当于给落后方加个破釜沉舟追赶buff
你知道光是新加坡就占女大15%的销售额吗?那么个弹丸之地有多少数据中心?H100基本上除了美国就是中国最多,全是偷运的。Alex Wang对中国这些AI公司很了解,Deep Seek其实就是在H100上搞出来的。
台湾也差不多有15%。 H100最多肯定在美国。也就是说,美国公司有这么多H100却搞不出来,是什么原因?说明根本原因不是硬件,是思维。
护城河是以CUDA为基础的生态。。。
而不是CUDA这个软件
Alex Wang话毫无可信度,他还叫嚣过中国起重机是间谍装置,为了个人利益此人可以说任何慌。
洋大人说给他们发绿卡,还怕他们不来美国吗?
在什么地方放的录像? 有链接吗?
国内的billionaire还稀罕绿卡吗?
Inference肯定不需要太高级的gpu,这个大家都可以验证的,现在说的是当初咋training出来的
抖音有他的采访阿, 然后大家后知后觉。 之前,开源DeepSeek,是问了国家总理意见才开源的。
再考虑到当时因为英伟达说要去越南建厂,中国不知道为什么说要调查英伟达,当时大家都骂中国政府不懂。其实,目前看来,中国很多东西,大致上都有底了。 肯定比不上美国,但是还是能保证AI发展的。
训练不能靠硬件堆。 我听梁文峰的说法,大概就是。 如果过于堆硬件,到了后来,就会一个转折点。你硬件传输的速度,反而低于GPU的处理速度了。
如果,硬件直接的传输问题没有特别大的推动的话,目前堆硬件意义远比上考虑软件层,模型架构的改善。