https://www.barrons.com/articles/ai-chip-stocks-microsoft-100-billion-ai-data-center-3bd3efaf?siteid=yhoof2&yptr=yahoo From Report Microsoft Plans a $100 Billion AI Data Center By Eric J. Savitz Follow
Updated April 01, 2024 1:25 pm EDT / Original April 01, 2024 12:28 pm EDT
https://github.com/vosen/ZLUDA FAQ Why is this project suddenly back after 3 years? What happened to Intel GPU support? In 2021 I was contacted by Intel about the development of ZLUDA. I was an Intel employee at the time. While we were building a case for ZLUDA internally, I was asked for a far-reaching discretion: not to advertise the fact that Intel was evaluating ZLUDA and definitely not to make any commits to the public ZLUDA repo. After some deliberation, Intel decided that there is no business case for running CUDA applications on Intel GPUs. Shortly thereafter I got in contact with AMD and in early 2022 I have left Intel and signed a ZLUDA development contract with AMD. Once again I was asked for a far-reaching discretion: not to advertise the fact that AMD is evaluating ZLUDA and definitely not to make any commits to the public ZLUDA repo. After two years of development and some deliberation, AMD decided that there is no business case for running CUDA applications on AMD GPUs. One of the terms of my contract with AMD was that if AMD did not find it fit for further development, I could release it. Which brings us to today. 提到 Zluda 是因为 “Nvidia CUDA applications can now run on AMD GPUs thanks to ZLUDA” https://www.xda-developers.com/nvidia-cuda-amd-zluda/ 问题也有：Windows Antivirus flags ZLUDA as malware. ZLUDA launcher (zluda.exe) uses some of the techniques used by malware, but for good. zluda.exe hijacks the process and redirects all uses of the original NVIDIA''s CUDA libraries to use ZLUDA''s CUDA instead. Don''t use zluda.exe with games that use anti-cheat. ZLUDA does not support CUDA gaming workloads (PhysX or DLSS) and anti-cheat might mistake zluda.exe for a malware or a cheat.
fridec2 发表于 2024-04-03 02:54 https://github.com/vosen/ZLUDA FAQ Why is this project suddenly back after 3 years? What happened to Intel GPU support? In 2021 I was contacted by Intel about the development of ZLUDA. I was an Intel employee at the time. While we were building a case for ZLUDA internally, I was asked for a far-reaching discretion: not to advertise the fact that Intel was evaluating ZLUDA and definitely not to make any commits to the public ZLUDA repo. After some deliberation, Intel decided that there is no business case for running CUDA applications on Intel GPUs. Shortly thereafter I got in contact with AMD and in early 2022 I have left Intel and signed a ZLUDA development contract with AMD. Once again I was asked for a far-reaching discretion: not to advertise the fact that AMD is evaluating ZLUDA and definitely not to make any commits to the public ZLUDA repo. After two years of development and some deliberation, AMD decided that there is no business case for running CUDA applications on AMD GPUs. One of the terms of my contract with AMD was that if AMD did not find it fit for further development, I could release it. Which brings us to today. 提到 Zluda 是因为 “Nvidia CUDA applications can now run on AMD GPUs thanks to ZLUDA” https://www.xda-developers.com/nvidia-cuda-amd-zluda/ 问题也有：Windows Antivirus flags ZLUDA as malware. ZLUDA launcher (zluda.exe) uses some of the techniques used by malware, but for good. zluda.exe hijacks the process and redirects all uses of the original NVIDIA''s CUDA libraries to use ZLUDA''s CUDA instead. Don''t use zluda.exe with games that use anti-cheat. ZLUDA does not support CUDA gaming workloads (PhysX or DLSS) and anti-cheat might mistake zluda.exe for a malware or a cheat.
谢谢科普，看来的确有人做这个。 Windows antivirus flag malware这个只是个建议而已。一般用到这种水平的人不会太相信malware的warning的。这个不是一个show stopper. .
英伟达 相当于2002年的思科
思科，相对于互联网 类似于 英伟达，相对于AI
科技领域， 都是一浪推一浪， 哪儿有一个风口就把猪永远吹上天的， 能吹几年就不错了
替NVDA招恨呢，硬工大多脚踏实地，股票涨了也很少到处炫耀的
标准石油 IBM
通吃整个行业的霸主
也许十年股价price in了呢。
openAI用英伟达的GPU，狗家用自家研制的TPU，TPU性能差太多，是狗家输给openAI的原因
多厂家打算用ASIC替换掉英伟达的GPU有近十年的历史了，已证明失败，后面还是失败。
现在的动力跟以往根本不是一个级别 英特尔和苹果就是一个很好的例子 只要有钱有动力 本质上没有挖不倒你墙角 / 填不平你护城河这个说法 无非是代价大小而已
你要知道企业跟个体不同 一个班上的高智力优等生就是差生无论如何拍马都追不上 但是公司不一样 公司里的人才和要素是流动的 数据也是可以窃取的 这些都是会扩散和转移的
一个做终端业务的公司 大家可以允许你垄断 比如谷歌垄断搜索 你影响的无非也就雅虎微软 但是你一个卖铲子的公司垄断 让一大帮下游的人都没法好好做生意 你就等着看超级企业同盟的出现吧 几大巨头微软亚马逊谷歌特斯拉英特尔台积电三星再加上沙特油爹华尔街犹太资本 就像Sam Altman说的凑7万亿出来 还干不出来你英伟达的竞品？把你核心工程师先给你挖干净
以前是做高阶硬件和高阶芯片油水不大，投资者都不热衷。近10年从手机到汽车到AI都要用高阶芯片所以一下子需求大变，只有三星和台积电就变的不够了，Intel也开始进来做芯片加工了。CPU之外的高阶芯片设计以前只有Nvidia和amd, 而且Nvidia做AI最早，所以现在一下子也变得供不应求。因为现在AI需要的硬件油水比较足，会导致其他公司涉足分瓜利益。
以前最好的例子就是中国的挖矿卡，比Nvidia的显卡还要高效省电。
英伟达的市盈率不高啊
绝大多数人不懂比特币和以太币（改制前）挖矿算法的区别。
比特币挖矿，专用矿机优于gpu，原因是比特币挖矿芯片设计很简单，我估计普通研究生水平就能设计出来。有钱让台积电生产就行，所以国内好几家做的。 以太币挖矿，理论上可以做出矿机优于gpu，但是一般厂商类似于比特大陆这种，没有能力开发，所以一直是gpu占优。
问过很多投资人，大家觉得有这个可能，第一次看到专业领域的人士也这么说
其实谷歌以前TPU就是算ASIC吧，alphafold训练的效率很高啊
还有比特币挖矿也是ASIC取代了GPU，英伟达彻底退出市场，现在挖矿的费电程度从总量和单位上都远远比AI要低了。所以GPU电量这个是需要考虑的
现在的问题就是ASIC能不能撑得住大模型这么复杂的算法
系统提示：若遇到视频无法播放请点击下方链接
https://www.youtube.com/embed/catzDBV6Rok
英伟达的方案比较省电对吗？
赞
NVDIA 的股票至少price in 一部分人“还能涨10年”的预期
你想的是省显卡钱，竞争对手想的是怎么吃你的business，革你的命。
英特尔思科2000年时市值都到过三千亿美元，而2000年的3000亿美元和现在2024年的三万亿应该是等同的。 所以英伟达在其市值的高点达到三万亿是非常正常的。 至于能否达到30万亿那只有神仙才能知道。
可能么？卖了国债全还上了
要动态的看，美国再过二三十年，国债200或300万亿不是不可能的，到时候就觉得30万亿是小 CASE. 就像2000年，债务上限是5万多亿美元，当时看10万20万亿肯定觉得是天文数字。现在不也是30多万亿了吗？
在这波AI兴起以前，市场规模不够大，所以一直无法形成商业正循环，无法不断的迭代升级，在商业逻辑上是亏钱的
现在的动力完全不同了。。
这个我不太同意，用于inference的确实可以这么干，但是对于training，还是需要general的，模型设计一日千里，有时候tensorflow/pytorch写的太死了，搞得人家都很痛苦。而且training才是更耗电的那个，当然你可以说train出来一个模型可以使劲跑inference，但是training本事还是很花费资源的。
主要是现在很多ML的软件要用到CUDA，这是NVidia的proprietary lib，只能用他们的显卡。但是如果AMD或者Intel显卡的软件跟上了，不是非用NVidia不可，微软和AMD已经在做了。
还是有成功案例的，比如比特币矿机（逃…）
为什么失败了呢？再有,英伟达是不是也可以搞 asic 呢？
好奇。eda领域给工程师工资怎么样？！有机会发财嘛？！
senior 大概40万 没法跟狗脸头部大厂比 但是WLB好（因为就整个行业就两家公司垄断）没有裁员压力 可以混比较久 因为是工业软件（靠软件本身卖钱而不是像互联网厂一样用软件做业务卖钱）而且要求稳定性极高（芯片design house不能容忍设计的时候软件出bug）所以EDA码农应该是相对来讲被AI淘汰最晚的一批程序员
所以性价比看你怎么评估互联网码农的风险了 用股票来类比的话 EDA码农类似KO 狗脸类似TESLA
补充：senior指terminal level，S家和C家的ladder title和互联网不一样
举个例子说明一下senior？40万在eda公司比较罕见吧
Synopsys principal 远没有40，phd +15 那种老年，虽然股票是涨了很多，但不发rsu, 就一点点espp, 不知道40怎么来的。
问题是苹果还是好好的啊，几十年了也没被替代
女大目前不可代替的唯一原因就是cuda，这个和现在的AI软件深度绑定，所以现在要train AI model就不得不用女大的显卡。
一直觉得AMD等其他造显卡的公司应该追的是软件，硬件女大再牛，隔两年也就赶上了，没有软件，就是造出来和女大一样厉害的硬件，没人用，不还是白搭
就像AMD的CPU一样，现在没准儿已经比Intel的厉害了，但是编译器和其他底层软件不行，就还是卖得不够好。
话说AI这一波还能撑多久？电车似乎已经过去了
你自己看喽 我说的不算
我的意思是苹果挖了intel的墙角 现在苹果已经没有intel的CPU了
硬工来了
EDA行业很吃经验，论资排辈严重，新人刚入门是不会有RSU的，越senior越值钱。如果是PhD+15 yoe这种level的，都是中坚力量，领导眼中的star performer, RSU是有的， 只是每年数额不像互联网公司一样固定。
Updated April 01, 2024 1:25 pm EDT / Original April 01, 2024 12:28 pm EDT
In this article MSFT NVDA AVGO AMD AMAT
赶紧腰斩吧
ASIC 算了吧 搞AGI没戏
两个护城河，一个是CUDA生态，这个成了行业标准，拦住了AMD,“，除非AMD能大大降低解决方案的成本 但是这个基本不了能 一个是 HBM 这个只有台积电能生产封装，而且专供Nvidia 所以唯一能分一杯羹的是AMD而且只能是边缘徘徊 那个所谓的什么Groq 就是个大骗子到处碰瓷，相信Groq之流的就是异想天开，等着打水漂吧
你这才是半懂不懂，ASIC设计一点都不简单，效率功耗很重要 而且当年这块赚钱赚的飞起Intel也搞了但是最终放弃了，ASIC相当于硬件编程，比较堆人工，所以美国没有一家搞挖矿芯片的 反而是中国台湾香港一堆搞挖矿芯片的。另外后期以太坊也是全被ASIC占领了，比显卡强太多了。ASIC最大问题是没法改算法，只要算法改变老芯片就废了。 同样是搞矿机，比特大陆比其他家性能好很多，这个领域属于设备先进的割设备差的人的韭菜，所以比特大陆是绝对统治地位。
比特币挖矿设计容易=所有asic设计容易？啥理解能力啊。 你给我说说哪个以太矿机比显卡强？还比显卡强太多？比特大陆是做过以太矿机，用的技术比显卡落后十年，没几个人用，你知道为什么吗？ 比特币和以太币挖矿，算法最大区别是啥知道么？
人家日本熊本的台積電一下就蓋好了 鳳凰城的呢 更不提亞洲人吃苦耐勞加班輪班沒生活的配合度
为社么ASIC就能打败GPU？Google, META, MSFT不都在搞吗？你看哪个能动摇NVDA的根基？
你怕是对Cisco 和Intel 的股票有什么误解
美光科技怎样？
也有听人推荐这家公司。
micron 是现在美国最大的存储公司了，但是现在dram和flash最领先的都是samsung 存储芯片即是high tech也是commodity，股价cycle的非常厉害，前一阵供大于求，亏损，现在预期需求会被AI带起来，所以估计涨的很多。
马克~~~~~~~~~~~~
高手出现，实际业绩会走的比较久远吗？不知道现在是出于cycle的哪里。
别不懂装懂了，比特币ASIC设计容易？你从哪里得出来结论？Intel当年投了那么多钱搞比特币ASIC矿机结果项目直接cut了，你牛你来设计？Bitmain的E9，2022年蚂蚁 E9，采用 ETH/ETC 的 Ethash 算法，算力 2400M，功耗 1920W，能效达 0.8J/M。蚂蚁 E9 挖矿效率相当于 25 块 RTX 3080 显卡 最初的E3他们都不对外卖，自己挖更赚钱 包括现在的E9 Pro是挖以太经典的主力矿机。3080 是400瓦，25张是1万瓦功率。不知道你是哪个体育老师教你的数学。 我做挖矿服务，电力系统多年，跟你这样的外行扯真是浪费时间。
AMD的软件没问题，但是缺乏的是生态，比如运维工程师，利用AMD ROCm开发的软件工具 软件工程师等等 这些都非常难找 大规模应用更是困难。 我们极力向客户推荐 MI300X就是没人要，H100系统贵很多，而且交货周期至少三个月 还是很多人订 这是没有办法的事情 好比Intel x86生态和Arm生态，现在ARM性能真的可以追赶甚至超越x86但是在Arm架构上做出一台游戏工作站或者图形工作站基本相当于不可能或者吃力不讨好。 所以我们最近推出的Qualcom Snapdragon X Elite AI PC 只能走商务教学等，没法做游戏。 游戏行业最近会利用AI PC升级NPG，做到因人而异的定制化体验，但是我们的AI PC游戏电脑要第四季度采用Intel的平台
你们不能做一个CUDA的translator的library吗？具体术语我不懂，就是compile有Cuda代码的时候，换成你们的library，有很多种方法。一种是在code level直接换成相近的function，一种是加一个layer，看上去是call cuda,里面是call你们 library的function。应该都不会损耗任何效率。
感觉做一个优秀的产品，和其他产品的兼容性也很重要。
做为mu的长期投资者，mu刚被upgrade，季报时说订单已经到年底
前几年希望msft到200刀，现在希望mu也到吧。 另外的amat现在也在200刀附近
记得当初Steve Jobs要全资收购ARM, ARM不干转身卖给软银。 否则以Jobs尿性， 一旦拥有ARM别人都别玩了。 Apple是ARM创始股东， 后来公司财务危机卖掉了所有arm原始股份. 早年DEC分解时， CPU这部分去了Intel， 包括StrongARM团队。 这批人在Intel不得志后出来单干建公司， Jobs马上与这帮人合作。 不久Intel把StrangARM专利卖给了一老中公司。Jobs决定要自己设计CPU后， 收购了这小公司和另一家arm授权的小公司， 一切从头开始。 Jobs没能看到最后结果， 收购ARM失败也是少数Jobs想要而得不到东西之一。如果Jobs今天还健在， 估计他也会扑上去。
业内人士， 多谢指点。
现在是历史高位，感觉现在AI的泡沫很大。
并没有带来改变工业方式那么大的变革。AI目前的价值创造和原先大家所预想的工业革命不大一样。
Amrk
这个蛋扯大了，不懂不要乱说好吧
英伟达revenue是苹果的16%，net income是苹果的30%，市值是苹果的85%，如果以苹果股价为标杆，股价再翻十倍意味着什么，光靠AI芯片是不可能的
这个有点扯了。
HBM是三星，SK和美光砸钱搞出来的。不可能专供英伟达。美光股价暴涨就是它HBM生意太好了。话说英特尔这公司真是搞什么砸什么。不仅ARM被扔掉，本来英特尔也和美光联合研发HBM。英特尔不知为什么不看好，几年前让美光买断了HBM的JV。
至于CUDA，最后肯定会被破的。AMD可以开源。而且微软亚麻脸书等等大佬们也不可能长期忍受CUDA独家封闭式系统。
https://github.com/vosen/ZLUDA
FAQ
Why is this project suddenly back after 3 years? What happened to Intel GPU support?
In 2021 I was contacted by Intel about the development of ZLUDA. I was an Intel employee at the time. While we were building a case for ZLUDA internally, I was asked for a far-reaching discretion: not to advertise the fact that Intel was evaluating ZLUDA and definitely not to make any commits to the public ZLUDA repo. After some deliberation, Intel decided that there is no business case for running CUDA applications on Intel GPUs.
Shortly thereafter I got in contact with AMD and in early 2022 I have left Intel and signed a ZLUDA development contract with AMD. Once again I was asked for a far-reaching discretion: not to advertise the fact that AMD is evaluating ZLUDA and definitely not to make any commits to the public ZLUDA repo. After two years of development and some deliberation, AMD decided that there is no business case for running CUDA applications on AMD GPUs.
One of the terms of my contract with AMD was that if AMD did not find it fit for further development, I could release it. Which brings us to today.
提到 Zluda 是因为 “Nvidia CUDA applications can now run on AMD GPUs thanks to ZLUDA”
https://www.xda-developers.com/nvidia-cuda-amd-zluda/
问题也有：Windows Antivirus flags ZLUDA as malware.
ZLUDA launcher (zluda.exe) uses some of the techniques used by malware, but for good. zluda.exe hijacks the process and redirects all uses of the original NVIDIA''s CUDA libraries to use ZLUDA''s CUDA instead. Don''t use zluda.exe with games that use anti-cheat. ZLUDA does not support CUDA gaming workloads (PhysX or DLSS) and anti-cheat might mistake zluda.exe for a malware or a cheat.
现在全世界只有台积电可怜的几条Cowos封装线能封装HBM，而且产能基本被NVIDIA包圆了。SK, Micron, Samsung能设计但是没法生产。你以为现在GPU瓶颈卡在哪里呢？随便找个娃为的吹子用嘴就造出AI GPU了？
关于CUDA，行业内来个“砖家”就觉得我们马上平行替代就行了。问题是十几年积累的人才工具社区标准，你打算一天还是一年来替换？且不说微软 google amazon Intel AMD 这些都各怀鬼胎有的还得讨好NVIDIA等着赏几张显卡。
大家都想动CUDA的蛋糕，可惜目前谁也没实力没决心去搞，等你埋头搞反CUDA算法的时候别人已经训练出AGI了
Mark，女大王，美光
谢谢科普，看来的确有人做这个。
Windows antivirus flag malware这个只是个建议而已。一般用到这种水平的人不会太相信malware的warning的。这个不是一个show stopper. .