疯了!阿里推出32B的AI可在家用电脑上跑,超越deepseek性能!

楼主 (北美华人网)
deepseek要在服务器上跑的AI需要670B,阿里巴巴居然做出32B的AI就可以比肩,每个人家里电脑有GPU加上32gb内存就能跑!这些都是满血顶尖AI性能啊,AI速度发展太快了。
现在AI活生生的被搞成白菜价了。nvidia的铲子以后的销量会进一步压缩,而且AMD新的cpu和苹果的电脑现在可以轻轻松松跑这个AI model。
对于人类不是好事,超级便宜的顶尖AI也意味取代人类工作的成本太划算了。
c
cloudy
中国AI这个发展速度和民间普及度,很快就要把其他国家甩在后面 以后中国人民真的要生活在未来世界了
贝贝妈2008
中国各方面都超前,铲菜机器人什么的 都在店里用了。
L
LiuX
我真是一个淫魔 我以为是32B的智能机器人... 我想设计师怎么想的胸做得这么小
a
anw
睿 发表于 2025-03-06 07:19
deepseek要在服务器上跑的AI需要670B,阿里巴巴居然做出32B的AI就可以比肩,每个人家里电脑有GPU加上32gb内存就能跑!这些都是满血顶尖AI性能啊,AI速度发展太快了。
现在AI活生生的被搞成白菜价了。nvidia的铲子以后的销量会进一步压缩,而且AMD新的cpu和苹果的电脑现在可以轻轻松松跑这个AI model。
对于人类不是好事,超级便宜的顶尖AI也意味取代人类工作的成本太划算了。

几年前我的电脑就可以跑 18b 的,GPU 1060 4G. 就是慢
M
Mingnisudaxue
阿里就算了。你不能指望这种公司有任何创新。同理包括百度,谷歌,苹果,meta...
Mingnisudaxue 发表于 2025-03-06 08:23
阿里就算了。你不能指望这种公司有任何创新。同理包括百度,谷歌,苹果,meta...

阿里绝对是中国AI最厉害的,deepseek蒸馏一部分也是在阿里AI上做的。deepseek没有出来前,阿里的AI是全球大学研究人员用的最多的AI,几乎所有的paper都是用阿里的AI。

阿里AI吊打openai的sora,看看下面比较就知道了。阿里的确在普通老百姓宣传上太低调了,不过别人走的完全是另一个赛道。
🚨OPENAI’S ‘SORA’ VS. ALIBABA’S ‘QWEN-2.5’ – A VAST GAP?

🔹User compares Sora (AI video generation) vs. Qwen-2.5 (LLM), calling it like “a bike vs. a starship”.

🔹Sora excels in generating realistic videos, while Qwen-2.5 focuses on AI language tasks.

🔹Highlights significant… pic.twitter.com/cfyuGoTEOH — Info Room (@InfoR00M) January 30, 2025

系统提示:若遇到视频无法播放请点击下方链接
https://x.com/InfoR00M/status/1885042617035219317
M
Mingnisudaxue
睿 发表于 2025-03-06 08:38
阿里绝对是中国AI最厉害的,deepseek蒸馏一部分也是在阿里AI上做的。deepseek没有出来前,阿里的AI是全球大学研究人员用的最多的AI,几乎所有的paper都是用阿里的AI。

阿里AI吊打openai的sora,看看下面比较就知道了。阿里的确在普通老百姓宣传上太低调了,不过别人走的完全是另一个赛道。
🚨OPENAI’S ‘SORA’ VS. ALIBABA’S ‘QWEN-2.5’ – A VAST GAP?

🔹User compares Sora (AI video generation) vs. Qwen-2.5 (LLM), calling it like “a bike vs. a starship”.

🔹Sora excels in generating realistic videos, while Qwen-2.5 focuses on AI language tasks.

🔹Highlights significant… pic.twitter.com/cfyuGoTEOH — Info Room (@InfoR00M) January 30, 2025

系统提示:若遇到视频无法播放请点击下方链接
https://x.com/InfoR00M/status/1885042617035219317

得了吧,openAI推出之前,阿里连赛道在哪都不知道。
s
suwa
确定不是蒸馏产品?
H
Harenough
Mingnisudaxue 发表于 2025-03-06 08:42
得了吧,openAI推出之前,阿里连赛道在哪都不知道。

就是说open AI 是第一个推出来LLM, 以后其他的模型就是再怎么好,美国的,中国的,
你都可以用这个“得了吧” 来回应? 是不是这个思路?
Mingnisudaxue 发表于 2025-03-06 08:42
得了吧,openAI推出之前,阿里连赛道在哪都不知道。

的确gpt model是openai在2018年推出的,可是那时候中国AI已经是全世界研究和应用最强的。openai做出gpt2的时候,中国也只是在gpt model上差半年而已,现在已经完全超越。谈过去可以,可是拿过去和现在比一点意义都没有。
l
lnghng
有两亇赛道,一个是open source, 一个是close, private的,以前open source是meta最强,现在中国超过了。close,private的几个中open ai的o3还是稍领头,但它那个很贵,绝大部分人用不起,性价比不高。接下来的个几乎不分伯仲,就是这二周A第一,下两周B第一,中国的open source和这几个close的巳在同一个位置上。而且openai的o3也就是好那么一点点,估计也就差亇一两亇月的研发时间。说穿了,就是竞争非常白热化。
M
Mingnisudaxue
睿 发表于 2025-03-06 08:56
的确gpt model是openai在2018年推出的,可是那时候中国AI已经是全世界研究和应用最强的。openai做出gpt2的时候,中国也只是在gpt model上差半年而已,现在已经完全超越。谈过去可以,可是拿过去和现在比一点意义都没有。

这个差半年的说法是百度自称的,现在百度在哪呢?连deepseek的尾灯都看不到。
僵化的大公司在创新方面永远比不上deepseek, openAI之类的小公司。
连微软的印度CEO都看到了这一点,所以他宁愿给OPENAI投钱,也不愿意给微软自己投钱。
N
Namama
得了吧,openAI推出之前,阿里连赛道在哪都不知道。
Mingnisudaxue 发表于 2025-03-06 08:42

OpenAI出现前的AI主赛道是图像识别/语音识别啥的,阿里当时也是很领先的
千渔千寻
回复 1楼 睿 的帖子
所以别人要来读AI博士,我都劝退,一片红海啊。前几年一堆大妈还在吹嘘AI博士高端。
我早看出来了,这种创新是颠覆式创新,也叫破坏式创新,一波起来前面做老方法的人就要去吃屎。所以别人琢磨转行AI的时候,我根本都不鸟。
a
aegeanboat
32B是啥意思?和36D比起来如何?
Mingnisudaxue 发表于 2025-03-06 12:30
这个差半年的说法是百度自称的,现在百度在哪呢?连deepseek的尾灯都看不到。
僵化的大公司在创新方面永远比不上deepseek, openAI之类的小公司。
连微软的印度CEO都看到了这一点,所以他宁愿给OPENAI投钱,也不愿意给微软自己投钱。

百度有没有说我不清楚,差半年是ChatGPT出来后中美AI业界公认的,去年下半年也这么说。
千渔千寻 发表于 2025-03-06 12:40
回复 1楼 睿 的帖子
所以别人要来读AI博士,我都劝退,一片红海啊。前几年一堆大妈还在吹嘘AI博士高端。
我早看出来了,这种创新是颠覆式创新,也叫破坏式创新,一波起来前面做老方法的人就要去吃屎。所以别人琢磨转行AI的时候,我根本都不鸟。

哪里红海了?现在AI博士非常吃香,CS的确比较差。
aegeanboat 发表于 2025-03-06 12:47
32B是啥意思?和36D比起来如何?

这个AI模型有32 billion 参数,deepseek满血版是670 billion参数,参数越高硬件要求越高。
小橙瓶
这个叫qwq,
它的32B模型有20G大小, 不上5080以上就别想了, 显存不够内存来凑,越凑越不够!
其他模型也早就有了,只是你没去关注
我自己机子上跑的qwen2.5 14B 模型也够用了