OpenAI = 不赚钱的IBM, Deepseek = 小型机或者贵的Mac

d
dodgers
楼主 (北美华人网)
以前IBM的mainframe业务,普通人没法玩。后来苹果个人电脑出现, 市场都转向个人电脑了。微软趁机搞了个操作系统控制个人电脑,INTC搞了个人CPU. 结果IBM完了。

OpenAI用了大笔钱搞了mainframe类似,操作系统也是封闭的。类似以前的IBM。

现在Deepseek一套硬件50万刀说不定能做,操作系统免费,随着硬件价格下降,软件速度变快,慢慢说不定1万不到就能有个人AI机器,运行Deepseek或者类似的操作系统,OpenAI怎么竞争?
为了信息安全,恐怕很多家庭也不见得愿意每个月付费给OpenAI类似的公司,不如花钱买个个人AI机器,配置免费的操作系统,自己家的数据也不多,存在自己家就行,经常再更新下操作系统把最新的发展下载。
b
babylye
今天同事就用了一模一样的比喻,吓我一跳,还以为同事也来华人呢! 他是老美,哈哈
s
sallyyy
英雄所见略同,前几天家里讨论我就这样说了 有点类似以前的IBM大服务器 和 个人电脑 的意思
y
yangcongtou
回复 1楼 dodgers 的帖子
完全同意楼主的分析!
S
Silverwing
再等等能等出个AI届的个人PC 然后大家一人一台, 到最后人手一个AI脑手机 信息革命2.0 走一遍
y
yangcongtou
Silverwing 发表于 2025-01-31 13:42
再等等能等出个AI届的个人PC 然后大家一人一台, 到最后人手一个AI脑手机 信息革命2.0 走一遍

这是个思路
平明寻白羽
现在Anthropic AI CEO 强调要加强出口管控,并大力投入资源。他的论点是美国必须抢先搞出 AGI,ASI, 是国力倍增器。中国先搞出来就game over 了。
上升到意识形态之争的高度了。
w
wa8445
Silverwing 发表于 2025-01-31 13:42
再等等能等出个AI届的个人PC 然后大家一人一台, 到最后人手一个AI脑手机 信息革命2.0 走一遍

我打赌,今年内就会有配置好deepseek的PC/Mac对消费者出售。谁抢了这个先机,说不定就是下一个苹果。
a
aegeanboat
Deepseek 和openai 到底有什么不同?是训练数据的方法不同,数据来源不同,硬件需求不同,还是别的什么?
b
bb5
有没有可能未来每家每户都有个 DS, 统管所有智能 设备,就像升级的 Alexa / Siri /...
平明寻白羽
Deepseek 和openai 到底有什么不同?是训练数据的方法不同,数据来源不同,硬件需求不同,还是别的什么?
aegeanboat 发表于 2025-01-31 14:03

Open AI 的研究人员在deepseek r1出来以后说ds独立发现了他们已经发现的reinforced learning 。
所以,可能本质上应该差别不大。都走到了AI recursive reason阶段。 Open AI 资源充足,底层LLM base model 可能参数更多,训练更好。所以推理端也比deepseek r1稍微领先一些。
我们仨
平明寻白羽 发表于 2025-01-31 14:22
Open AI 的研究人员在deepseek r1出来以后说ds独立发现了他们已经发现的reinforced learning 。
所以,可能本质上应该差别不大。都走到了AI recursive reason阶段。 Open AI 资源充足,底层LLM base model 可能参数更多,训练更好。所以推理端也比deepseek r1稍微领先一些。

那openai应该免费赔钱抢市场,用户是有粘性的,今天赔的钱就是明天生钱的种子。
h
helloterran4
wa8445 发表于 2025-01-31 13:57
我打赌,今年内就会有配置好deepseek的PC/Mac对消费者出售。谁抢了这个先机,说不定就是下一个苹果。

还要年底?现在已经上线了
https://www.pcworld.com/article/2593957/microsoft-ports-deepseeks-ai-to-copilot-pcs-and-their-npus.html
但是他们蹭这个热度没有用
DeepSeek. DeepSeek的根本逻辑就是反中心化的,也就是根本不依赖所谓portal或者release版本。大公司不可能把deepseek变成绑定自己产品的增值feature
h
helloterran4
Open AI 的研究人员在deepseek r1出来以后说ds独立发现了他们已经发现的reinforced learning 。
所以,可能本质上应该差别不大。都走到了AI recursive reason阶段。 Open AI 资源充足,底层LLM base model 可能参数更多,训练更好。所以推理端也比deepseek r1稍微领先一些。
平明寻白羽 发表于 2025-01-31 14:22

这就是不要脸
你说你先发现的,你的技术报告呢?你的论文呢?最不济你的blog post呢?
什么都没有,被打脸了就出来挽尊 “儿子打老子,我们早就知道了”。
不要脸
k
kriswu
不用一万,不用未来,现在6000就能搞定了,以后还会更便宜 https://www.reddit.com/r/LocalLLaMA/comments/1ic8cjf/6000_computer_to_run_deepseek_r1_670b_q8_locally/?share_id=6DRFsQOvztXfkau-kgaPq&utm_content=1&utm_medium=ios_app&utm_name=ioscss&utm_source=share&utm_term=14
f
fitfitfit
现在MAC studio配M4就能跑Deepseek,以后OAI很难垄断市场了
d
dodgers
kriswu 发表于 2025-01-31 16:14
不用一万,不用未来,现在6000就能搞定了,以后还会更便宜 https://www.reddit.com/r/LocalLLaMA/comments/1ic8cjf/6000_computer_to_run_deepseek_r1_670b_q8_locally/?share_id=6DRFsQOvztXfkau-kgaPq&utm_content=1&utm_medium=ios_app&utm_name=ioscss&utm_source=share&utm_term=14

估计速度还不行,随着硬件tailor to AI或者DS之类的open source, 速度会提高很快
L
LamourEstIci
fitfitfit 发表于 2025-01-31 16:26
现在MAC studio配M4就能跑Deepseek,以后OAI很难垄断市场了

DeepSeek R1 14B在配备 16GB RAM 的 M4 Pro 芯片上运行表现良好

ollama run deepseek-r1:14b
f
foreverf
回复 1楼 dodgers 的帖子
玩还行,真是工作不能只考虑价格,可靠性也很重要。 不知道花钱版的deepseek如何,免费版太卡太慢了。
w
wmn
foreverf 发表于 2025-01-31 17:01
回复 1楼 dodgers 的帖子
玩还行,真是工作不能只考虑价格,可靠性也很重要。 不知道花钱版的deepseek如何,免费版太卡太慢了。

你还是走错了方向
以后是你们公司自己有一个deep seek,用你们公司的domain knowledge专门training 出来的 世界上不会再有一个中心server啦
如果老公handy的话,还可以给家里弄一个你们自己的deep seek,你们夫妻自己吵架用
你们的孩子也可以自己弄一个deep seek,做自己的事,不让父母看见。
M
MegMegMeg
平明寻白羽 发表于 2025-01-31 14:22
Open AI 的研究人员在deepseek r1出来以后说ds独立发现了他们已经发现的reinforced learning 。
所以,可能本质上应该差别不大。都走到了AI recursive reason阶段。 Open AI 资源充足,底层LLM base model 可能参数更多,训练更好。所以推理端也比deepseek r1稍微领先一些。

reinforcement learning 也不是什么新算法,并不是这两家发明的,只不过以前并没有用来大规模锤LLM,以为LLM一个token一个token地吐,每个token都要reinforcement learning iteratively地跑很多遍才吐的话太慢了。后来DS发现其实也不慢,一边吐一边update慢慢就不需要跑很多遍了。
我赶脚这个DS会开启一个先河,就跟山寨机一样, 胜在便宜啊,你非要说啥苹果手机通信质量高,BER小那么几个percent,绝大用户不care。所以封了AI chips export没用的,DS的小模型可以在华为上跑就够了,GPT以后的各种fancy feature,速度快那么几秒钟,大部分用户也不care。
k
kriswu
估计速度还不行,随着硬件tailor to AI或者DS之类的open source, 速度会提高很快
dodgers 发表于 2025-01-31 16:27

只是run模型不是训练,并不需要速度多快,瓶颈在显存
m
mylifetouch
dodgers 发表于 2025-01-31 13:32
以前IBM的mainframe业务,普通人没法玩。后来苹果个人电脑出现, 市场都转向个人电脑了。微软趁机搞了个操作系统控制个人电脑,INTC搞了个人CPU. 结果IBM完了。

OpenAI用了大笔钱搞了mainframe类似,操作系统也是封闭的。类似以前的IBM。

现在Deepseek一套硬件50万刀说不定能做,操作系统免费,随着硬件价格下降,软件速度变快,慢慢说不定1万不到就能有个人AI机器,运行Deepseek或者类似的操作系统,OpenAI怎么竞争?
为了信息安全,恐怕很多家庭也不见得愿意每个月付费给OpenAI类似的公司,不如花钱买个个人AI机器,配置免费的操作系统,自己家的数据也不多,存在自己家就行,经常再更新下操作系统把最新的发展下载。

这个是趋势。但是deepseek并没有达到那个程度
a
aegeanboat
我有一个不理解哈。如果一个模型只是训练到2023年,那我问它一个2024年的总统是谁,它不会自己上网找吗?难道LLM不会学习新的知识吗?
s
suixin111
为什么人人需要一个?
o
oohhh
平明寻白羽 发表于 2025-01-31 14:22
Open AI 的研究人员在deepseek r1出来以后说ds独立发现了他们已经发现的reinforced learning 。
所以,可能本质上应该差别不大。都走到了AI recursive reason阶段。 Open AI 资源充足,底层LLM base model 可能参数更多,训练更好。所以推理端也比deepseek r1稍微领先一些。

他们的话你信吗?反正我是信了,哈哈。
金银岛
aegeanboat 发表于 2025-01-31 18:01
我有一个不理解哈。如果一个模型只是训练到2023年,那我问它一个2024年的总统是谁,它不会自己上网找吗?难道LLM不会学习新的知识吗?

刚试了下deepseek,说它的知识截止日期是23年10月,在截止时间时是拜登
S
Silverfox1
卷到最后就是AI统一世界啦,拭目以待。
m
minqidev
回复 27楼 金银岛 的帖子
你可以试试chat gpt O1, 只有2021年,所以chat gpt和Deepseek有相同思考单位还落后两年。
即使最新的chat got o3也只训练到2021年。
也就是说,如果你没有Deepseek搜集技术和处理数据的能力,你完全训练完有O1和R1的模型时间需要1年半以上。 而DeepSeek只需要2个月。