不会CUDA,请问有必要买GPU吗?

m
microsat
楼主 (北美华人网)
请问如果不会用CUDA,是不是就不应该买GPU呢?
什么机器学习的算法不需要GPU? Logistic regression,需要GPU吗? NN是需要GPU的。
h
heartinny
都可以不要GPU,就是慢的得等的时间起码以月计。
初学不需要gpu.
以后需要gpu也不需要会Cuda,很多library都是高层编码,不需要直接写cuda. 而且这类library可以detect你有没有gpu. 没有gpu都可以用。
AI是大数据,对于一般人作用不大,毕竟收集这些数据和纠错不是自己能搞定的。学了除了工作外也没啥用。
你自己的大脑就是最好的AI,用你的实力就可以做很多事情。
m
microsat
初学不需要gpu.
以后需要gpu也不需要会Cuda,很多library都是高层编码,不需要直接写cuda. 而且这类library可以detect你有没有gpu. 没有gpu都可以用。
AI是大数据,对于一般人作用不大,毕竟收集这些数据和纠错不是自己能搞定的。学了除了工作外也没啥用。
你自己的大脑就是最好的AI,用你的实力就可以做很多事情。
睿 发表于 2023-06-17 13:18

谢谢!
我现在想遇到的问题是。打算把以前编写的程序,变成并行的。
所以需要购买一台并行计算机。预算10万美元。请推荐配置(GPU需要还是不需要)
另外,能够最简单的,就能实现把以前的程序改成并行。不知道CUDA容易不容易实现这一点。
for (int i=0; i<=1e5; i++) { 程序主体; }
这样一段代码,怎么能快速变成并行的呢?
有没有大牛专门做,代码并行化的?
谢谢!
我现在想遇到的问题是。打算把以前编写的程序,变成并行的。
所以需要购买一台并行计算机。预算10万美元。请推荐配置(GPU需要还是不需要)
另外,能够最简单的,就能实现把以前的程序改成并行。不知道CUDA容易不容易实现这一点。
for (int i=0; i<=1e5; i++) { 程序主体; }
这样一段代码,怎么能快速变成并行的呢?
有没有大牛专门做,代码并行化的?
microsat 发表于 2023-06-17 13:32

threading这个最慢第二年就学到了吧。很多语言都可以很快把你写的function变成thread,一般一千多美金的电脑就可以做的很快了。并排太多没有用,譬如你说的一万个thread。你的电脑CPU的core要够用,否则只是每个thread轮流跑一部分。
而且绝大部分program不需要大量并排,根本没有这个需要。
蓝光加湿器
谢谢!
我现在想遇到的问题是。打算把以前编写的程序,变成并行的。
所以需要购买一台并行计算机。预算10万美元。请推荐配置(GPU需要还是不需要)
另外,能够最简单的,就能实现把以前的程序改成并行。不知道CUDA容易不容易实现这一点。
for (int i=0; i<=1e5; i++) { 程序主体; }
这样一段代码,怎么能快速变成并行的呢?
有没有大牛专门做,代码并行化的?
microsat 发表于 2023-06-17 13:32

哎呀我去,啥也不懂就要花10万美元采购, 震惊了
g
greenpeony
回复 4楼的帖子
10万美元能买非常非常好的配置了。 作为初学者,你花一两万就可以搭一台不错的了。 你不需要买最新一代的GPU. CUDA很简单的,是C/C++基础上发展出来的。 不同的是,一个是并行的概念,搞清楚怎么分配thread, 一个是要管理好内存。 你这个任务做并行是很简单的。 把I 变成thread就行了。 你花两个星期把cuda 入门看一看就行了。
a
a2maker
回复 4楼microsat的帖子
10万预算有点少,再加10万可以买个DGX A100.
https://www.nvidia.com/en-us/data-center/dgx-a100/
最新的DXG H100大概40万。
r
rainyrainyday
现在装游戏本必须有gpu啊
c
claireliu
请问如果不会用CUDA,是不是就不应该买GPU呢?
什么机器学习的算法不需要GPU? Logistic regression,需要GPU吗? NN是需要GPU的。
microsat 发表于 2023-06-17 13:03

看你的task可以并行的程度,如果你for loop可以几十甚至几百的并行计算,可以就有cpu,用openmp实现,就几行code。如果你需要几万几十万的并行,这需要每个计算内存足够独立并连续。这种情况下用gpu更合适。有很多库可以封装cuda的接口,让你的code可以同时在cpu和gpu上跑。主要看你的task,cuda应该不是什么瓶颈。
w
wmaf
啥?买GPU不是为了玩3A大作吗?并行计算都是在cloud上跑的 一张破显卡能算点什么?
m
mylifetouch
楼主在这儿问问题已经好长时间了,怎么感觉还是一点基本的parallel programming都不懂啊。拜托你去好好上上课吧
3
3906
楼主在这儿问问题已经好长时间了,怎么感觉还是一点基本的parallel programming都不懂啊。拜托你去好好上上课吧
mylifetouch 发表于 2023-06-18 14:45

上次还说人家要偷他算法。楼主是来搞笑的
伪猴王
谢谢!
我现在想遇到的问题是。打算把以前编写的程序,变成并行的。
所以需要购买一台并行计算机。预算10万美元。请推荐配置(GPU需要还是不需要)
另外,能够最简单的,就能实现把以前的程序改成并行。不知道CUDA容易不容易实现这一点。
for (int i=0; i<=1e5; i++) { 程序主体; }
这样一段代码,怎么能快速变成并行的呢?
有没有大牛专门做,代码并行化的?
microsat 发表于 2023-06-17 13:32

这就是来逗大家玩的。散了吧。