根据算力来想象未来AI的发展?

星球大战
楼主 (北美华人网)
非ML科班背景,随便想想
知道AI发展史的,都了解AI历史上有几起几落,2012年的AlexNet也是利用的GPU做起来的,也就是说当算力达到了一个点之后,紧跟着的复杂度上升带来的现在的深度学习。近几年的AI发展,CV,LLM,Money is all you need, 涌现,more is different,OpenAI 不 open,研究向大企业集中,都说明了, 人类当年能达到的算力是决定AI接下来几年performace的上限。现在我们已经有了GPT, DALLE, Sora, 还有deep RL的各种,在各大数据中心scale the power 的过程中,AI发展的速度所需算力比人类算力的增长快的多,或者说AI在迅速吃掉算力红利。那问题是,由于摩尔定律失效 算力增长是否即将触碰瓶颈?按现在的速度,AI吃尽算力红利的时候,能发展到什么程度,对人类社会影响到什么程度?AI吃尽算力红利后,是否发展速度会减慢?
s
songxm99
AI芯片Chips(包括GPU/TPU等),电费(power), 训练数据,这三者都是AI发展的bottleneck。
Sam Altman前几天说要募资7个trillion是要搞芯片。他以及Elon Musk等很早就关注和投资了可控核聚变,他们想以此去解决能源问题。大模型需要的高质量数据预计在2026年耗尽。以后也许可以像alpha Go发展围棋一样左右互博的发展。这些困难并不容易,但是大方向是朝这个方向走的,对人类社会的影响(包括科研,labor market,教育,经济和政治等)也会是巨大的。