E92 为什么英伟达的CUDA,是AI时代的真正护城河?揭秘科技

E92 为什么英伟达的CUDA,是AI时代的真正护城河?

17分钟 ·
播放数262
·
评论数4

随着人工智能的火爆,大家对英伟达及英伟达GPU都不陌生了,无论你是在哪个行业、做什么工作的,应该都听说过这个市值不断创新高的科技公司,以及这家公司的那个最赚钱的、神秘的,总在卡我们脖子的GPU。但大家有没有想过,GPU就是一个芯片,是一个硬件,买来了GPU,是不是也得有类似于微软的Windows或者苹果的iOS,或者是手机里的安卓,这样的操作系统软件,跑在英伟达的GPU上面,这样才能支持各种人工智能的大模型?

是的,英伟达确实除了GPU之外,还有自己的GPU上的软件系统CUDA,而且,买了英伟达的GPU,还必须,也只能用英伟达的这个软件系统。这个软件系统,在人工智能行业里,被公认为是英伟达真正的护城河,而不是那个GPU。今天这期节目,我们就一起来了解一下,什么是CUDA,为什么它能成为英伟达真正的护城河;除了CUDA之外,我国在人工智能的整个芯片及软件栈里面,还缺什么

虚弱拿铁
虚弱拿铁
2025.3.15
想请教一下于老师,主流框架都针对cuda做了优化,那用国产gpu或算力芯片跑主流框架,是否会遇到所谓的“cuda兼容性”问题,很多gpu厂商会说自己可兼容cuda,这方面是否比asic要好?
老于的商业科技图谱
:
老师不敢当,一起学习探讨。国内GPU厂商声明兼容CUDA、是为了确保他们的硬件能够尽可能无缝地运行主流的AI框架,既然是“尽可能”、那就可能还是会存在未知的兼容性问题,但比兼容问题影响更大的,仍然是性能和效率。和ASIC相比,国产GPU提供的兼容性更具灵活性和通用性,能够支持更多的应用场景。
QD老猎人
QD老猎人
2025.1.10
学习了,一下子就大致了解了AI芯片,技术栈,生态的框架和现状。感谢于老师整理分享~
老于的商业科技图谱
:
所以,表面上看起来,我们全栈都有“平替”。。。