CUDA真是NVIDIA绝对牢不可破的生态吗?_广西壮族自治区梧州市藤县空村衣电信设备合伙企业

+86 0000 88888

推荐产品

  • 用J***a写Android的时代是不是要结束了?
  • 有一个***约你出去,你会去吗?
  • 央视罕见公布东风-5 洲际导弹参数,最大射程 12000 公里,怎样解读?此时公布有哪些意义?
  • 为什么一谈到Wi-Fi想支持6GHz,总有人说那你可以去国外?

联系我们

邮箱:admin@admin.com
电话:+86 0000 88888
地址:广东省广州市番禺经济开发区 在线咨询

行业新闻

CUDA真是NVIDIA绝对牢不可破的生态吗?

发布日期:2025-06-24 12:20:13 浏览次数:

有人说,我做一款AI芯片,只要原生支持PyTorch就好了呀,用户直接用PyTorch跑模型,根本接触不到CUDA呀。

没错,一般的用户只要在PyTorch层面做应用,但是总是有新的模型架构出来,这些架构都需要做特定的性能优化才能在一个芯片上得到较高的性能,这时候就涉及到算子开发了。

比如说一开始LLM在GPU上的性能不好,后来社区针对Nvidia GPU做了flash attention等的优化才把LLM的性能提升到了比较可观的程度。

CUDA已经被各种开源AI框…。

CUDA真是NVIDIA绝对牢不可破的生态吗?