当前位置:当前位置: 首页 >
CUDA真是NVIDIA绝对牢不可破的生态吗?
文章出处:网络 人气:发表时间:2025-06-24 19:55:15
有人说,我做一款AI芯片,只要原生支持PyTorch就好了呀,用户直接用PyTorch跑模型,根本接触不到CUDA呀。
没错,一般的用户只要在PyTorch层面做应用,但是总是有新的模型架构出来,这些架构都需要做特定的性能优化才能在一个芯片上得到较高的性能,这时候就涉及到算子开发了。
比如说一开始LLM在GPU上的性能不好,后来社区针对Nvidia GPU做了flash attention等的优化才把LLM的性能提升到了比较可观的程度。
CUDA已经被各种开源AI框…。
同类文章排行
- 大家猜猜伊朗的结局如何?
- 一名女子在杭州万象城遭挟持被捅 20 多刀,隆胸***体救了一命,这反映出哪些公安系统的问题?
- 京东刘强东近期小范围分享怎么看?
- 6 月 20 日,女篮热身赛,中国女篮 93-61大胜日本女篮,如何评价本场比赛?
- 你在什么情况下需要写 shell ?
- go语言接口的优势?
- 福特级航母的电磁弹射到底出了什么问题?
- 为什么要学go语言,golang的优势有哪些?
- 北京日报点名批评“苏超”过度娱乐化,它是否管的太宽了?为什么无良媒体不会被查封取缔?
- 为什么没有核动力货轮?
最新资讯文章
- 鸿蒙电脑应用开发和鸿蒙手机是一样的吗?
- 哪个ai写代码最强?
- 外国女生味道真的很大毛发很硬吗?
- 《神探狄仁杰》中王孝杰没信用没功夫也没有脑子,为什么武则天会赏识他,狄仁杰会纵容他?
- 网传广东怀集洪水后赵一鸣超市被哄抢,县***回应相关单位正在核实,若属实哄抢者该承担哪些法律责任?
- Golang与Rust哪个语言会是今后的主流?
- go为了编译速度减少了很多编译优化?为什么不能提供优化编译模式来提升运行效率?是太懒还是另有隐情?
- 现在个人博客不能备案了吗?
- iOS开发新手入门应该学OC还是swift?
- 如何看待极客湾评测麒麟X90的性能与表现?
- 为什么印度都第四大经济体了,还没有让人感到实力强大?
- 如何看待不超过1879元的Mac mini(M4+16/256GB+票),易用性吊打同级其他台式电脑?
- 为什么Rust的热度超过Zig?
- 什么是 5G 固定无线接入(FWA)?
- 大家都喜欢用什么浏览器?