当前位置:当前位置: 首页 >
CUDA真是NVIDIA绝对牢不可破的生态吗?
人气:发表时间:2025-06-24 19:55:15
有人说,我做一款AI芯片,只要原生支持PyTorch就好了呀,用户直接用PyTorch跑模型,根本接触不到CUDA呀。
没错,一般的用户只要在PyTorch层面做应用,但是总是有新的模型架构出来,这些架构都需要做特定的性能优化才能在一个芯片上得到较高的性能,这时候就涉及到算子开发了。
比如说一开始LLM在GPU上的性能不好,后来社区针对Nvidia GPU做了flash attention等的优化才把LLM的性能提升到了比较可观的程度。
CUDA已经被各种开源AI框…。
同类文章排行
- 如何评价小米 6 月 26 日发布的小米 YU7、MIX Flip2、REDMI K80 至尊版?
- 为啥雄鹿一年后就不要易建联了?
- 是直接使用软件爬虫好还是自己编程写爬虫好?
- Spring Security与自定义权限的区别是什么?
- 除了厚重,你拒绝折叠屏的理由还有哪些?什么样的折叠屏才能打动你?
- web大作业,一头雾水,求指点~~?
- 放弃了微服务,我们为什么要重回到单体架构?
- 微信服务器会保留聊天记录吗,会保存多久?
- 现在个人博客不能备案了吗?
- 旅游费钱费精力,为什么还有那么多人喜欢旅游呢?,?
最新资讯文章
- 现在个人博客不能备案了吗?
- 如何评价章若楠个人?
- 哪张照片让你觉得刘亦菲美得不可方物?
- 为什么 WebStorm 这么好用还会有人去用 VSCode?
- 为什么 Bun 选择了 Zig 以及 JSCore?
- 如何评价最新发布的 vivo X Fold5,作为首款「三防」折叠屏手机,都有哪些亮点值得关注?
- 目前美军还有哪些领域是明显领先于解放军的?
- 女朋友把狗喝的水倒洗碗池里,还一副理所当然的样子,这对吗?
- 北部湾大学好吗?
- 已经给了30万律师费了,律师说可以尝试找关系运转争取缓刑,但要60万奖励金,能不能信?
- 你怎么看待剪映收费过高问题?
- 为什么 mac mini 的 m4 版本价格这么低呢?
- 正常人吃治疗抑郁症的药会变快乐吗?
- 为什么美军B2实战以后认为一部分网友又没信心了?
- 如何看待“Hutool”工具类库广受欢迎?
- Golang与Rust哪个语言会是今后的主流?
- 如何评价鸿蒙电脑无法编写其自身运行的程序?
- 巅峰期的成龙身体素质是怎么一种存在?
- 我十四岁的孩子不吃我做的饭,怎么办?
- Centos为什么突然没人用了?