所谓cuda其实就是Compute Unified Device Architecture的缩写,它包含了 CUDA 指令集架构(ISA)以及 GPU 内部的并行计算引擎。 开发人员现在可以使用 C 语言来为 CUDA™架构编写程序。主流的深度学习框架也都是基于 CUDA 进行 GPU 并行加速的,几乎无一例外。在这个平台上,可以使用 NV 公司提供给你的各种便捷计算工具来进行计算,不需要你自己再来开发这些工具。
延伸知识:
CUDA存储器类型:
1、 寄存器Register
寄存器是GPU上的高速缓存器,其基本单元是寄存器文件,每个寄存器文件大小为32bit.
Kernel中的局部(简单类型)变量第一选择是被分配到Register中。
特点:每个线程私有,速度快。
2、 局部存储器 local memory
当register耗尽时,数据将被存储到local memory。如果每个线程中使用了过多的寄存器,或声明了大型结构体或数组,或编译器无法确定数组大小,线程的私有数据就会被分配到local memory中。
3、 共享存储器 shared memory
可以被同一block中的所有线程读写,特点:block中的线程共有;访问共享存储器几乎与register一样快。
以上就是什么是cuda,有啥用?的内容。