整体过程#

1
   CUDA C++（kernels.cu）
2
           ↓ 编译前端
3
PTX：面向虚拟指令集的中间表示；寄存器也是虚拟的
4
           ↓ ptxas / 后续机器码生成
5
目标 GPU 的机器码，存放于 cubin 等设备代码对象中
6
           ↓ cuobjdump / nvdisasm 反汇编
7
SASS：目标 GPU 机器指令的可读文本
8

9
另一条可能路径：程序携带 PTX → 驱动 JIT → 当前设备的机器码

总结：PTX 帮你看中间层的操作语义；实际 SASS 帮你检查某个目标版本最终生成的指令。

注意：.exe 同时含主机程序和设备代码；cubin 是设备代码对象

2.1. 工具确认#

• cuobjdump: 描述 exe 里有哪些设备指令和资源声明
• nvdisasm：描述独立 cubin 的反汇编、控制流是什么
• ncu-ui：在图形界面关联源码、SASS 和指标

NOTE

得到的反汇编内容因不同设备有差异，本机 GPU 为 RTX 5060 laptop，sm_120，cuda 12.8

先确定本地有 cuobjdump，执行下面的 powershaell 指令即可确认。理想输出为：显示工具路径，版本含 12.8，最后一行 True

1
Set-Location 'D:\CG\Kernel_Optimization\cuda-labs'
2
Get-Command cuobjdump.exe, nvdisasm.exe, ncu.bat, ncu-ui.bat
3
cuobjdump.exe --version
4
Test-Path '.\build\labs\sgemm\Release\sgemm.exe'

bank 相关知识回顾#

Shared memory 被组织成 32 个可以并行访问的 bank。连续的 4 字节字依次分配给 bank 0、1、2……31，然后再次回到 bank 0。因此 bank 0 保存的不只是地址 0～3，还保存地址 128～131、256～259 等位置的数据。

NOTE

这里一个线程读取 128 bit 跟扇区有什么关系？ 没有关系。。sector 是用来描述从显存读取数据时的存储单位，本机是 32 bit。因此分析 LDS 时，重点是 bank conflict 和 wavefront；分析普通 global memory 合并访存时，重点才是覆盖了多少 sector。