资料内容：
1.1 CUDA简介
CUDA（Compute Unified Device Architecture）是NVIDIA推出的并⾏计算平台和编程模型，允
许开发者利⽤GPU进⾏通⽤计算。GPU凭借其卓越的计算吞吐量与能效⽐优势，已成为⾼性能计
算领域的核⼼驱动⼒。
1.2 并⾏计算优化的重要性
随着GPU性能的不断增强，单纯编写能运⾏的CUDA程序已不能满⾜需求。未优化的程序可能因内
存访问模式不佳、线程束发散等问题，导致GPU资源利⽤率低下，形成"GPU饥饿"状态。优化⽬
标是实现GPU峰值性能，通过计算性能（GFLOP/s）和内存性能（GB/s）两个指标进⾏量化评
估。
1.3 优化的基本流程
1. 建⽴正确性基准：确保优化前后结果⼀致
2. 性能分析：使⽤⼯具识别瓶颈
3. 制定优化策略：针对瓶颈选择优化技术
4. 实施优化：修改代码
5. 验证与迭代：测量性能提升，重复上述步骤
2. CUDA编程模型回顾
2.1 线程层次结构
CUDA的线程层次分为三层：
Grid：由多个线程块组成，对应⼀个内核调⽤
Block：线程块，包含多个线程，可共享共享内存并进⾏同步
Thread：单个线程，执⾏核函数的最⼩单位
Warp：GPU执⾏的基本单位，32个线程为⼀组，执⾏相同的指令
2.2 内存层次结构CUDA内存模型包含多个层次，访问速度和容量各不相同：
全局内存：容量最⼤（GB级），访问延迟⾼（400-800周期），所有线程可访问
共享内存：容量较⼩（⼏⼗KB），访问延迟低（约20-30周期），同⼀线程块内共享
寄存器：每个线程私有，访问延迟最低（1周期），数量有限
本地内存：寄存器溢出时使⽤，实际存储在全局内存，速度慢
常量内存：只读，有缓存，适⽤于所有线程访问相同数据
纹理内存：只读，针对空间局部性优化，⽀持硬件插值
