在Volta中注册每线程程序计数器的消耗量

Question

我很想知道Volta白皮书第18页表2底部脚注背后的含义。 虽然该表显示Volta每个SM具有256 KB寄存器，类似于其前辈，但足迹提到了这一点

构成改进的SIMT模型的一部分的每线程程序计数器（PC）通常需要每个线程两个寄存器槽。

这是否意味着对于Volta中的每个运行线程，您有2个保留的32位寄存器来跟踪PC？ 如果是，它是否也意味着此保留是静态的，无论SM上有多少线程，2048（SM上允许的最大线程数）* 2 = 4096个寄存器？ 此外，通过编译低于7.0的CC可以消除此预留吗？

Answer 1

似乎对于每个正在运行的线程，在编译Compute Capability 7.0时，从SM的寄存器文件中分配了2个额外的寄存器。

使用CUDA 9.1，我编译了以下简单的saxpy内核

__global__ void saxpy(float* out, float a, float* x, float* y) {
  out[ threadIdx.x ] = a * x[ threadIdx.x ] + y[ threadIdx.x ];
}

对于CC 6.1和7.0，应用了最大编译器优化标志（ -03 ）。 在CC 6.1的二进制文件上使用cuobjdump -res-usage时，内核中的每个线程使用了8个寄存器，CC 7.0的二进制文件上的相同命令报告每个线程的寄存器使用率为10.我还使用了打印sass的sass cuobjdump -sass 。 以下是CC 6.1二进制文件的内容。 您可以看到使用索引0到7的架构寄存器。

    code for sm_61
            Function : _Z5saxpyPffS_S_
   .headerflags    @"EF_CUDA_SM61 EF_CUDA_PTX_SM(EF_CUDA_SM61)"
                                                                              /* 0x083fc400e3e007f6 */
    /*0008*/                   MOV R1, c[0x0][0x20];                          /* 0x4c98078000870001 */
    /*0010*/                   S2R R0, SR_TID.X;                              /* 0xf0c8000002170000 */
    /*0018*/                   SHL R6, R0.reuse, 0x2;                         /* 0x3848000000270006 */
                                                                              /* 0x081fc840fec007f5 */
    /*0028*/                   SHR.U32 R0, R0, 0x1e;                          /* 0x3828000001e70000 */
    /*0030*/                   IADD R2.CC, R6.reuse, c[0x0][0x150];           /* 0x4c10800005470602 */
    /*0038*/                   IADD.X R3, R0.reuse, c[0x0][0x154];            /* 0x4c10080005570003 */
                                                                              /* 0x001f8800eec007f0 */
    /*0048*/         {         IADD R4.CC, R6, c[0x0][0x158];                 /* 0x4c10800005670604 */
    /*0050*/                   LDG.E R2, [R2];        }                       /* 0xeed4200000070202 */
    /*0058*/                   IADD.X R5, R0, c[0x0][0x15c];                  /* 0x4c10080005770005 */
                                                                              /* 0x001fdc00fec00771 */
    /*0068*/                   LDG.E R4, [R4];                                /* 0xeed4200000070404 */
    /*0070*/                   IADD R6.CC, R6, c[0x0][0x140];                 /* 0x4c10800005070606 */
    /*0078*/                   IADD.X R7, R0, c[0x0][0x144];                  /* 0x4c10080005170007 */
                                                                              /* 0x001ffc001e2047f2 */
    /*0088*/                   FFMA R0, R2, c[0x0][0x148], R4;                /* 0x4980020005270200 */
    /*0090*/                   STG.E [R6], R0;                                /* 0xeedc200000070600 */
    /*0098*/                   EXIT;                                          /* 0xe30000000007000f */
                                                                              /* 0x001f8000fc0007ff */
    /*00a8*/                   BRA 0xa0;                                      /* 0xe2400fffff07000f */
    /*00b0*/                   NOP;                                           /* 0x50b0000000070f00 */
    /*00b8*/                   NOP;                                           /* 0x50b0000000070f00 */
    ..........................

现在为CC 7.0。

    code for sm_70
           Function : _Z5saxpyPffS_S_
   .headerflags    @"EF_CUDA_SM70 EF_CUDA_PTX_SM(EF_CUDA_SM70)"
    /*0000*/              @!PT SHFL.IDX PT, RZ, RZ, RZ, RZ;                          /* 0x000000fffffff389 */
                                                                                     /* 0x000fe200000e00ff */
    /*0010*/                   MOV R1, c[0x0][0x28];                                 /* 0x00000a0000017a02 */
                                                                                     /* 0x000fd00000000f00 */
    /*0020*/                   S2R R6, SR_TID.X;                                     /* 0x0000000000067919 */
                                                                                     /* 0x000e220000002100 */
    /*0030*/                   MOV R7, 0x4;                                          /* 0x0000000400077802 */
                                                                                     /* 0x000fca0000000f00 */
    /*0040*/                   IMAD.WIDE.U32 R2, R6.reuse, R7.reuse, c[0x0][0x170];  /* 0x00005c0006027625 */
                                                                                     /* 0x0c1fe400078e0007 */
    /*0050*/                   IMAD.WIDE.U32 R4, R6, R7, c[0x0][0x178];              /* 0x00005e0006047625 */
                                                                                     /* 0x000fd000078e0007 */
    /*0060*/                   LDG.E.SYS R2, [R2];                                   /* 0x0000000002027381 */
                                                                                     /* 0x000e2800001ee900 */
    /*0070*/                   LDG.E.SYS R4, [R4];                                   /* 0x0000000004047381 */
                                                                                     /* 0x000e2200001ee900 */
    /*0080*/                   IMAD.WIDE.U32 R6, R6, R7, c[0x0][0x160];              /* 0x0000580006067625 */
                                                                                     /* 0x000fe400078e0007 */
    /*0090*/                   FFMA R0, R2, c[0x0][0x168], R4;                       /* 0x00005a0002007a23 */
                                                                                     /* 0x001fd00000000004 */
    /*00a0*/                   STG.E.SYS [R6], R0;                                   /* 0x0000000006007386 */
                                                                                     /* 0x0001e2000010e900 */
    /*00b0*/                   EXIT;                                                 /* 0x000000000000794d */
                                                                                     /* 0x000fea0003800000 */
    /*00c0*/                   BRA 0xc0;                                             /* 0xfffffff000007947 */
                                                                                     /* 0x000fc0000383ffff */
    /*00d0*/                   NOP;                                                  /* 0x0000000000007918 */
                                                                                     /* 0x000fc00000000000 */
    /*00e0*/                   NOP;                                                  /* 0x0000000000007918 */
                                                                                     /* 0x000fc00000000000 */
    /*00f0*/                   NOP;                                                  /* 0x0000000000007918 */
                                                                                     /* 0x000fc00000000000 */

您再次看到，在代码块内部仅使用了架构寄存器0到7（ R3和R5除外）。 在内核的开头也有使用RZ 。 现在我没有看到其他三个寄存器的位置，这让我倾向于相信两个寄存器被保留用于跟踪线程的PC。

无论如何，我得出了我在帖子开头所说的结论，显然观察不足。 任何改善这个答案的贡献都表示赞赏。