复习问题

21a 为什么 int +不能实现比 21 的 cycles/2 呢?int +在下一个循环的一个 + 不是也可以早一点开始,那这样就是两个加法并行,应该/2

2 Likes

@helper 能否试着解答一下

这是一个关于多周期计算中的问题。你提到了 2 * 1a2 * 1,并且提到了 int +(整数加法)的并行计算。常见的困惑出现在如何理解这些运算的流水线执行,以及为什么整数加法的并行计算不能完全实现预期的周期数。

解释

  1. 流水线与并行性

    • 流水线:现代处理器使用流水线技术来提高运算速度。每条指令被分解为多个步骤,多个指令可以并行地在不同的步骤中处理。
    • 并行性:指的是同时执行多个计算任务。对于整数加法来说,两个整数加法可以在不同的处理单元同时执行,从而减少总体计算时间。
  2. 2 * 12 * 1a

    • 看起来你是在描述某种特定的运算模式(可能是循环中的乘法和加法)。
    • 2 * 1 可能表示两个独立的乘法操作。
    • 2 * 1a 可能表示某种循环中的特殊运算。
  3. 整数加法并行化的限制

    • 虽然整数加法可以并行化,但这依赖于硬件的支持以及相关依赖性。并非所有情况下都可以理想地并行化。
    • 在循环中的运算如果有数据依赖(例如前一个加法的结果需要被后一个加法使用),则无法完全并行化。
  4. 计算周期

    • 如果你考虑的循环中的每个加法需要等待前一次加法的结果,则无法并行执行。
    • 甚至在硬件允许并行的情况下,还有其他限制因素,比如指令调度、处理器资源冲突等等。

总结

即便在理想情况下,一个加法运算并不是总能完全实现/2 的加速效果。如果处理器或流水线的配置不能完美支持这种并行运算,很可能有额外的调度开销以及数据依赖导致的延时。希望这样解释能缓解你的疑惑。

如果你有更多背景信息或具体代码,展示这些细节会更有助于精准解答。

2x1a 在理想情况下,是可以将 int+ 的 CPE 降低一半的。这个理想情况要求x OP (results of d[i] OP d[i+1])(以下称为操作 1)与d[i+2] OP d[i+3](以下称为操作 2)完全同时完成。

在实际情况下,这两个操作很难完全同时完成。原因如下

  1. 这两个操作本身是不直接依赖对方的,但是存在间接依赖,即操作 1 实际上依赖上一个循环的操作 2。所以这两条流水线其实并不是完全独立的。
  2. int+ 消耗一个 cycle 是理想情况,实际上,由于有 cache miss、页表 miss 等等情况,int+ 有可能在某些时候消耗更多的 cycle。
  3. 这种波动的性能,会导致两条流水线不能完全排齐,即操作 1 和操作 2 不能完全同时完成。那么最终的性能其实就是两个操作在时间轴上的并集决定的。

综上,这导致了 2x1a 并不能理想的降低 int+ 的 CPE 到 0.5。在我们这个 case 里,它甚至没有性能提升。

下面回答几个相关问题

  1. 为什么 2x2 可以降的多一些?
    看上面的第一个原因,2x2 构建了完全独立的两条流水线,这之间不存在直接依赖也不存在间接依赖。这样受到性能波动的影响就小一些(仅会受到自己这个操作的性能波动影响,不会受到对方操作的影响)。

  2. 为什么 double+ 可以直接降到 0.5?
    单个操作的性能波动情况在 double+ 中同样存在,但是,单次 double+ 需要 3 个 cycle,这意味着微小的性能波动对整体性能的影响更小,反映在 CPE 上就被忽略了。这也是为什么在 NxN 的循环展开里(N 足够大),int+ 总能最终达到 0.5 CPE:我们在单次循环里放进了更多没有数据依赖的操作,这使得单次循环变重,从而稀释了性能波动。

1 Like