哈工程研究生并行体系结构期末考试并行体系结构11

并行计算模型是理解并行系统性能的基础。PRAM 模型强调同步执行、零开销通信，适用于理论。相比之下，BSP 模型引入超步机制，允许计算与通信分离，适用于实际系统建模。并行计算的编程模型对这两种模型了深入解读。

并行性能中，SP2 通信模型表达式为 t(m)=46+0.035m，其中启动开销和带宽可据此推导。Amdahl 定律指出，加速比受限于串行部分，器数量增加无法无限提升性能。引入开销项后，该定律更贴近实际系统评估，可参考Amdahl 定律详解。

基准程序是评估系统性能的关键工具。宏基准用于整体性能评估，微基准聚焦于特定部件表现。不同应用类型需选择匹配的测试方式，C3 模型从系统架构视角补充了基准测试方法。

并行程序的效率受多类开销影响，包括负载不平衡、同步与通信等。通信开销并非总是随节点数增加而增大，连续交通流模型中展示了节点数控制对通信的优化潜力。

在复杂度中，比较三个 PRAM 算法的时间复杂度得出：O(n)、O(nloglogn)、O(nlogn)，体现不同算法的扩展能力。这种有助于选取适用于特定任务的算法。

系统级性能评估常以最大并行性、平均颗粒度和关键路径为指标，结合 加速比 和执行时间判断扩展效果。加速比性能模型了系统性框架，用于识别瓶颈。

GPU 并行计算在某些场景中大幅提升性能，如GPU 矩阵乘法案例中，加速比超过 500，表明异构并行架构的优势。