并行性

(1)在同一时刻或是在同一时间间隔内完成两种或两种以上性质相同或不相同的工作。并行性包含三重意义，即时间重叠(time-interleaving)，资源重复(resource-replication)和资源共享(resource sharing)。时间重叠就是在并行性概念中引入时间因素，即多个处理过程中时间上相互错开。轮流重叠地使用同一套硬件设备的各个部分，以加快硬件周转而赢得速度。这种并行性概念的实现在高性能单处理机中就表现为各种流水线部件和流水线处理机。资源重复是根据以数量取胜的原则大幅度地提高计算机处理速度的最直接措施，既可以提高处理速度，又可以提高可靠性，但由于硬件昂贵而且软件复杂，处理机数目受到限制。资源共享指多个用户按一定时间顺序轮流使用同一套硬件设备。从广义上说，并行性既包含同时性(simultaneity)，又包含并发性(concurrency)。同时性是指两个或多个事件在同一时刻发生，并发性是指两个或多个事件在同一时间间隔内发生。(2)互相独立的算法步骤同时执行的性质。在一些问题中存在着自然并行性(natural parallelism)，即在算法中明显存在互相独立的操作，例如线性代数算法、偏微分方程算法、蒙特卡洛方法、有限元方法等。在另外一些问题中虽没有明显的并行性，但是可以通过引入附加操作或采用新方法实现并行处理，这类并行性称之为人工并行性(artificial parallelism)。