我正在写关于计算机体系结构中的并行体系结构的词条，想了解一下背景知识，你能详细介绍一下吗？
user
我正在写关于计算机体系结构中的并行体系结构的词条，想了解一下背景知识，你能详细介绍一下吗？
assistant
## 计算机体系结构中的并行体系结构

并行体系结构是并行计算机系统的组织结构，通过把任务划分为多个进程或线程，让不同的处理器并行运行不同的进程或线程来提高性能。此外，随着处理器访存延迟的增加，高速缓存失效导致流水线长时间堵塞，处理器可以在一个线程等待长时间访存时快速切换到另一个线程执行以提高流水线效率。多进程并行存在于多个操作系统之间或一个操作系统之内。用于高性能计算的MPI并行程序以及机群数据库是存在于多个操作系统之间的多进程并行的典型应用；由操作系统调度的多道程序则是操作系统之内多进程并行的典型应用。多线程并行只存在于一个操作系统之内。线程的粒度比进程小，线程的上下文也比进程简单。传统的多线程切换由操作系统调度并保留上下文，现代处理器通过硬件实现多份线程上下文来支持单周期的多线程切换。同时多线程（simultaneous multi-threading，SMT）技术甚至允许超标量指令流水线的同一流水级同时运行来自不同线程的指令。现代处理器还通过硬件实现多份操作系统上下文来支持多个操作系统的快速切换，以提高云计算虚拟机的效率。并行处理结构普遍存在于传统的大型机、服务器和高端工作站中。包含2～8个CPU芯片的小规模并行服务器和工作站一直是事务处理市场的主流产品。包含16～1024个CPU芯片的大型计算机在大型企业的信息系统中比较普遍。用于科学和工程计算的高性能计算机则往往包含上万个CPU芯片。随着集成电路集成度的不断提高，把多个CPU集成在单个芯片内部的多核CPU逐渐成为主流的CPU芯片产品。多核CPU芯片最早出现在嵌入式领域，把多个比较简单的CPU集成在一个芯片上。2005年个人计算机CPU芯片开始集成两个CPU核。现在的市场主流个人计算机CPU芯片一般集成2～4个CPU核，服务器CPU芯片则集成8～32个CPU核，专用处理器如GPU则集成几百到上千个处理核心。并行处理系统通过互联网络把多个处理器连接成一个整体。常见的互联网络包括总线、交叉开关、环状网络、树形网络、二维或更多维网格等。并行系统的多个处理器之间需要同步机制来协同多处理器工作。常见的同步机制包括锁（lock）、栅栏（barrier）以及事务内存（transaction memory）等，计算机指令系统通常要设置专用的同步指令。在共享存储的并行处理系统中，同一个内存单元（一般以Cache行为单位）在不同的处理器中有多个备份，需要通过存储一致性模型（memory consistency model）规定多个处理器访问共享内存的一致性标准。典型的存储一致性模型包括顺序一致性（sequential consistency）、处理器一致性（processor consistency）、弱一致性（weak consistency）和释放一致性（release consistency）等。高速缓存一致性协议（cache coherence protocol）把一个处理器新写的值传播给其他处理器，以达到存储一致性的目的。在侦听协议（snoopy protocol）中，写共享单元的处理器把写信息通过广播告知其他处理器；在基于目录的协议（directory-based protocol）中，每个存储单元对应一个目录项记录拥有该存储单元的副本的那些处理器号，写共享单元的处理器根据目录项的记录把写信息告知其他处理器。