程序员学习CPU有什么用？

　　本文已收录到AndroidFamily，技术和职场问题，请关注公众号〔彭旭锐〕提问。前言
　　大家好，我是小彭。
　　在上一篇文章里，我们聊到了计算机的冯诺依曼架构，以及计算机的五大部件：控制器、运算器、存储器、输入设备和输出设备。在现在计算机体系中，CPU是整个计算机的核心，主要包含控制器和运算器两大部件。
　　在后续文章中，我们将从CPU的基本认识开始，逐步将CPU与执行系统、存储系统和IO系统串联起来，请关注。
　　小彭的Android交流群02群已经建立啦
　　思维导图：
　　1。认识CPU中央处理器1。1什么是CPU？
　　中央处理单元（CentralProcessingUnit，CPU）也叫中央处理器或主处理器，是整个计算机的核心，也是整台计算机中造价最昂贵的部件之一。
　　从硬件的角度：CPU由超大规模的晶体管组成；
　　从功能的角度：CPU内部由时钟、寄存器、控制器和运算器4大部分组成。1、时钟（Clock）：负责发出时钟信号，也可以位于CPU外部；2、寄存器（Register）：负责暂存指令或数据，位于存储器系统金字塔的顶端。使用寄存器能够弥补CPU和内存的速度差，减少CPU的访存次数，提高CPU的吞吐量；3、控制器（ControlUnit）：负责控制程序指令执行，包括从主内存读取指令和数据发送到寄存器，再将运算器计算后的结果写回主内存；4、运算器（ArithmeticLogicUnit，ALU）：负责执行控制器取出的指令，包括算术运算和逻辑运算。
　　冯诺依曼架构
　　图片引用自Wikipedia1。2为什么要学习CPU？
　　对于大部分程序员，日常所处理的工作都是在跟Java和C等高级语言打交道，并不会直接地与CPU打交道。那么，为什么我们还要花这么多时间去学习CPU呢？我认为有以下原因：原因1掌握CPU原理能够开发更高性能的程序：理解CPU的工作原理有助于设计出更高性能的算法或代码，例如通过避免伪共享、提高缓存命中率等方式提高程序运行效率，就需要对CPU的缓存机制有一定的理解；原因2扩展方案积累：CPU是整个计算机系统中最复杂的模块，也是当代计算机科学的制高点。积累CPU内部的解决方案，能够为将来的遇到类似问题提供思路，达到触类旁通的作用。例如CPU缓存淘汰策略与应用内存的缓存淘汰策略有相似之处；原因3CPU是知识体系最底层的知识：当我们在思考或解决某一个问题时，就需要利用到更深层次的知识积累来解释，而CPU就是位于知识体系中最底层知识。例在内存系统的可见性、执行系统的IOWAIT和线程池设计等问题中，都需要对CPU的执行机制有一定理解。
　　CPU
　　图片引用自图片来源1。3通用处理器和专用处理器
　　在早期的计算机系统中，只有1个通用处理器，使用1个处理器就能够完成所有计算任务。后来人们发现可以把一些计算任务分离出来，单独设计专门的芯片微架构，在执行效率上会远远高于通用处理器，最典型的专用处理器就是GPU图形处理器。
　　这种用来专门处理某种计算任务的处理器就是专用处理器，那为什么专用处理器在处理某些特定问题时更快呢，我认为有3点解释：1、最优架构：专用处理器只处理少量类型的工作，可以为特定工作设计最优芯片架构，而通用处理器只能设计全局最优架构，但不一定是执行特定工作的最优机构；2、硬件加速：可以把多条指令的计算工作直接用硬件实现，相比于CPU一条条地执行指令，能够节省大量指令周期；3、成本更低：专用处理器执行的计算流程是固定的，不需要CPU的流水线控制、乱序执行等功能，实现相同计算性能的造价更低。
　　现代计算机架构都是1个通用处理器加上多个专用处理器，这种将不同类型的计算任务采用不同的计算单元完成的设计，也叫异构计算（HeterogeneousComputing）。
　　多处理器架构
　　2。指令集架构ISA2。1什么是指令集架构？
　　CPU所能理解的机器语言就是指令（InstructionCode），一个CPU所能理解的所有指令就是指令集（InstructionSet）。
　　为了保证芯片间的兼容性，芯片厂商并不为每款新芯片设计一个新的指令集，而是将指令集推广为标准规范，这个规范就是指令集架构（InstructionSetArchitecture，ISA），
　　相对于指令集架构，CPU在实现具体指令集功能的硬件电路设计就是微架构（MicroArchitecture）。如果用软件的思考方式，ISA就是CPU的功能接口，定义了CPU的标准规范，而微架构就是CPU的功能实现，定义了CPU的具体电路设计，一种指令集可以兼容不同的微架构。2。2两种主流的指令集架构
　　因为CPU位于整个计算机系统最底层且最核心的部件，如果CPU的兼容性都出问题了，那么以前开发的应用软件甚至操作系统将无法在新的CPU上运行，这对芯片厂商的生态破坏是致命的。因此，指令集架构是相对稳定的，芯片厂商在ISA中添加或删除指令时会非常谨慎。
　　目前，能够有效占领市场份额的只有2个ISA，它们也分别代表了复杂与精简2个发展方向：x86架构：Intel公司在1970年代推出的复杂指令集架构；ARM架构：ARM公司在1980年代推出的精简指令集架构，我们熟悉的AppleM1芯片、华为麒麟芯片和高通骁龙芯片都是ARM架构（其实，ARM公司并不生产芯片，而是以技术授权的模式运行）。2。3复杂指令集和精简指令集
　　在CPU指令集的发展过程中，形成了2种指令集类型：复杂指令集（ComplexInstructionSetComputer，CISC）：强调单个指令可以同时执行多个基本操作，用少量指令就可以完成大量工作，执行效率更高；精简指令集（ReducedInstructionSetComputer，RISC）：强调单个指令只能执行一个或少数基础操作，指令之间没有重复或冗余的功能，完成相同工作需要使用更多指令。
　　在早期的计算机系统中，指令集普遍很简单，也没有复杂和精简之分。随着应用软件的功能越来越丰富，应用层也在反向推动芯片架构师推出更强大的指令集，以简化程序编写和提高性能。例如，一些面向音视频的指令可以在一条指令内同时完成多个数据进行编解码。
　　这在当时的确是不错的选择。原因是CPU和主存的速度差实在太大了，用更少的指令实现程序功能（指令密度更高）可以减少访存次数。凭借这一点，复杂指令集对精简指令集的优势是几乎全面性的：优势1：可以减少程序占用的内存和磁盘空间大小；优势2：可以减少从内存或磁盘获取指令所需要的带宽，能够提高总线系统的传输效率；优势3：CPUL1Cache可以容纳更多指令，可以提高缓存命中率。且现代计算机中多个线程会共享L1Cache，指令越少对缓存命中率越有利；优势4：CPUL2Cache可以容纳更多数据，对操作大量数据的程序也有利于提高缓存命中率。
　　然而，这些优势都是有代价的：缺点1处理器设计复杂化：指令越复杂，用于解析指令的处理器电路设计肯定会越复杂，执行性能功耗也越大；缺点2指令功能重叠：很多新增的指令之间产生了功能重叠，不符合指令集的正交性原则，而且新增的很多复杂指令使用率很低，但处理器却付出了不成正比的设计成本；缺点3指令长度不统一：指令长度不统一，虽然有利于使用哈夫曼编码进一步提高指令密度（频率高的指令用短长度，频率高的指令用大长度），但是指令长度不同，执行时间也有长有短，不利于实现流水线式结构。
　　因此，到1980年代，精简指令集RISC逐渐浮出水面。目前，大多数低端和移动系统都采用RISC架构，例如Android系统、Mac系统和微软Surface系列。
　　相比于复杂指令集，精简指令集更加强调正交性，单个指令只能执行一个或少数基础操作，指令之间没有重复或冗余的功能。而且精简指令集的每条指令长度相同，非常便于实现流水线式结构。
　　网上很多资料有一个误区：精简指令集简化了指令集的大小。这是不对的，准确的说法是简化了指令集的复杂度。
　　总结一下：复杂指令集凭借更高的指令密度，在性能方面整体优于精简指令集（内存磁盘占用、CPUCache命中率、TLB未命中率），而精简指令集牺牲了指令密度换取更简单的处理器架构，以性能换取功耗的平衡。
　　指令集类型CISCRISC指令数量指令数量庞大指令数量相对较少指令长度长度不同长度相同指令功能有重叠正交举例x86ARM、MIPS3。CPU的性能指标3。1执行系统参数1、主频（FrequencyClockRate）：在CPU内部有一个晶体振荡器（OscillatorCrystal），晶振会以一定的频率向控制器发出信号，这个信号频率就是CPU的主频。主频是CPU最主要的参数，主频越快，计算机单位时间内能够完成的指令越快。CPU的主频并不是固定的，CPU在运行时可以选择低频、满频甚至超频运行，但是工作频率越高，意味着功耗也越高；2、时钟周期（ClockCycle）：主频的另一面，即晶振发出信号的时间间隔，时钟周期1主频；3、外频：外频是主板为CPU提供的时钟频率，早期计算机中CPU主频和外频是相同的，但随着CPU主频越来越高，而其他设备的速度还跟不上，所以现在主频和外频是不相等的；4、程序执行时间：4。1流逝时间（WallClockTimeElapsedTime）：程序开始运行到程序结束所流逝的时间；4。2CPU时间（CPUTime）：CPU实际执行程序的时间，仅包含程序获得CPU时间片的时间（用户时间系统时间）。由于CPU会并行执行多个任务，所以程序执行时间会小于流逝时间；4。3用户时间（UserTime）：用户态下，CPU切换到程序上执行的时间；4。4系统时间（SysTime）：内核态下，CPU切换到程序上执行的时间；3。2存储系统参数字长（Word）：CPU单位时间内同时处理数据的基本单位，多少位CPU就是指CPU的字长是多少位，比如32位CPU的字长就是32位，64位CPU的字长就是64位；地址总线宽度（AddressBusWidth）：地址总线传输的是地址信号，地址总线宽度也决定了一个CPU的寻址能力，即最多可以访问多少数据空间。举个例子，32位地址总线可以寻址4GB的数据空间；数据总线宽度（DataBusWidth）：数据总线传输的是数据信号，数据总线宽度也决定了一个CPU的信息传输能力。
　　区分其它几种容量单位：字节（Byte）：字节是计算机数据存储的基本单位，即使存储1个位也需要按1个字节存储；块（Block）：块是CPUCache管理数据的基本单位，也叫CPU缓存行；段（Segmentation）页（Page）：段页是操作系统管理虚拟内存的基本单位。
　　相关文章：计算机的存储器金字塔长什么样？4。影响CPU性能的因素
　　CPU作为计算机的核心部件，未来一定是朝着更强大的性能出发。在看待CPU的视角上，我们也要具备一定的全局观：1、提升CPU性能不止是CPU的任务：计算机系统是多个部件组成的复杂系统，脱离整体谈局部没有意义；2、平衡性能与功耗：一般来说，CPU的计算性能越高，功耗也越大。我们需要综合考虑性能和功耗的关系，脱离功耗谈性能没有意义。4。1提升CPU主频
　　提升主频对CPU性能的影响是最直接的，过去几十年CPU的主要发展方向也是在怎么提升CPU主频的问题上。
　　不过，最近几年CPU主频的速度似乎遇到瓶颈了。因为想要主频越快，要么让CPU满频或超频运行，要么升级芯片制程，在单位体积里塞进去更多晶体管。这两种方式都会提升CPU功耗，带来续航和散热问题。如果不解决这两个问题，就无法突破主频瓶颈。
　　主频的瓶颈
　　图片引用自Wikipedia4。2多核并行执行
　　既然单核CPU的性能遇到瓶颈，那么在CPU芯片里同时塞进去2核、4核甚至更多，那么整个CPU芯片的性能不就直接翻倍提升吗？
　　理想很美好，现实是性能并不总是随着核心数线性增加。在核心数较小时，增加并行度得到的加速效果近似于线性提升，但增加到一定程度后会趋于一个极限，说明增加并行度的提升效果也是有瓶颈的。
　　为什么呢？因为不管程序并行度有多高，最终都会有一个结果汇总的任务，而汇总任务无法并行执行，只能串行执行。例如，我们用Java的ForkJoin框架将一个大任务分解为多个子任务并行执行，最终还是需要串行地合并子任务的结果。
　　这个结论也有一个经验定律阿姆达尔定律（Amdahl’sLaw），它解释了处理器并行计算后效率提升情况。我们把串行的部分称为串行分量Ws，把并行的部分称为并行分量Wp，正是串行分量限制了性能提升的极限，串行分量越大，极限越低。并行后的执行时间是WppWs并行后的加速倍数是WsWpWsWpp，当并行度p趋向于无穷大时，提升极限就是WsWpWs
　　并行度、并行分量对提升效果的影响
　　图片引用自Wiki百科
　　说明：以绿色的曲线为例，程序可以的并行分量是95，串行分量是5，最终得出的提升极限就会20倍。4。3指令重排序
　　增加核心数是提升并行度最直接的方法，但并不是唯一的方法。
　　现代CPU为了提高并行度，会在遵守单线程数据依赖性原则的前提下，对程序指令做一定的重排序。事实上不止是CPU，从源码到指令执行一共有3种级别重排序：1、编译器重排序：例如将循环内重复调用的操作提前到循环外执行；2、处理器系统重排序：例如指令并行技术将多条指令重叠执行，或者使用分支预测技术提前执行分支的指令，并把计算结果放到重排列缓冲区（ReorderBuffer）的硬件缓存中，当程序真的进入分支后直接使用缓存中的结算结果；3、存储器系统重排序：例如写缓冲区和失效队列机制，即是可见性问题，从内存的角度也是指令重排问题。
　　指令重排序类型
　　相关文章：12张图看懂CPU缓存一致性与MESI协议，真的一致吗？4。4SoC芯片片内片外双总线结构
　　随着芯片集成电路工艺的进步，在冯诺依曼架构中的五大部件（运算器、控制器、存储器、输入和输出设备接口）也可以集成在一个芯片上，形成一个近似于完整计算机的系统，这种芯片也叫片上系统（SystemonChip，Soc）。SoC芯片将原本分布在主板上的各个部件聚合到同一个芯片上，不同部件之间的总线信息传输效率更高。
　　相关文章：图解计算机内部的高速公路总线系统5。总结
　　今天，我们简单了讨论了CPU的基本概念，很多问题只是浅尝辄止。在后续的文章里，我们将从执行系统、存储系统和IO系统三个角度与CPU串联起来。请关注。参考资料CPU通识课靳国杰张戈著深入浅出计算机组成原理徐文浩著，极客时间出品CodeDensityConcernsforNewArchitecturesVincentM。Weaver等著CentralprocessingunitWikipediaInstructionsetarchitectureWikipediaComplexinstructionsetcomputerWikipediaReducedinstructionsetcomputerWikipediaApplicationbinaryinterfaceWikipediaClockRateWikipediaAmdahlslawWikipedia