聊聊GPU与CPU的区别

　　头条创作挑战赛前言
　　大家好，我是呼噜噜。之前小牛学过一点深度学习的知识，做了几个项目，发现CPU来训练就很慢，但是后来用装有GPU的电脑来训练，就明显快的飞起，感觉很神奇。此时心里有个疑问，CPU造价那么昂贵，性能比起内存、机械硬盘、固态硬盘，快的不是一个数量级的，这个GPU竟然比CPU还要厉害？
　　让我们一起进入计算机的世界，一起来看看GPU和CPU！CPU是什么？
　　CPU，中央处理器（CentralProcessingUnit）是一台计算机的运算核心和控制核心。CPU、内部存储器和输入输出设备是电子计算机三大核心部件。其功能主要是解释计算机指令以及处理计算机软件中的数据。
　　GPU是什么？
　　GPU，图形处理器（GraphicProcessingUnit）。一个专门的图形核心处理器。GPU是显示卡的大脑，决定了该显卡的档次和大部分性能，同时也是2D显示卡和3D显示卡的区别依据。2D显示芯片在处理3D图像和特效时主要依赖CPU的处理能力，称为软加速。3D显示芯片是将三维图像和特效处理功能集中在显示芯片内，也即所谓的硬件加速功能。
　　GPU与CPU的区别GPU的由来
　　计算机对图像进行实时渲染，一般需要经过图形流水线的过程：顶点处理图元处理栅格化片段处理像素操作，期间需要大量的计算，比如640480的分辨率的屏幕，为了显示游戏画面，大概有30万个像素需要渲染，为了让人眼看到画面动起来，其不像电影一样只需要24帧，至少需要60帧，即每秒我们需要完成1800万次单个像素的渲染，每个像素都需要经过图形流水线过程，需要耗费大量资源
　　随着图像处理对于计算机来说越来越重要，CPU越来越不从心了。CPU需要很强的通用性来处理各种不同的数据类型，同时又要逻辑判断又会引入大量的分支跳转和中断的处理。这些都使得CPU的内部结构异常复杂。
　　另一方面，当芯片的集成度增加后，漏电流也随之增大，但时钟频率的提高有限，而且晶体管的线宽很快就会到达物理极限，因此芯片的性能很难靠减小晶体管线宽来提高。
　　所以工程师们开始想办法在设计上做文章：由于图像渲染的流程是固定的，通过硬件来解决这个问题，那就设计一个不需要考虑CPU的流水线停顿、乱序执行、分支预测、内存管理、IO等等的各类问题的芯片，这其实就是GPU。并行计算
　　我们重点再介绍一下CPU并行，即并行计算
　　并行计算（ParallelComputing）是指同时使用多种计算资源解决计算问题的过程，是提高计算机系统计算速度和处理能力的一种有效手段。它的基本思想是用多个处理器来共同求解同一问题，即将被求解的问题分解成若干个部分，各部分均由一个独立的处理机来并行计算。
　　并行计算可分为时间上的并行和空间上的并行时间上的并行是指流水线技术，采用流水线，可以在同一时间启动两个或两个以上的操作，大大提高计算性能。空间上的并行是指多个处理机并发的执行计算，即通过网络将两个以上的处理机连接起来，达到同时计算同一个任务的不同部分，或者单个处理机无法解决的大型问题。GPU架构优化
　　我们来看看，现代的GPU为了图形渲染、深度学习上有相较于CPU更强大的性能，做出来哪些设计上的优化：由于GPU不需要考虑CPU的流水线停顿、乱序执行、分支预测等等的各类问题，只需要流式计算的功能，所以内部许多CPU的电路是不需要的，这样就节约了大量空间由于GPU相比CPU电路就简单多了，这样就可以塞入更多的电路，即更多的核，他们都是并行的，能够极大提升性能除了塞更多的核，为了更大程度提升GPU的性能，还采用SIMT技术，可以把多条数据，交给不同的线程去处理。类似于CPU中，SIMD技术，但是其只能一次性取出了固定长度的多个数据，放到寄存器里面，用一个指令去执行GPU同样采用超线程技术，当任务计算遇到停顿的时候，调度一些别的计算任务给当前的ALU，这样就需要保证核心中提供更多的执行上下文给ALU算数计算单元使用
　　我们再看看下面的CPU和GPU的架构图，想必会有所得CPU架构图
　　GPU架构图
　　从架构图我们就能很明显的看出，GPU的构成相对简单，GPU采用流式并行计算模式，每一个计算单元可以单独负责一个像素点，每个像素点不依赖旁边像素点的数据，所以每个计算单元都是独立并行的，不需要控制器额外干涉。
　　CPU的核数一般2，4，8核；但是GPU可以达到上千核拥有数量非常多的计算单元和超长的流水线，计算能力非常强悍，特别适合处理大规模并发计算
　　我们需要知道GPU无法单独工作，必须由CPU进行控制调用才能工作。CPU可单独作用，处理复杂的逻辑运算和不同的数据类型，但当需要大量的处理类型统一的数据时，则可调用GPU进行并行计算。GPU和CPU的应用场景
　　小结一下CPU需要很强的通用性来处理各种不同的数据类型，同时又要逻辑判断又会引入大量的分支跳转和中断的处理。这些都使得CPU的内部结构异常复杂，采用的是精兵战术，能力强，但数量少，擅长逻辑控制，串行运算。GPU面对的则是类型高度统一的、相互无依赖的大规模数据和不需要被打断的纯净的计算环境，采用的是人海战术，单个能力弱，但数量众多，擅长的是大规模并发计算。
　　虽然GPU是为了图像处理而生的，随着时代的发展，现在GPU不仅可以在图像处理领域大显身手，它还被用来深度学习、科学计算、密码破解、数值分析，海量数据处理，金融分析等需要大规模并行计算的领域。
　　本篇文章到这里就结束啦，如果我的文章对你有所帮助，还请帮忙一键三连：点赞、关注、收藏，你的支持会激励我输出更高质量的文章，感谢！
　　计算机内功、源码解析、科技故事、项目实战、面试八股等更多硬核文章，首发于公众号小牛呼噜噜，我们下期再见！