CPU、GPU、NPU架构、特点介绍

发布网友发布时间：2024-10-16 07:12

共1个回答

热心网友时间：2024-11-08 00:36

随着人工智能的兴起和深度学习算法的广泛应用，AI芯片的算力成为衡量自动驾驶性能的关键因素。自动驾驶系统中的环境感知、传感器融合、控制决策等环节都涉及到深度学习，算法性能的优劣直接影响自动驾驶效果。因此，AI计算平台需提供足够的性能加速，同时考虑功耗与能效比。AI芯片领域主要有CPU、ARM内核、GPU、FPGA、ASIC等选择。其中，CPU执行调度处理，GPU、FPGA、ASIC等用于大量并行计算，而ASIC内部包含多种架构，如谷歌的TPU、地平线BPU、寒武纪和华为的NPU等。

之前的文章探讨了GPU等AI芯片在深度学习处理中的作用，下面从CPU与GPU架构对比、GPU特点、NPU原理及优势、CPU与GPU/NPU协同加速、FPGA原理及AI计算优势等方面进行详细阐述。

CPU遵循冯·诺依曼架构，核心是存储程序/数据与串行顺序执行，计算单元、控制单元和存储单元均衡分布。GPU则是一种大规模并行计算架构，由大量运算单元组成，专为同时处理多重并行任务设计。GPU架构中的ALU占比高达80%以上，而CPU的ALU占比仅为20%，这使得GPU在并行计算能力上远超CPU。

GPU具有以下特点：多线程、提供强大的并行计算基础结构、高访存速度、高浮点运算能力。这些特点使得GPU在深度学习中大量训练数据、矩阵、卷积运算等方面表现出色。然而，GPU在单独工作时也有缺陷，如高功耗、大体积和高昂价格。

NPU（Neural Network Process Units）神经网络处理单元，是模仿生物神经网络构建的专用芯片。NPU通过突出权重实现存储和计算一体化，显著提高运行效率。与CPU和GPU相比，NPU只需一条或几条指令就能完成神经元处理，深度学习处理效率明显优于前两者。在同等功耗下，NPU的性能是GPU的118倍。NPU与CPU协同工作，负责AI运算和AI应用实现，CPU则负责应用流畅切换、GPU支持游戏画面快速加载。

在手机SoC中，CPU、GPU、NPU协同工作。CPU负责应用切换和整体协调，GPU负责图像处理，NPU负责AI运算。CPU加载权重数据，构建神经网络模型，通过CUDA或OpenCL等类库将矩阵运算任务传送到GPU上实现并行计算，输出结果后，CPU调度下层神经元组矩阵数据计算直至完成。

NPU与GPU不同，NPU内部神经元计算结果无需输出到主内存，按神经网络连接传递到下层神经元，这种设计在运算性能和功耗上都有显著提升。CPU将编译好的神经网络模型文件和权重文件加载到专用芯片，完成硬件编程。CPU在整个运行过程中主要负责数据加载和业务流程控制。

FPGA（Field-Programmable Gate Array）现场可编程门阵列芯片，具有高性能、低功耗、可硬件编程的特点。FPGA内部集成了大量数字电路基本门电路和存储器，用户通过烧入配置文件自定义电路和存储器之间的连线。FPGA的编程逻辑块包含LUT和触发器，直接实现用户算法，无需指令系统翻译，执行效率更高。

CPU、GPU、NPU、FPGA各自具有不同特点，CPU作为通用处理器，协同其他处理器完成任务；GPU适合深度学习中的大量数据训练、矩阵运算；NPU在功耗、面积、性能上有较大优势，加速神经网络计算；FPGA适用于硬件实现算法，计算效率高，但价格相对较高。选择芯片需根据应用场景需求权衡各种因素。

总结，每种芯片在性能、功耗、面积等方面各有优势和不足。在自动驾驶、通信、大数据、图像处理等领域，AI芯片选择需结合业务需求与计算任务进行综合考量，以实现最佳性能与效率。随着AI算法的不断进化，ASIC芯片基于特定算法定制，其发展前景看好。未来，类脑芯片作为人工智能发展的最终模式，尽管离产业化尚远，但其潜力巨大。