卷积和池化你还不了解?笔记总结发你

发布网友发布时间：2024-12-05 22:14

共1个回答

热心网友时间：2024-12-05 22:35

卷积神经网络（CNN）是多层感知机的一种形式，其成功的关键在于局部连接和共享权重的方式。这种结构使得网络易于优化，降低了模型复杂度，从而降低过拟合风险。CNN具有良好的容错能力、并行处理能力和自学习能力，能够处理环境信息复杂、背景知识不清、推理规则不明的情况。它能够处理有较大缺损、畸变的样品，运行速度快，自适应性能好，且具有较高的分辨率。CNN通过结构重组和减少权重，将特征抽取功能融合进多层感知器，省略了识别前复杂的图像特征抽取过程。

多层神经网络包括输入层、输出层及多个隐藏层。每层由多个神经元组成，相邻层之间只连接相近的神经元，形成局部连接。卷积神经网络结构包括卷积层、降采样层、全链接层。每层有多个特征图，每个特征图通过卷积滤波器提取输入的一种特征，每个特征图包含多个神经元。

卷积神经网络的核心概念包括局部感知域、共享权重和池化。局部感知域是指与上层神经元连接的5x5区域内神经元的数量。在输入层与隐藏层之间的连接中，通过局部感知域实现局部连接，大大减少了神经网络的参数规模。卷积神经网络通常使用多个特征映射，每个映射通过不同的卷积滤波器来提取不同的图像特征。

池化层是一种非线性降采样方法，通常紧随卷积层之后。它通过简化卷积层的输出，减少计算量，同时保持图像旋转不变性。池化层可以是平均池化或最大池化，通过计算局部区域的平均值或最大值来减少特征图的大小。

CNN的训练过程需要注意数据集的划分、噪声去除、数据降维、旋转、剪裁、平移、缩放、亮度和对比度调整。数据平衡化在分类问题中非常重要，应确保每个类别在训练集中大致相等，以避免网络对某些分类过于偏斜。CNN的初始化涉及卷积层和输出层的卷积核（权重）和偏置的初始化，通常在具有0均值的相对小的区间内均匀分布。学习速率的选择对网络训练速度和收敛性有重要影响，可采用自适应学习速率方法来优化训练过程。CNN中的收敛条件可以通过训练误差、误差梯度和交叉验证来判断。

训练样例可以采用逐个样例训练（EET）或批量样例训练（BT）的方式。卷积操作是将卷积核与图像像素进行点积操作，生成新的特征图。边界补充问题通常通过边界填充来解决，例如零填充、镜像填充、边界复制填充或块填充等方法。经过卷积后，特征图的大小可以使用公式计算得出。

参数计算方法包括卷积操作和全连接层。全连接层的参数计算较为简单，而卷积层的参数计算涉及卷积核的数量、输入通道数和输出通道数。池化层不会增加参数数量，但会影响输入输出的大小。平均池化和最大池化在计算梯度时遵循梯度之和不变的原则，但最大池化需要记录最大值的位置。

图像分类中，最大池化和平均池化各有优势。最大池化更强调特征选择，提供非线性特性，而平均池化更强调整体特征信息的保留。平均池化在全局平均池化操作中应用广泛，如在ResNet和Inception结构的最后层。最大池化和平均池化在减参、控制过拟合和提高模型性能方面具有明显作用。

卷积和池化操作的计算过程涉及到参数数量和计算量（FLOPs）的计算。FLOPs是指每秒浮点运算次数，用于衡量计算效率。通过计算卷积层和全连接层的参数数量和FLOPs，可以评估CNN的计算复杂度。例如，AlexNet网络第一卷积层的计算量为105,705,600次浮点运算。