单层感知器
在介绍硬件具体细节之前，本课程将介绍一些有关 CNN 如何工作以及其用途的信息。CNN 广泛应用于图像和视频识别应用，因此它们无疑引起了汽车界的兴趣。CNN 与神经网络类似，由具有可学习权重和偏差的神经元组成。每个神经元接收几个输入，对它们进行加权和，将其传递给激活函数并以输出做出响应。
神经网络的基本结构是感知器。感知器如下图所示：
感知器由权重（包括称为偏差的特殊权重）、求和处理器和激活函数组成
还有一个额外的输入节点，称为偏差，它有点像
所有输入都单独加权，相加并传递到激活函数。
每个激活函数（或非线性函数）都采用单个数字并对其执行某种固定的数学运算。实际中会遇到几种激活函数：
- Sigmoid：接受实值输入并将其压缩到 0 到 1 之间的范围内
σ（x）= 1 /（1 + exp（−x））
- tanh：接受实值输入并将其压缩到 [-1, 1] 范围内
tanh(x) = 2σ(2x) − 1
- ReLU：ReLU 代表整流线性单元。它采用实值输入并将其阈值设为零（用零替换负值）
f（x）= 最大值（0，x）
Bias 的主要功能是为每个节点提供一个可训练的常数值（除了节点接收的正常输入之外）。
多层感知器
多层感知器 (MLP) 包含一个或多个隐藏层（除了一个输入层和一个输出层）。单层感知器只能学习线性函数，而多层感知器还可以学习非线性函数。
所有连接都有与之相关的权重，每一层都有自己的偏差。多层感知器学习的过程称为反向传播算法。最初，所有边权重都是随机分配的。对于训练数据集中的每个输入，神经网络都会被激活并观察其输出。将此输出与我们已经知道的期望输出进行比较，并将错误“传播”回上一层。我们会注意到这个错误，并相应地“调整”权重。重复此过程，直到输出误差低于预定阈值。“调整”权重的过程利用梯度下降算法来最小化误差函数，我们不会对此进行详细介绍。