深度学习基础：前馈网络、反向传播与梯度问题

1. 前馈网络基础

前馈神经网络(Feedforward Neural Network)是最基础的神经网络结构，信息从输入层单向流动到输出层，不形成循环。它由输入层、一个或多个隐藏层和输出层组成，每层神经元与下一层全连接。

前馈网络的核心是前向传播过程：输入数据通过网络层层计算，最终得到预测输出。数学上，对于第$l$层，计算过程为：
a(l)=σ(z(l))=σ(W(l)a(l−1)+b(l))a^{(l)} = \sigma(z^{(l)}) = \sigma(W^{(l)}a^{(l-1)} + b^{(l)})