第四章：神经元（Neuron）

从单个神经元、激活函数，到 MLP、CNN、RNN、LSTM，一路走到 Attention 为何出现——本章用数字和代码把「神经网络」从黑盒拆成可计算的步骤。

读完本章，请参阅本章总结。

本章目录

• 什么是神经元
• 为什么要激活函数
• ReLU 为什么成功
• Sigmoid 为什么失败
• MLP 是什么
• CNN 为什么成功
• RNN 为什么消失
• LSTM 解决了什么
• Attention 为什么出现
• 前向传播是什么
• 反向传播是什么
• 权重初始化
• 批归一化是什么
• Dropout 是什么
• 过拟合与正则化
• 损失函数家族
• 优化器：SGD 与 Adam
• 从感知机到深度网络
• 万能近似定理的直觉