# 第四章：神经元（Neuron）

> 从 Bit 到 AGI 专栏 · 神经网络基础 · 共 20 篇

- 作者：David（道雾轩）
- 专栏：从 Bit 到 AGI（https://daiw.org/manual/bit-to-agi.md）
- 最后更新：2026-07-09
- 原文：https://daiw.org/manual/bit-to-agi/04-neural-networks
- 转载与引用：请注明出处并附原文链接（https://daiw.org/about/copyright）

从单个神经元、激活函数，到 MLP、CNN、RNN、LSTM，一路走到 Attention 为何出现——本章用数字和代码把「神经网络」从黑盒拆成可计算的步骤。

读完本章，请参阅[本章总结](https://daiw.org/manual/bit-to-agi/04-neural-networks/chapter-summary)。

## 本章目录

- [什么是神经元](https://daiw.org/manual/bit-to-agi/04-neural-networks/what-is-neuron)
- [为什么要激活函数](https://daiw.org/manual/bit-to-agi/04-neural-networks/why-activation-functions)
- [ReLU 为什么成功](https://daiw.org/manual/bit-to-agi/04-neural-networks/why-relu-wins)
- [Sigmoid 为什么失败](https://daiw.org/manual/bit-to-agi/04-neural-networks/why-sigmoid-fails)
- [MLP 是什么](https://daiw.org/manual/bit-to-agi/04-neural-networks/what-is-mlp)
- [CNN 为什么成功](https://daiw.org/manual/bit-to-agi/04-neural-networks/why-cnn-succeeds)
- [RNN 为什么消失](https://daiw.org/manual/bit-to-agi/04-neural-networks/why-rnn-vanishes)
- [LSTM 解决了什么](https://daiw.org/manual/bit-to-agi/04-neural-networks/what-lstm-solves)
- [Attention 为什么出现](https://daiw.org/manual/bit-to-agi/04-neural-networks/why-attention-emerged)
- [前向传播是什么](https://daiw.org/manual/bit-to-agi/04-neural-networks/forward-pass)
- [反向传播是什么](https://daiw.org/manual/bit-to-agi/04-neural-networks/backward-pass)
- [权重初始化](https://daiw.org/manual/bit-to-agi/04-neural-networks/weight-initialization)
- [批归一化是什么](https://daiw.org/manual/bit-to-agi/04-neural-networks/batch-normalization)
- [Dropout 是什么](https://daiw.org/manual/bit-to-agi/04-neural-networks/dropout)
- [过拟合与正则化](https://daiw.org/manual/bit-to-agi/04-neural-networks/overfitting-and-regularization)
- [损失函数家族](https://daiw.org/manual/bit-to-agi/04-neural-networks/loss-functions)
- [优化器：SGD 与 Adam](https://daiw.org/manual/bit-to-agi/04-neural-networks/optimizer-sgd-adam)
- [从感知机到深度网络](https://daiw.org/manual/bit-to-agi/04-neural-networks/from-perceptron-to-deep)
- [万能近似定理的直觉](https://daiw.org/manual/bit-to-agi/04-neural-networks/universal-approximation)