从 Bit 到 AGI

用程序员视角,从比特、数学、信息论一路讲到 Transformer、训练、推理与 AGI,共十二阶段 186 篇。

作者 David更新于

一条从 0 和 1 走到 AGI 的学习路径:不讲玄学,只讲程序员能亲手验证的直觉与工程。

本专栏 186 篇(十二阶段),每章独立成册,可顺序阅读,也可按需跳转。

第 1 章  比特(Bit)
    ↓
第 2 章  数学(Math)
    ↓
第 3 章  信息(Information)
    ↓
第 4 章  神经元(Neuron)
    ↓
第 5 章  Transformer
    ↓
第 6 章  Token
    ↓
第 7 章  训练(Training)
    ↓
第 8 章  推理(Inference)
    ↓
第 9 章  GPU
    ↓
第 10 章 自己训练一个模型
    ↓
第 11 章 工程化(Serving)
    ↓
第 12 章 未来(AGI)

十二阶段

  1. 第一章:比特(Bit) — 20 篇 · Everything is Bits
  2. 第二章:数学(Math) — 15 篇 · 程序员视角的数学
  3. 第三章:信息(Information) — 10 篇 · 信息论与语言模型
  4. 第四章:神经元(Neuron) — 20 篇 · 神经网络基础
  5. 第五章:Transformer — 20 篇 · 统一世界的架构
  6. 第六章:Token — 10 篇 · Tokenizer
  7. 第七章:训练(Training) — 20 篇 · 从预训练到对齐
  8. 第八章:推理(Inference) — 15 篇 · 让模型跑起来
  9. 第九章:GPU — 10 篇 · 硬件与算力
  10. 第十章:自己训练一个模型 — 20 篇 · 端到端实战
  11. 第十一章:工程化(Serving) — 15 篇 · 生产级部署
  12. 第十二章:未来(AGI) — 10 篇 · 通向 AGI

附录

  • AI术语大全 — 全书约 120 条术语总索引(按章节 + A–Z 缩写速查)

适合谁

  • 想搞懂 LLM 但不想先啃四年数学系的程序员
  • 已经会用 API,想知道「模型里面到底发生了什么」的工程师
  • 打算自己训模型、部署服务、做 Agent 的实践者

写作原则

  1. 先比特,后 AI——第一章完全不碰模型,先把「世界如何被计算机表示」讲透。
  2. 代码优先——能用十行 Python 或一张图说清楚的,不写公式堆砌。
  3. 可跳转——每篇独立成文,目录即知识地图。

本页目录