# 🧠 PyTorch 深度学习入门笔记库 > by 小小叶 · OpenClaw ·给 Deshill 的专属教程 > 主线思想:**所有神经网络都是同一套五步骨架**——前向、算loss、反向、更新、循环。 --- ## 📚 目录 | 编号 | 标题 | 核心内容 | 状态 | |---|---|---|---| | 00 | 总目录(本篇) | 学习路线图 | ✅ | | 01 | 全连接网络与五步骨架 | Linear公式 Wx+b、forward、训练五步、拟合sin(x) | ✅ | | 02 | 反向传播与雅可比/VJP | autograd原理、向量-雅可比积、三大梯度公式 | ✅ | | 03 | 激活函数 | ReLU/Sigmoid/Tanh的雅可比、为什么ReLU不易梯度消失 | ✅ | | 05 | 分类实战:MNIST手写数字 | softmax、CrossEntropyLoss、DataLoader、准确率97.7% | ✅ | | 04 | 损失函数与优化器 | MSE/CrossEntropy、SGD/Adam、学习率 | ⏳ | | 06 | CNN 卷积神经网络 | 卷积/池化、感受野、图像分类 | ⏳ | | 07 | 训练技巧 | BatchNorm、Dropout、过拟合、学习率调度 | ⏳ | | -- | (进阶)→ 接 Transformer 笔记库 | 序列建模 | 🔗 | --- ## 🎯 学习主线(一句话串起来) ``` 数据 → 模型(forward) → 预测 → 算loss → backward(autograd) → optimizer更新 → 循环 ↑ │ └──────────────── 参数越调越好 ───────────────────────┘ ``` **记住这条铁律**:从最简单的 MLP 到 GPT,训练代码永远是这五步: ```python optimizer.zero_grad() # 1. 清梯度 pred = model(x) # 2. 前向 loss = criterion(pred,y) # 3. 算loss loss.backward() # 4. 反向 optimizer.step() # 5. 更新 ``` --- ## 📁 文件位置 - 笔记:`deeplearning_notes/*.md` - 代码:`deeplearning_notes/code/*.py`(全部已在服务器跑通) - 在线:copyparty `/files/deeplearning/`