自动微分实验室
AutoDiffLab
深度学习自动微分实验室。通过计算图可视化、前向/反向传播、链式法则,理解 PyTorch/TensorFlow 的底层原理。
自动微分: 0 / 5
挑战 1: 简单乘法
计算 f(x, y) = x * y 的梯度
计算图
前向传播值
x3.0000
y4.0000
*12.0000
f-
当 x=3, y=4 时,∂f/∂x 等于多少?
💡 自动微分核心概念
自动微分(Automatic Differentiation)是深度学习框架的核心。它将复杂函数分解为基本运算的组合, 通过链式法则自动计算梯度。有两种模式:前向模式(从输入到输出)和反向模式(从输出到输入,即反向传播)。 深度学习主要使用反向模式,因为参数数量远大于输出数量。
前向传播
计算每个节点的值,从左到右
反向传播
计算每个节点的梯度,从右到左
链式法则
∂L/∂x = ∏(∂node/∂prev)
关联教材
以下教材与本沙盒涉及的抽象层级相关,建议系统学习:
关联教材章节
以下教材章节与本沙盒涉及的抽象层级相关,建议配合阅读:
第7章深入理解计算机系统
链接
欢迎来到灰色地带
静态链接目标文件符号解析重定位
第8章深入理解计算机系统
异常控制流
操作系统:唯一的使命就是帮助程序运行
异常进程系统调用信号
第9章深入理解计算机系统
虚拟内存
假装我们有用不完的物理内存
虚拟地址页表TLB内存映射
第10章深入理解计算机系统
系统级I/O
务必搞清楚你自己正在和整个系统的哪一层打交道
文件描述符RIO包I/O重定向
第11章深入理解计算机系统
网络编程
实现古人天涯若比邻的梦想
SocketTCP/IPHTTP客户端-服务器模型
第12章深入理解计算机系统
并发编程
并发与并行,傻傻分不清楚?
线程互斥锁信号量生产者-消费者
第6章计算机系统要素
汇编器
从助记符到机器码
符号解析代码生成
第7章计算机系统要素
虚拟机(上)
栈式机器
栈操作算术指令内存访问
第8章计算机系统要素
虚拟机(下)
控制流
标签分支函数调用
第9章计算机系统要素
高级语言
Jack 语言
面向对象类型系统
第10章计算机系统要素
编译器(上)
语法分析
词法分析递归下降
第11章计算机系统要素
编译器(下)
代码生成
中间代码目标代码
学习路径推荐
建议按以下顺序学习,循序渐进掌握计算机科学:
前置沙盒(建议先学习)
使用说明
- •调整参数观察行为变化,实时反馈
- •状态自动编码到 URL,可直接分享给他人
- •支持键盘操作(Tab 切换、方向键调整)