Musicaldg
← Blog

系列

Imitation Learning

从行为克隆到偏好优化,理解模仿学习中监督信号如何逐步抽象。

01
约 10 分钟

Behavior Cloning 与 PLID

说明 Behavior Cloning 的状态分布偏移,并推导 PLID / DAgger 如何用交互式专家标签修正策略。

阅读全文
02
约 10 分钟

Distribution Matching 与 GAIL

从轨迹与状态—动作分布匹配出发,说明 Forward KL 为何可能退化为 BC,以及 GAIL 如何用判别器完成分布匹配。

阅读全文
03
约 13 分钟

IRL、RLHF 与 DPO

从逆强化学习出发,说明如何从专家行为与人类偏好学习目标,并连接到 RLHF 与 DPO。

阅读全文