Behavior Cloning 与 PLID
说明 Behavior Cloning 的状态分布偏移,并推导 PLID / DAgger 如何用交互式专家标签修正策略。
阅读全文Distribution Matching 与 GAIL
从轨迹与状态—动作分布匹配出发,说明 Forward KL 为何可能退化为 BC,以及 GAIL 如何用判别器完成分布匹配。
阅读全文IRL、RLHF 与 DPO
从逆强化学习出发,说明如何从专家行为与人类偏好学习目标,并连接到 RLHF 与 DPO。
阅读全文