~$ tenggouwa
~ posts inspirations lab ask about casino

$ grep -l rlhf posts/*.md

  • 对齐与安全:有用、无害、诚实的工程化

    2026-06-08

    AI 系列第 18 篇。"对齐"听起来很哲学,但它其实是一个工程问题——怎么让 LLM 在能力范围内做有用的事、拒绝有害的事、不撒谎。这一篇讲 HHH 原则、Constitutional AI、jailbreak 攻防、以及 2026 年 AI 安全的真实焦虑点。

    ai alignment safety rlhf ai-series
  • 训练管线全景:pretrain → SFT → RLHF / DPO 每一步在塞什么

    2026-05-30

    AI 系列第 9 篇。ChatGPT 不是一次训出来的。它要经过预训练 → 监督微调 → 奖励建模 → 强化学习四个阶段,每一阶段塞进去的"灵魂"完全不同。这一篇把完整管线拆开讲,最后聊聊 2024 之后 DPO 怎么把 RLHF 给简化掉了。

    ai training rlhf sft dpo ai-series
© 2026 tenggouwa · made with caffeine ☕
RSS [ uptime: ∞ ]