视频 · AI 科普 · 第 2 期

预训练和后训练:AI 是怎么学会东西的

2026年10月18日5:53抖音 · B站 · 视频号

预训练装知识,后训练学技能:从只会往下接话的续写机器,到 RLHF 与推理强化学习,大模型是怎么一步步学会说话和思考的。

也可以在这些平台看:

抖音搜索「飘零聊科技」B站 ↗视频号搜索「Hypoxanthine」

把海量互联网文本塞进模型做「预训练」,得到的其实只是一个博览群书但只会顺着往下接话的续写机器——你问它怎么登月,它可能顺手给你续写出十道课后选择题。

让模型真正学会按指令回答、学会拒绝胡编、学会长思维链推理的,是「后训练」阶段。本期视频拆解预训练与后训练的分工演进,以及过度后训练调教如何反过来催生了千篇一律的 AI 味。

← 全部内容