预训练装知识,后训练学技能:从只会往下接话的续写机器,到 RLHF 与推理强化学习,大模型是怎么一步步学会说话和思考的。
也可以在这些平台看:
抖音搜索「飘零聊科技」B站 ↗视频号搜索「Hypoxanthine」 把海量互联网文本塞进模型做「预训练」,得到的其实只是一个博览群书但只会顺着往下接话的续写机器——你问它怎么登月,它可能顺手给你续写出十道课后选择题。
让模型真正学会按指令回答、学会拒绝胡编、学会长思维链推理的,是「后训练」阶段。本期视频拆解预训练与后训练的分工演进,以及过度后训练调教如何反过来催生了千篇一律的 AI 味。
← 全部内容