ChatGPT 模型蒸馏训练数据是什么？

它怎么用于训练？

输出蒸馏用教师模型为任务提供候选答案。通过规则或人工检查后，把输入和合格答案配成样本，用于对学生模型做监督微调（SFT）。最后用学生从未见过的样本评测。仅有人工编写的问答同样可以做 SFT，但不能因此说它是某个教师模型生成的蒸馏数据。

一条数据长什么样？

常见格式是 JSONL，每行一条记录。对话式样本用 messages 记录角色和内容；单轮任务也常用 prompt / completion。每条数据还可在独立清单里记录任务标签、来源、审核状态与所属分组。字段名和类型要跟训练工具的输入约定一致。

{"messages":[{"role":"user","content":"把这句话分类，只返回包含 intent 的 JSON：收到货后发现型号不对，我想换货。"},{"role":"assistant","content":"{\"intent\":\"exchange\"}"}]}

这条样本教的是把客户请求转换为固定字段；评测时可检查 JSON 是否能解析、intent 是否正确。更复杂的任务也一样：给出足够的输入上下文，明确输出格式，再规定什么算通过。

常见任务与验收方式

客服意图分类

输入是去标识化的客户问题，输出是固定意图标签；用留出样本衡量准确率和低频类别的召回率。

结构化信息抽取

输入是一段文档或表单，输出是约定的 JSON 字段；检查字段正确率、类型，以及缺失值处理。

代码修复

输入包含最小复现和约束，输出是补丁；运行独立单元测试，不以答案写得像不像教师模型为准。

怎么判断数据能不能用？

先去掉重复与近重复样本、错答和敏感信息。按来源、任务或时间切分训练集、验证集和测试集，避免同一个问题的改写同时进入训练和测试。在留出集上比较微调前后的任务指标；若目标是节省成本或降低延迟，另外实测推理开销。样本多不等于结果好。

采购或验收前，核对这四项

1. 内容和数量：看真实样本，核对任务覆盖、语言、去重后条数和各分组数量。
2. 文件和字段：确认 JSONL、Parquet 等实际格式、字段类型、编码及可复现的文件清单或校验值。
3. 来源和授权：确认记录来自哪里；如有模型生成，核对教师型号及适用条款，并明确能否商用训练、再分发或转售。拿到输出不等于有这些权限。
4. 质量和边界：确认审核方式、已知缺陷、训练与评测是否隔离；把验收标准写进订单或交付文件。

参考资料

• OpenAI — Model Distillation in the API
• Hugging Face TRL — Dataset formats and types
• Hugging Face Hub — Dataset cards
• OpenAI — Usage Policies