ChatGPT 模型蒸餾訓練資料是甚麼？

它怎樣用於訓練？

輸出蒸餾會用教師模型為任務提供候選答案。經規則或人工檢查後，把輸入和合格答案配成樣本，用於對學生模型做監督式微調（SFT）。最後用學生從未見過的樣本評測。人工撰寫的問答也可以做 SFT，但不能因此稱為某個教師模型生成的蒸餾資料。

一筆資料長甚麼樣？

常見格式是 JSONL，每行一筆記錄。對話式樣本用 messages 記錄角色和內容；單輪任務也常用 prompt / completion。每筆資料還可在獨立清單內記錄任務標籤、來源、審核狀態及所屬分組。欄位名稱和類型要與訓練工具的輸入約定一致。

{"messages":[{"role":"user","content":"為這句話分類，只回傳包含 intent 的 JSON：收到貨後發現型號不對，我想換貨。"},{"role":"assistant","content":"{\"intent\":\"exchange\"}"}]}

這筆樣本教的是把客戶請求轉為固定欄位；評測時可檢查 JSON 能否解析、intent 是否正確。更複雜的任務也一樣：提供足夠的輸入背景，訂好輸出格式，再定義怎樣才算通過。

常見任務與驗收方式

客服意圖分類

輸入是去識別化的客戶問題，輸出是固定意圖標籤；用留出樣本量度準確率和低頻類別的召回率。

結構化資訊擷取

輸入是文件或表單，輸出是約定的 JSON 欄位；檢查欄位正確率、類型及缺值處理。

程式碼修復

輸入包含最小重現範例和限制，輸出是修補程式；執行獨立單元測試，不以答案像不像教師模型為準。

怎樣判斷資料是否好用？

先移除重複與近似樣本、錯答和敏感資料。按來源、任務或時間劃分訓練集、驗證集與測試集，避免同一個問題的改寫同時進入訓練和測試。在留出集比較微調前後的任務指標；若目標是降低成本或延遲，另外實測推理開銷。樣本多不等於結果好。

採購或驗收前，核對這四項

1. 內容和數量：看真實樣本，核對任務覆蓋、語言、去重後筆數和各分組數量。
2. 檔案與欄位：確認 JSONL、Parquet 等實際格式、欄位類型、編碼及可重現的檔案清單或校驗值。
3. 來源和授權：確認記錄從何而來；如有模型生成，核對教師型號及適用條款，並確認能否作商業訓練、再分發或轉售。取得輸出不等於擁有這些權限。
4. 品質及邊界：確認審核方法、已知缺陷、訓練和評測是否隔離；把驗收標準寫入訂單或交付文件。

參考資料

• OpenAI — Model Distillation in the API
• Hugging Face TRL — Dataset formats and types
• Hugging Face Hub — Dataset cards
• OpenAI — Usage Policies