白盒蒸馏（White-box Distillation）：蒸馏时，学生模型不仅可以访问教师模型的最终输出（logits），还可以获取其中间层特征、注意力矩阵等内部表示。典型做法是让学生模仿教师每一层的隐藏状态（如Hinton的FitNet），通过均方误差（MSE）约束中间特征。优点是信息丰富，学生能学习到更细腻的语义表征，精度更高；缺点是必须拥有教师模型的全部权重和结构，适用于开源教师（如LLaMA、Falcon）。
黑盒蒸馏（Black-box Distillation）：学生模型只能访问教师模型的API输出，即给定输入，获得文本生成结果或概率分数，无法窥探中间层。在GPT-4、Claude 3等闭源商业模型上，这是唯一可行的蒸馏方式。通常做法是：使用大量提示词（Prompts）调用API，收集输入-输出对，然后作为监督数据训练学生模型（类似模仿学习）。其缺点是信息流通量小，仅能模仿最终行为，不易学习到内部的推理路径；优点是实操性强，不依赖开源权重。
在大模型时代的实际意义：黑盒蒸馏远大于白盒蒸馏。原因：
主流最强大的模型（GPT-4、Gemini等）均为闭源，白盒蒸馏无从下手。
工业界常用“大模型生成数据 → 小模型微调”流程，本质就是黑盒蒸馏，且可通过思维链（CoT）数据让学生学习推理步骤，弥补信息不足。
即使开源模型可用，黑盒方案也因实现简单（只需调用API，无需加载庞大师模型）而更受欢迎，尤其在算力有限的团队中。
前沿改进：为提高黑盒效果，可采用“上下文蒸馏”（通过构造多样的任务提示词）或“指令回译”等方法增强数据多样性。