---

一、整体思路

这道题考察的不是某个单点技术，而是端到端的方案设计能力。

垂直领域微调大模型，核心挑战在于：领域知识深、数据稀缺、容错率低、合规要求高。

医疗、法律、金融三个领域各有特点：

• 医疗：术语多、知识更新快、错误代价高、隐私要求严；
• 法律：条文复杂、逻辑严密、时效性强、引用要求高；
• 金融：数据敏感、市场变化快、合规严格、风险敏感。

完整方案需要覆盖：

$$ \text{数据} \rightarrow \text{方法} \rightarrow \text{评估} \rightarrow \text{部署} $$

下面按这条主线展开。

---

二、数据方案

1、数据来源

（1）领域文档

• 医疗：临床指南、医学教材、病历、论文、药品说明书；
• 法律：法律法规、判例、合同、法律意见书；
• 金融：研报、财报、公告、监管文件、交易数据。

（2）指令数据

• 领域问答对；
• 任务指令，如摘要、分类、抽取、生成；
• 人工编写或专家审核。

（3）对话数据

• 真实客服对话；
• 专家模拟对话；
• 多轮交互数据。

（4）合成数据

• 用强模型生成；
• 用规则模板生成；
• 专家审核后使用。

2、数据质量

垂直领域数据质量要求极高：

• 准确性：事实、术语、引用必须正确；
• 时效性：法规、指南、市场数据要及时更新；
• 合规性：隐私、版权、授权要合法；
• 一致性：格式、术语、风格要统一。

3、数据清洗

• 去重：精确 + 近似；
• 去噪：错误、无关、低质；
• 格式统一：模板、特殊 token；
• 分布平衡：任务、领域、难度；
• 隐私处理：脱敏、匿名化。

4、数据配比

• 领域数据：60%–80%；
• 通用数据：20%–40%，防止灾难性遗忘；
• 指令数据：覆盖核心任务；
• 安全数据：合规、拒绝、边界。

5、数据标注

• 专家标注，如医生、律师、分析师；
• 制定标注规范；
• 多人交叉验证；
• 质量控制：一致性、抽检。

6、数据合规

• 隐私：HIPAA、GDPR、个人信息保护法；
• 版权：文档授权；
• 授权：数据使用许可；
• 审计：数据来源可追溯。

---

三、方法方案

1、基座选择

考虑因素：

• 领域能力：基座在领域上的表现；
• 模型大小：7B、13B、70B；
• 中文能力：中文领域优先中文强的基座；
• 许可证：商用许可；
• 生态：工具链、社区支持。

常见选择：

• 通用：LLaMA、Qwen、Baichuan、DeepSeek；
• 医疗：HuatuoGPT、Med-PaLM 思路；
• 法律：LawGPT、ChatLaw 思路；
• 金融：FinGPT、BloombergGPT 思路。

2、训练策略

（1）Continued Pre-training

• 注入领域知识；
• 用大量无标注领域文本；
• 学习率小，防止遗忘。

（2）SFT

• 指令微调；
• 教模型遵循指令；
• 用领域指令数据。

（3）对齐

• RLHF 或 DPO；
• 对齐人类偏好；
• 提升有用性和安全性。

（4）参数高效微调

• LoRA、QLoRA；
• 资源有限时首选；
• 多任务可切换。

3、方法选择

场景	推荐方法
资源充足、效果优先	全量 SFT + DPO
资源有限	QLoRA + DPO
领域差异大	Continued Pre-training + SFT
多任务	LoRA + 多适配器
快速迭代	LoRA

4、关键技术点

• 混合精度：BF16；
• 梯度检查点：省显存；
• ZeRO：分布式；
• 梯度累积：大 batch；
• 学习率：小，带 warmup；
• 早停：防过拟合。

---

四、评估方案

1、任务评估

• 领域问答：准确率、F1；
• 信息抽取：精确率、召回率；
• 摘要：ROUGE、事实一致性；
• 分类：准确率、F1；
• 生成：BLEU、BERTScore。

2、领域评估

• 领域 benchmark；
• 专家出题；
• 真实场景测试集。

3、通用能力评估

• MMLU、C-Eval；
• GSM8K；
• 指令跟随；
• 多语言。

防止灾难性遗忘。

4、安全评估

• 有害输出；
• 偏见；
• 越狱；
• 合规性；
• 拒绝能力。

5、事实性评估

垂直领域事实性极重要：

• 事实核查；
• 引用验证；
• 幻觉检测；
• 与知识库比对。

6、人类评估

• 专家打分；
• pairwise 比较；
• 多维度评分：准确性、完整性、安全性、有用性。

7、模型评估

• LLM-as-a-Judge；
• 奖励模型打分；
• 多模型投票。

8、评估陷阱

• 数据泄露；
• 评估集偏差；
• 指标单一；
• 过拟合评估集；
• LLM 评估偏差。

---

五、部署方案

1、推理优化

• 量化：INT8、INT4，GPTQ、AWQ；
• 推理框架：vLLM、TensorRT-LLM、SGLang；
• KV Cache 优化：PagedAttention；
• 批处理：连续批处理；
• 投机解码。

2、服务架构

• API 服务；
• 负载均衡；
• 缓存；
• 限流；
• 监控。

3、成本控制

• 模型大小选择；
• 量化；
• 批处理；
• 自动扩缩容；
• 混合部署。

4、安全合规

• 内容过滤；
• 敏感词；
• 审计日志；
• 权限控制；
• 数据加密。

5、持续迭代

• 线上反馈；
• 数据回流；
• 定期更新；
• A/B 测试。

---

六、重点考虑的问题

1、领域特殊性

• 医疗：错误代价高，需医生审核；
• 法律：引用必须准确，需法条支持；
• 金融：合规严格，需风险控制。

2、数据稀缺

• 领域数据少；
• 标注成本高；
• 用合成数据补充；
• 用强模型蒸馏。

3、知识更新

• 领域知识变化快；
• 需要持续更新；
• RAG 补充实时知识；
• 定期重新微调。

4、幻觉控制

• 垂直领域幻觉危害大；
• 用 RAG grounding；
• 引用来源；
• 拒答机制。

5、安全合规

• 隐私保护；
• 内容合规；
• 审计追溯；
• 责任界定。

6、评估困难

• 领域评估需要专家；
• 成本高；
• 自动化评估有限；
• 需要结合人工。

7、成本与效果平衡

• 大模型效果好但贵；
• 小模型便宜但效果差；
• 量化、蒸馏、混合方案。

8、多任务支持

• 领域内多任务；
• 多 LoRA；
• 统一框架。

---

七、一个完整方案示例：医疗领域

1、数据

• 来源：指南、教材、论文、病历、药品说明；
• 清洗：去重、去噪、脱敏、格式统一；
• 配比：医疗 70%，通用 30%；
• 标注：医生审核。

2、方法

• 基座：Qwen 或 LLaMA；
• Continued Pre-training：医疗文本；
• SFT：医疗指令数据；
• DPO：医生偏好数据；
• 方法：QLoRA + DPO。

3、评估

• 任务：医疗问答、诊断辅助、报告生成；
• 通用：MMLU、C-Eval；
• 安全：有害输出、隐私；
• 事实：与指南比对；
• 人工：医生评估。

4、部署

• 量化：INT4；
• 框架：vLLM；
• RAG：医学知识库；
• 安全：内容过滤、拒答；
• 监控：日志、反馈。

---

八、简单评价这道面试题

1、这道题的价值

• 这是大模型微调中最综合的一道题；
• 一道题能考察数据、方法、评估、部署全链路，以及领域特殊性；
• 区分度好，初级可能只知道 LoRA，中级能说清流程，高级能系统设计并考虑合规、幻觉、成本；
• 贴近实战，垂直领域微调是工业界最常见需求。

2、这道题的不足

• 题目非常开放，如果没有实际项目经验，容易答得空泛；
• 没有具体领域约束，答案可能不聚焦；
• 对合规、隐私等考察可能不够深；
• 没有涉及具体成本估算。

3、建议的追问方向

• 医疗领域怎么控制幻觉？
• 法律领域怎么保证引用准确？
• 金融领域怎么处理实时数据？
• 数据稀缺怎么办？
• 怎么评估领域模型？
• 怎么平衡成本和效果？

4、总体评价

这是一道很好的大模型微调综合面试题，适合考察候选人对垂直领域微调全链路的理解。它既能考察数据、方法、评估、部署的技术细节，也能延伸到合规、幻觉、成本等工程问题。如果候选人能把完整方案讲清楚，并结合领域特殊性给出针对性设计，基本可以判断其具备垂直领域大模型落地的实战能力。

---

---