主题
通用大模型(GPT-4、Claude、Gemini、文心、通义、智谱等)在公开基准上能力突飞猛进,但一旦进入医疗问诊、金融研报、法律文书、电网调度这类高专业度、强合规、长尾术语密集的场景,通用模型的"广而不深"就暴露无遗:会编造不存在的法条、会把医学剂量单位算错、会漏掉行业黑话。行业大模型(Domain LLM / Vertical LLM)正是为弥合这一鸿沟而生——它不是要替代通用模型,而是在通用底座之上叠加领域语料、领域指令、领域评测与领域合规,形成一个"在专业任务上更准、更稳、更可控"的专用智能体。本专题系统梳理行业大模型的构建路径、典型行业案例、评估体系与决策框架,帮助 FDE 在客户现场判断"该不该建行业大模型、怎么建、怎么评"。
通用大模型 vs 行业大模型:核心权衡
理解行业大模型的第一步,是厘清它与通用大模型在四个维度上的权衡,而不是简单贴上"更专业"的标签。
第一,能力广度 vs 领域精度。通用大模型的训练语料以公开网页、书籍、代码为主(如 LLaMA 系列、GPT 系列),覆盖几乎所有自然语言任务,但在金融衍生品定价、医学影像判读、法条援引这类需要专业训练的任务上,精度天花板明显。BloombergGPT 论文给出的关键证据:在金融情感分析任务(FinBERT 风格的金融新闻情感分类)上,500 亿参数的 BloombergGPT 显著优于同时期的 GPT-3(1750 亿参数);而在通用 NLP 任务上,前者仍保持竞争力。这说明"混合训练"(领域语料 + 通用语料 ≈ 1:1)是同时拿到"领域精度"和"通用能力"的有效路径,而不是二选一。
第二,数据新鲜度与可控性。通用模型知识有训练截止日期,而金融行情、最新法规、临床指南每天都在变。行业大模型 + RAG 的组合可以在不重训模型的前提下注入实时知识,且引用来源可追溯,这对合规审查至关重要。
第三,合规与数据主权。医疗病历、金融客户数据、政务数据都不能出私域。行业大模型通常支持本地化/私有云部署,配合国产芯片(昇腾、海光)与国产框架(飞桨、MindSpore)形成"信创"栈,这是政务、央企、金融机构的硬约束。
第四,成本结构。通用 API 按 token 计费,长文本场景下成本迅速失控;自建行业大模型(尤其是 LoRA 微调 7B-14B 底座)在持续高频调用场景下,边际成本反而更低。BAAI 评测显示,RAG + GPT-4 Turbo 的组合可以在约 4% 的成本下逼近纯 GPT-4 的性能,但当调用规模进一步上升时,自建小模型 + RAG 才是长期更优解。
原则:行业大模型不是"更小的通用模型",而是"通用能力 + 领域知识 + 领域工具 + 领域合规"的工程化叠加。
行业大模型的构建路径:五层叠加
无论是医疗、金融、法律还是能源,一个成熟的行业大模型系统几乎都遵循同一条五层叠加路径。理解这条路径,FDE 才能在客户现场快速诊断"现在缺哪一层"。
第一层,通用底座选型。基座决定上限。开源底座常见选择:Qwen(7B/14B/72B)、ChatGLM(6B/130B)、Baichuan、Llama 3(8B/70B)、DeepSeek(67B/V3)。选型要考虑中文能力、上下文长度、商用授权、生态成熟度。2025 年 DeepSeek-V3/R1 因推理能力强且开源,被南方电网"大瓦特"平台、政务系统快速接入,是基座选型风向变化的典型信号。
第二层,行业语料持续预训练(CPT, Continual Pre-Training)。BloombergGPT 的 FINPILE(3630 亿 token 的金融语料)是教科书案例:包含彭博多年积累的金融新闻、SEC 文件、研报、新闻稿、网络抓取的金融内容。LaWGPT 的做法是先扩充法律领域专有词表,再用大规模中文法律语料(法条、案例、法律新闻)做增量预训练。这一层的关键是语料治理——去重、去噪、版权清洗、敏感信息脱敏,往往占整个项目 60% 以上的工时。
第三层,监督微调(SFT)。DISC-LawLLM 开源了 30 万条法律微调数据,涵盖法律咨询、文书生成、知识问答等任务。SFT 的作用是把"知道"变成"会做"——让模型学会按行业格式输出、引用法条编号、按医学指南结构化诊断。三种主流 SFT 方式:全参数微调(效果上限高、成本最高)、LoRA/QLoRA(只训练低秩适配器、性价比高、是当前主流)、P-tuning(轻量但能力有限)。LoRA-CPT 在增量预训练中也已成为性价比最优解。
第四层,RAG(检索增强生成)。RAG 是行业落地的"外挂知识库":把企业内部文档(病历、合同、政策库、设备手册)向量化,推理时检索 Top-K 注入 prompt。它的最大价值是知识可更新、可追溯、可撤回,无需重训模型。医疗、法律、政务这类知识更新频繁、引用必须可溯源的场景,RAG 是必选项而非可选项。
第五层,Agent 与工具调用。行业场景往往需要"模型 + 工具":医疗大模型调用 HIS/电子病历 API、金融大模型调用行情与研报数据库、政务大模型调用办事指南与工单系统。Agent 层(ReAct、Function Calling、多轮规划)把模型从"问答机"升级为"任务执行者",是行业大模型从 PoC 走向生产的临门一脚。
医疗大模型:从 Med-PaLM 到国产全栈
医疗是行业大模型最严苛的试验场:错误代价高(误诊可能致命)、术语密度大、强监管(《医疗器械分类目录》《人工智能医用软件产品分类界定指导原则》)、多模态刚需(影像 + 文本 + 检验)。
谷歌 Med-PaLM 是里程碑。2023 年 7 月,Google Research 与 DeepMind 在《Nature》发文:Med-PaLM 在 USMLE(美国医学执照考试)类问题上达到 67.6% 准确率(初版,比此前最好模型提升 17 个百分点),Med-PaLM 2 进一步提升至 85%+;在专家评估中,一组临床医生对 Med-PaLM 回答的科学一致性评分达 92.6%,与真人医生(92.9%)几乎相当。后续谷歌推出商业版 MedLM 和开源版 MedGemma,后者在医学问答基准上达 87.7% 准确率,成本约为行业标杆的 1/10。
华为盘古医学大模型走的是"全栈国产"路线:盘古医学大模型 + 盘古药物分子大模型 + 基因测序大模型,算力基座是昇腾云服务,面向病理诊断、医学影像(支持 2500 张影像秒级调阅)、药物研发、健康管理四大场景。2024 年的合作动态密集:与迪安诊断发布"迪安医检大模型"(自动报告总结、疾病风险分析),与润达医疗签署全面战略合作,与翰宇药业探讨多肽药物设计。
平安医疗大模型则在国际基准 HealthBench(OpenAI 发布,覆盖 60 个国家、26 个医学专业、262 名医生共建、5000 组多轮医疗对话、48562 项评测指标)上达到世界一流水平,是国内医疗大模型走向国际评测的代表性案例。蚂蚁集团在 2024 WAIC 发布多模态医疗大模型,并推出医疗可信一体机、可信云基础设施,解决"病历不出院"的合规诉求。
警示:医疗大模型 90% 的失败不在模型,而在数据治理——病历脱敏不彻底、标注医生资质不达标、影像质量控制缺失,都会让模型在真实临床环境中"翻车"。FDE 在医疗现场第一周就要把数据合规与标注流程摆上桌面。
金融大模型:从 BloombergGPT 到轩辕、百灵
金融是行业大模型商业化最成熟的赛道:预算充足、数据结构化程度高、ROI 可量化(研报生成、风控审核、合同比对都能算出节省的人力工时)。
BloombergGPT(2023 年 3 月,500 亿参数)是金融大模型的奠基之作。其训练数据为 FINPILE(3630 亿 token 金融语料)+ 3450 亿 token 通用语料,约 1:1 混合,在 512 块 40GB A100 上从头训练。它在金融情感分析、命名实体识别、金融新闻摘要、金融问答等任务上显著优于 GPT-3,同时保持通用 NLP 竞争力。它给行业的最大启示不是参数规模,而是"混合训练比例"和"领域语料治理"这两个工程经验。
国内金融大模型代表性的是度小满"轩辕"系列和蚂蚁"百灵"。轩辕 176B(2023 年 5 月,基于 BLOOM-176B)是国内首个开源千亿级中文金融对话大模型;轩辕 70B 在 C-Eval、CMMLU 上曾位列所有开源模型第一;轩辕 13B(2024 年 1 月)覆盖基座、对话、int4/int8 量化版本,在 GitHub、HuggingFace、ModelScope 完全开源,降低了金融大模型的入场门槛。
蚂蚁百灵大模型采用 MOE 架构,提供 14B/72B 两种参数规格,应用场景覆盖:研判观点提取、金融意图理解、金融事件推理、智能金融助手;在 B 端与工商银行等头部机构开展实际部署,在 C 端服务支付宝金融助手。某大型金融机构用百灵做合同风险点标注,落地效果显著。
金融大模型的核心难点不在模型,而在风控与合规:模型生成的研报必须可溯源(否则违反《证券法》对投研报告的披露要求)、客户数据必须脱敏(《个人信息保护法》《征信业管理条例》)、模型决策必须可解释(银保监会对风控模型的"可解释性"硬要求)。因此 RAG(确保引用来源)+ 人工复核 + 模型日志审计,是金融行业大模型的标配三件套。
法律大模型:从开源微调到大众 AI 助手
法律场景天然适合大模型:法条文本结构化、案例可检索、文书有模板,但又有极强的专业门槛——一字之差(如"定金"vs"订金")法律后果完全不同。
开源法律大模型梯队:LaWGPT(2023 年 5 月)基于 Chinese-LLaMA/ChatGLM 扩充法律词表 + 大规模法律语料预训练 + ChatGPT 清洗问答数据微调;LexiLaw 基于 ChatGLM-6B 做法律指令微调,定位法律咨询;DISC-LawLLM(复旦大学 DISC 实验室,2023 年 9 月)是学术代表作,开源 30 万条微调数据,构建了司法评测基准,具备法律推理与知识检索能力。
商业化产品方面,百度"法行宝"(law.baidu.com)基于文心大模型 + 法律知识图谱,提供智能咨询、法律意见书生成、类案推荐、法规参考,免费服务已覆盖 940 万用户,是国内大众法律 AI 助手的标杆。智合接入 DeepSeek 等先进模型,为法律人提供 AI 法律研究、合同审查、文书起草、文件问答等专业工具。"法观 LawGPT"由中国司法大数据研究院、天同律师事务所等联合研发,定位为面向司法机关与专业律所的 AI 解决方案。
法律大模型的评估基准 LawBench(以及上海交大智慧司法研究院的同类体系)采用四级指标:功能指标(法条援引、类案匹配、文书生成)、性能指标(准确率、召回率)、安全性指标(不得生成违法建议)、质量指标(语言专业性),是行业大模型评估方法论的范本。
政务大模型:12345 与办事大厅的智能化
政务大模型的驱动力很实在:12345 热线、办事大厅、信访系统的人力成本巨大,而 80% 的市民诉求集中在 20% 的高频问题上(户籍、社保、公积金、城管投诉),天然适合大模型分流。
杭州是典型样本。2025 年 4 月,杭州市信访局与杭报集团联合上线"民呼我为·灵光小杭"智能问政系统,由 12345 政务热线与"橙市互动"平台联合打造,可回答大部分政务相关问题。人民日报 2026 年初的报道进一步指出,杭州在 2024 年 12345 政务热线接听中持续优化"未解决诉求"智能标签算法。
其他城市的实践:广州在 2025 年 1 月完成全国首个政务领域 DeepSeek 国产化适配;苏州部署智能话务大模型(智能填单、知识推荐、智能派单);浦东新区 2025 年 6 月上线 12345 市民服务热线大模型,依托政务云本地化部署;辽宁政务大模型智能派单准确率超 90%,诉求响应时间缩短 30%,经验向海南、青海、长春等地复制推广。
政务大模型的关键约束是"本地化部署 + 合规备案"。市民诉求涉及个人隐私(姓名、住址、身份证号),不能上公有云 API;政务回复必须基于现行政策,不能"瞎编"办事流程。因此几乎所有政务大模型都采用"通用底座 + 政策知识库 RAG + 本地化部署"的标准架构。
制造与能源行业大模型:央企主导的千亿级竞赛
能源与制造是行业大模型"参数军备竞赛"最激烈的赛道,且由央企主导。
能源电力领域:国家电网 2024 年 12 月发布国内首个千亿级多模态电力行业大模型"光明",覆盖电力生产、建设、管理、运营全链条,技术合作方包括阿里巴巴;南方电网"大瓦特·驭电"智能仿真大模型入选 2024 年度央企十大国之重器,2025 年 2 月完成 DeepSeek 接入;国家能源集团"擎源"是全球首个千亿级发电行业大模型。据行业统计,能源电力领域已涌现超 28 款大模型,几乎清一色央企出品。
制造业大模型的应用场景更细分:工业知识问答(设备手册、SOP)、质量缺陷检测(多模态视觉)、供应链预测(时序 + 文本)、代码生成(PLC 编程、MES 系统对接)。美的"美擎"、海尔卡奥斯工业大模型、三一重工的工业 AI 平台都在各自细分场景探索。制造业大模型的特点是"多模态 + 边缘部署":设备振动、温度、视觉缺陷数据要就地处理,而非全部上云。
能源与制造大模型的共性挑战是 OT(运营技术)与 IT 的融合:工厂里的 PLC、SCADA、DCS 系统协议繁杂,大模型要接入这些系统需要大量工程适配。FDE 在这类现场的第一周,往往不是看模型,而是摸清客户的设备资产清单与数据接口现状。
行业大模型的评估:行业专用基准是刚需
通用基准(MMLU、C-Eval、CMMLU)对行业大模型几乎失效——一个在 CMMLU 上第一的模型,可能在金融衍生品定价或医学影像判读上一塌糊涂。因此每个行业都发展出了自己的专用基准。
医疗:MEDQA、MedMCQA、HealthBench(OpenAI,5000 组多轮医疗对话、48562 项指标)、MedBench(国内)。Med-PaLM 系列就是靠 USMLE/MedQA 这套基准立住口碑的。
金融:FinEval(上海财大开源的中文金融考试题库)、金融大模型评测体系 2.0(2025 年上海发布,4 个公开数据集 + 22 个自建数据集、约 3.6 万条评测数据,采用循环选项打乱与多样化提示词,并研发了"金融裁判大模型"实现全流程自动评测)、人民大学的矩阵化金融 RAG 评估基准。
法律:LawBench(上海交大智慧司法研究院同类体系,功能/性能/安全/质量四级指标)、DISC-LawLLM 的司法评测基准。
跨行业:中国信通院的"方升"测试体系(覆盖金融、医疗、工程、教育、法律、科研、设计、汽车、机器人等),以及 BAAI 汇总的 283 个 LLM 基准测试,是评估选型的总入口。
评估铁律:行业大模型必须用行业基准 + 业务真实数据双轨验证。基准分高不代表业务可用——金融大模型在 FinEval 上 90 分,也可能在真实研报生成时被分析师一句"这不像人写的"否决。
何时建行业大模型,何时用通用 + RAG:决策框架
这是 FDE 在客户现场被问得最多的问题。下面给出一个五维决策框架。
第一维,知识更新频率。高频更新(行情、政策、案例)优先 RAG;低频稳定(医学基础知识、基础法律条文)可考虑内化到模型。
第二维,合规与数据主权。涉及客户隐私(病历、征信、政务诉求)且不能出私域,优先自建或私有化部署行业大模型;数据可上云且合规允许,通用 API + RAG 性价比更高。
第三维,任务结构化程度。高度结构化(票据识别、合同比对、表单抽取)用通用模型 + 工具往往就够;高度非结构化且专业(医学影像诊断、法律推理、金融风控建模)需要行业大模型深度定制。
第四维,调用规模与边际成本。低频调用选 API;高频海量调用(如 12345 每天 10 万通话)自建模型边际成本更低。
第五维,差异化与壁垒需求。如果行业智能是客户的战略资产(医院的核心诊疗 AI、券商的核心投研 AI),自建行业大模型形成壁垒;如果是辅助工具,通用模型足够。
简化决策口诀:先 RAG 后微调,先 LoRA 后全参,先小模型后大模型,先 PoC 后规模化。绝大多数行业场景,通用大模型 + 高质量 RAG + 工具调用,就能解决 70% 的问题;剩下的 30% 才是行业大模型的真正战场。
中国行业大模型生态与合规:备案与信创
中国行业大模型的落地绕不开两个合规要件:大模型备案与信创适配。
大模型备案依据是 2023 年 8 月实施的《生成式人工智能服务管理暂行办法》。截至 2024 年 12 月 31 日,国家网信办累计公示备案 302 款大模型,其中 2024 年新增 238 款,北京独占 85 款(占比超 40%)。备案分两级:大模型本体由国家网信办备案,通过 API 调用已备案模型的应用由属地网信办备案。备案材料需提交模型基本情况、训练算力、训练语料与标注规范、内容安全与算法安全评估报告。医疗、法律、政务等高敏行业,备案通过周期通常 3-6 个月,FDE 项目排期必须把这个时间算进去。
信创(信息技术应用创新)是央企、政务、金融的硬约束:大模型必须能在国产芯片(昇腾 910B、海光 DCU)和国产框架(飞桨、MindSpore)上运行。这正是国产底座(盘古、文心、通义、智谱、DeepSeek)在行业市场占据主导的根本原因——不是模型能力一定更强,而是合规适配成本更低。2025 年 DeepSeek 之所以被政务、能源、金融系统大规模接入,正是它在开源、国产化部署、推理成本三个维度同时占优。
合规提醒:行业大模型上线前要同时过三关——网信办的内容安全备案、行业主管部门的业务资质(医疗需 NMPA 医疗器械二类/三类证、金融需监管沙盒、政务需信创认证)、客户的内部安全审计。FDE 必须在 Design 阶段就把这三关列入里程碑。
本专题小结
行业大模型不是"通用大模型的对手",而是它的延伸与深化。一条主线贯穿所有行业:通用底座 + 行业语料持续预训练 + SFT(LoRA 为主)+ RAG + Agent,五层叠加形成完整栈。医疗(Med-PaLM、盘古医学、平安)、金融(BloombergGPT、轩辕、百灵)、法律(LaWGPT、DISC-LawLLM、法行宝)、政务(12345 大模型)、能源(光明、大瓦特、擎源)各自走出了不同节奏——医疗强监管、金融重商业化、法律看开源、政务拼本地化、能源比参数。评估必须用行业专用基准(MedQA/FinEval/LawBench),通用基准对行业模型基本失效。决策框架的核心是:先 RAG 后微调,绝大多数场景通用 + RAG 已够用,真正需要自建行业大模型的,是那些知识低频更新、合规要求私域、任务高度专业、调用规模巨大、且智能本身是战略壁垒的场景。在中国市场,备案(累计 302 款)与信创是两条硬红线,FDE 必须在方案设计阶段就把它们计入排期。
本专题来源
- Google Research & DeepMind,《Towards Expert-Level Medical Question Answering with Large Language Models》,Nature,2023-07-12
- Bloomberg,《BloombergGPT: A Large Language Model for Finance》,arXiv:2303.17564,2023-03-30
- 复旦大学 DISC 实验室,DISC-LawLLM,arXiv:2309.11325,2023-09;GitHub: github.com/FudanDISC/DISC-LawLLM
- 度小满,轩辕金融大模型开源仓库,GitHub: github.com/Duxiaoman-DI/XuanYuan;ModelScope: modelscope.cn/organization/Duxiaoman-DI
- 蚂蚁集团官网,百灵大模型介绍,antgroup.com/technology;蚂蚁数科金融推理大模型发布,量子位,2025-07
- 国家互联网信息办公室,《关于发布生成式人工智能服务已备案信息的公告》,2024-04-02 / 2025-01-08,cac.gov.cn
- 国家电网"光明"电力大模型发布,人民日报/新华网,2024-12-23;南方电网"大瓦特"入选 2024 央企十大国之重器,中国电力新闻网,2025-01
- 杭州市信访局,《"民呼我为·灵光小杭"智能问政系统上线》,hzxf12345.gov.cn,2025-04-03
- 中国信息通信研究院,《大模型基准测试体系研究报告(2024)》——"方升"测试体系,caict.ac.cn,2024-07
- 上海市人民政府,《金融大模型评测体系 2.0 版发布》,shanghai.gov.cn,2025-12-29
- 上海交通大学智慧司法研究院,法律大模型评估指标体系,zhsf.sjtu.edu.cn
- 百度"法行宝"智能法律服务,法治网报道,legaldaily.com.cn,2024-03-01
- 华为企业业务,智慧医疗解决方案,e.huawei.com/cn/industries/healthcare
- OpenAI,HealthBench 医疗大模型基准;平安医疗大模型 HealthBench 表现,pingan.cn
- Red Hat,《RAG 与微调:有何区别》;阿里云,《全参、LoRA、RAG 选型决策》;火山引擎,《大模型 SFT 实践落地十问十答》