专题定位:FDE 的成长,一半靠方法论,一半靠踩过的坑。本专题汇总金融、医疗、制造、政务、Agent、RAG、部署的典型踩坑,以及一份可照用的防坑 Checklist。

一、通用踩坑(FDE 必避)

坑1:客户说什么就信什么

• 客户说的"痛点"往往不是真痛点;
• 防:多层级访谈 + 数据验证 + 现场观察。

坑2:过度承诺

• 为了拿单拍胸脯,结果做不到;
• 防:用结果定义卡 + 阶段门,管理预期。

坑3:忽视数据质量

• 假设数据干净,真实数据一塌糊涂;
• 防:Context 阶段做数据体检。

坑4:demo 思维

• 用假数据跑 demo,上线就崩;
• 防:MVD 用真实数据、处理关键异常。

坑5:不监控就上线

• 上线后两眼一抹黑,出问题不知道;
• 防:可观测前置,日志/追踪/指标/告警。

坑6:一次性全量上线

• 直接全量,一次错误毁信任;
• 防:灰度(影子→小流量→扩→全量)。

坑7:不转移能力

• 客户永远依赖你,项目收不了尾;
• 防:知识转移(文档+培训+共建)。

坑8:卷入客户政治

• 站队、被卷入派系斗争;
• 防:保持中立,聚焦业务结果。

二、金融踩坑

坑:模型不可解释被监管打回

• 金融模型必须可解释,黑盒被打回;
• 防:SHAP + 决策留痕 + 模型卡。

坑:数据出境违规

• 用海外 API 处理金融数据,违规;
• 防:私有化 + 国产模型。

坑:PSI/KS 不监控

• 模型漂移没监控,坏账上升才发现;
• 防:PSI/KS/AUC 持续监控 + 阈值告警。

坑:HITL 缺失

• 自动审批直接放贷,出了坏账难追责;
• 防:高风险人审 + 完整留痕。

三、医疗踩坑

坑:病历数据未脱敏

• PHI 泄露,违法;
• 防:脱敏后才进 AI,数据不出院。

坑:AI 输出误导医生

• 幻觉导致误诊风险;
• 防:强 HITL + 事实校验 + 引用溯源。

坑:没嵌进临床工作流

• 系统很好但医生不用(增加负担);
• 防:嵌 HIS/EMR,无感融入工作流。

坑:DRG 编码不准

• 编码错误导致医院亏损或违规;
• 防:真实 ICD/CHS-DRG 标准 + 编码员复核。

四、制造踩坑

坑:视觉质检漏检

• 模型在 demo 准,产线上漏检(光照/角度变化);
• 防:产线真实数据训练 + 鲁棒性 + 边缘部署。

坑:产线节拍跟不上

• 推理太慢,漏检;
• 防:TensorRT 加速 + 满足节拍测试。

坑:剔除机构误动作

• 把良品剔除,造成损失;
• 防:剔除阈值保守 + 双重确认。

坑:OT/IT 割裂

• AI 团队不懂 PLC,OT 团队不懂 AI;
• 防:FDE 桥接 OT/IT,或配 OT 工程师。

五、政务踩坑

坑:信创适配不全

• 上线发现某个组件不兼容;
• 防:全栈信创适配验证清单。

坑:等保不过

• 系统设计没考虑等保,测评不过;
• 防:等保要求前置进设计。

坑:派单不准引发投诉

• 派单错误,群众投诉;
• 防:派单准确率监控 + 回退人工。

坑:数据打通难

• 跨部门数据不给;
• 防:高层背书 + 数据治理。

六、Agent 踩坑

坑:Agent 死循环烧 token

• 没限制,Agent 跑飞;
• 防:步数上限 + token 上限 + 熔断。

坑:工具调用错误

• Agent 调错工具/传错参;
• 防:严格 schema + 工具白名单 + HITL。

坑:prompt injection 被劫持

• Agent 被注入,调用危险工具;
• 防:输入护栏 + 最小权限 + 沙箱。

坑:级联失败

• 一个 Agent 错连累全链;
• 防:隔离 + 熔断 + 降级。

坑:Agent 输出不稳定

• 同样输入不同输出;
• 防:temperature 调低 + 多次平均 + 评估。

七、RAG 踩坑

坑:分块太粗暴

• 固定长度切,切断语义;
• 防:语义/结构化分块。

坑:只做向量检索

• 精确匹配(型号/人名)召回不到;
• 防:混合检索(向量+BM25)。

坑:不重排

• 召回 top-k 噪声多;
• 防:加 rerank。

坑:幻觉

• 模型编造检索外的内容;
• 防:忠实度评估 + 引用溯源 + 输出护栏。

坑:评估集污染

• 评估集混进 RAG,虚高;
• 防:评估集隔离。

八、部署踩坑

坑:显存不足

• 模型装不下;
• 防:量化 + 张量并行。

坑:并发扛不住

• 大促崩;
• 防:压测 + 弹性扩缩容 + 限流。

坑:离线环境缺依赖

• 客户内网无外网,依赖装不上;
• 防:离线交付包(打包所有依赖)。

坑:版本不一致

• 开发/测试/生产环境不一致;
• 防:Docker 镜像统一 + 配置管理。

九、踩坑的共性

把所有坑放一起,共性是:

• 忽视约束(合规/算力/数据质量);
• 跳过验证(不 PoC、不评估、不灰度);
• 单点依赖(无回退、无监控、无转移);
• 沟通失真(预期不对齐、需求误解)。

防坑的总原则:尊重约束、步步验证、设计冗余、对齐预期。

十、FDE 防坑 Checklist(可照用)

Context 阶段

• [ ] 真痛点经多层级验证;
• [ ] 数据体检完成;
• [ ] 北极星对齐;
• [ ] 合规约束清单。

Design 阶段

• [ ] ≥2 候选方案;
• [ ] 关键技术 PoC;
• [ ] 合规/安全设计;
• [ ] 风险与回退。

Engineer 阶段

• [ ] MVD 真实数据;
• [ ] 可观测(日志/追踪/指标/告警);
• [ ] 护栏 + HITL;
• [ ] 压测 + 灰度。

Feedback 阶段

• [ ] 评估闭环;
• [ ] PSI/漂移监控;
• [ ] 知识转移;
• [ ] bad case 回流。

本专题小结

• 通用坑:轻信客户/过度承诺/忽视数据/demo思维/不监控/全量上线/不转移/卷政治;
• 金融坑:不可解释/数据出境/不监控漂移/HITL缺失;
• 医疗坑:未脱敏/误导医生/没嵌工作流/DRG编码;
• 制造坑:漏检/节拍/误剔/OT-IT割裂;
• 政务坑:信创不全/等保/派单/数据打通;
• Agent坑:死循环/工具错/注入/级联/不稳定;
• RAG坑:分块/单向量/不重排/幻觉/污染;
• 部署坑:显存/并发/离线依赖/版本;
• 共性:忽视约束/跳过验证/单点依赖/沟通失真;
• Checklist 按 CDEF 四阶段逐项防坑。

本专题来源:用户库《fde-delivery 70-pitfalls-checklists》《FDE实战案例集》《FDE落地方案》四份踩坑章节、OWASP、本书第 10、22 章。