2.3 KiB
2.3 KiB
V2 AI 质量问题归因闭环记录
日期:2026-06-23
本轮目标
在 AI 质量运营看板基础上,继续把异常按模型、Prompt 模板、知识库和标签类型聚合,帮助管理员找出最常见的质量失败来源。
已落地内容
-
后端质量看板增加归因聚合。
- 返回字段:
attribution - 维度:
by_modelby_prompt_templateby_knowledge_baseby_label_code
- 返回字段:
-
每个归因项包含:
total_runs:该来源涉及的总调用数。affected_runs:其中带 warning/error 质量标签的调用数。warning_labels/error_labelspending_labelsfallback_runsaverage_quality_scoretop_label_codesroot_cause_hint
-
归因提示。
- 模型维度:提示检查 Provider 配置、模型延迟、fallback。
- Prompt 维度:提示检查 token、引用约束、模板版本。
- 知识库维度:提示检查文档覆盖、索引质量、来源定位。
- 标签维度:针对
source_limited、fallback_used、token_high、latency_high等给出处理方向。
-
契约和 SDK 同步。
- OpenAPI 新增
AiQualityAttribution和AiQualityAttributionItem。 - Python SDK 新增对应模型并导出。
get_quality_dashboard()可直接解析归因结果。
- OpenAPI 新增
-
前端看板增强。
/admin/ai-quality-dashboard新增四个归因区块:- 模型归因
- Prompt 归因
- 知识库归因
- 标签归因
- 每个区块展示 Top 来源、异常占比、待处理数、常见标签和建议。
验收重点
- 访问
/admin/ai-quality-dashboard能看到四组归因区块。 - 当存在 warning/error 标签时,归因区块展示 affected runs、pending labels 和 top label codes。
- 后端
GET /api/v1/audit/quality-dashboard返回attribution。 - SDK
get_quality_dashboard()能解析dashboard.attribution.by_model和dashboard.attribution.by_label_code。
下一步建议
进入 AI 质量改进动作闭环:
- 给每个归因项增加“创建改进任务”入口。
- 将问题归因转成待办,例如“补知识库”“调整 Prompt”“切换模型”“修复 Provider 配置”。
- 在看板中追踪改进任务完成后,对应异常率是否下降。