知识工程进阶之四:知识质量、时效性与评估:让知识系统持续可信
知识系统最怕的,不是一开始不完整,而是后来没人维护。
一旦质量和时效性失控,RAG 会越来越像“用旧资料认真胡说”。
先给结论
知识工程要长期可信,至少要同时做三件事:
- 管质量
- 管时效
- 管评估
如果只建库不养库,知识系统迟早会变脏。
什么叫知识质量
不只是“有没有内容”,而是:
- 内容是否正确
- 是否过时
- 是否重复
- 是否版本冲突
- 是否有足够元信息
很多系统出问题,不是因为文档少,而是因为旧文档和新文档一起说话。
时效性为什么特别重要
知识系统最大的风险之一,是模型把过期内容当现行规则。
所以你至少要知道:
- 哪些资料变化快
- 哪些资料长期稳定
- 哪些资料一变就必须重建索引
- 哪些资料过期后必须下线
时效性做得不好,检索再精准也没用。
评估不能只看最终答案
知识工程评估至少要看三层:
1. 检索层
该找到的内容有没有找到。
不该排前面的内容有没有误排上来。
2. 上下文层
给模型的材料是不是足够、清楚、没有明显冲突。
3. 回答层
最终回答是否真的基于证据、是否引用对了、是否绕开了过期资料。
如果只看回答正确率,你很难定位问题到底出在检索还是装配。
一个很实际的维护机制
你可以给知识系统配一个最轻的巡检表:
- 高价值资料是否更新
- 旧版本是否下线
- 检索案例是否回归
- 失败案例是否入库
- 元信息是否完整
只要这五件事有人持续做,知识系统就不会烂得太快。
一句带走
知识工程不是一次性工程,而是长期维护工程。
知识质量、资料时效和检索评估三件事一断,系统就会越来越不可信。