feat: route fixed information chats by model
This commit is contained in:
@@ -172,6 +172,8 @@ PERIODIC_REPORT_MAX_ATTEMPTS=3
|
||||
|
||||
周期报告会选择“周期报告”能力已开启的可用模型,主题摘要和成长档案会选择“摘要沉淀”能力已开启的可用模型。若找不到匹配模型,会自动回退默认主模型,不会因为分流配置缺失直接中断任务。
|
||||
|
||||
固定信息问答采用保守分流:只有本轮最终召回并采用的知识全部属于固定信息类时,才选择“固定信息”能力模型;混合召回、未命中和其他知识问答仍使用默认主模型。场景模型在尚未输出任何内容前调用失败,会自动重试默认主模型;已经输出部分内容后不会重新生成,避免重复内容。
|
||||
|
||||
部署迁移后,旧版本原来启用的模型会自动成为默认主模型。新增其他模型时建议按以下顺序操作:
|
||||
|
||||
1. 保存模型并执行“测试”;
|
||||
@@ -180,6 +182,8 @@ PERIODIC_REPORT_MAX_ATTEMPTS=3
|
||||
4. 如需让低成本模型承担报告,应取消默认主模型的“周期报告”能力,避免默认模型优先命中;
|
||||
5. 在数据看板“模型使用与成本”中核对实际模型和成本。
|
||||
|
||||
如线上发现固定信息模型质量或稳定性异常,可在“系统配置 / AI 问答”关闭“固定信息模型分流”,下一次提问立即恢复为默认主模型,无需重新部署。后台 Agent 预览选择默认主模型时会复用正式分流规则;显式选择非默认模型时视为人工调试覆盖,不执行自动分流。
|
||||
|
||||
停用或删除唯一默认主模型会被后端拒绝,必须先启用并设置替代主模型。该限制用于避免生产聊天突然变成无模型可用。
|
||||
|
||||
## 回滚原则
|
||||
|
||||
Reference in New Issue
Block a user