模型保持占用(held)机制:回合结束不再立即释放模型,进入 held 租约(config.model_hold 可配:idle_release_ms 默认3分钟——页面无人观看即释放;active_max_ms 默认30分钟——有人观看的保持上限;sweep_ms 巡检间隔);held 期间追问直接复用已绑模型免排队(delivered=live);sessions 表迁移新增 held_at 列;sse 增加 clientCount 判定观看者;前端新增保持中状态标签/徽章色,终止入口扩展至 held(主动放弃占用);smoke/README/示例配置同步更新

This commit is contained in:
2026-08-31 15:26:44 +08:00
parent 73041e6a9e
commit 5214f84612
11 changed files with 117 additions and 32 deletions
+7
View File
@@ -28,6 +28,13 @@ agent:
max_tool_iterations: 50
max_retries: 2
# 模型保持占用(held)租约:AI 答完后不立即释放模型,用户追问可直接复用。
# 页面无人观看超过 idle_release_ms 释放;有人观看最长保持 active_max_ms;sweep_ms 巡检间隔。
model_hold:
idle_release_ms: 180000 # 3 分钟
active_max_ms: 1800000 # 30 分钟
sweep_ms: 10000 # 10 秒
# 内置 basic auth(可选)。若已在前面放 nginx-proxy 做认证,此处留空即可。
# auth:
# user: admin