From ab18e17aa78887b3a7d9ef441f1eea6e6ad286b5 Mon Sep 17 00:00:00 2001 From: kicer Date: Mon, 31 Aug 2026 15:51:17 +0800 Subject: [PATCH] =?UTF-8?q?active=20=E9=97=B2=E7=BD=AE=E7=BA=B3=E5=85=A5?= =?UTF-8?q?=E4=BF=9D=E6=8C=81=E7=A7=9F=E7=BA=A6=EF=BC=9A=E6=96=B0=E5=BB=BA?= =?UTF-8?q?=E7=BB=91=E5=AE=9A=E6=A8=A1=E5=9E=8B=E5=90=8E=E4=BB=8E=E6=9C=AA?= =?UTF-8?q?=E5=8F=91=E8=A8=80=EF=BC=88=E6=88=96=E6=97=A0=20run=20=E4=B8=94?= =?UTF-8?q?=E6=97=A0=E6=9C=AA=E5=9B=9E=E5=BA=94=E6=B6=88=E6=81=AF=EF=BC=89?= =?UTF-8?q?=E7=9A=84=E4=BC=9A=E8=AF=9D=E5=90=8C=E6=8C=89=20held=20?= =?UTF-8?q?=E8=A7=84=E5=88=99=E9=87=8A=E6=94=BE=E2=80=94=E2=80=94=E6=97=A0?= =?UTF-8?q?=E8=A7=82=E7=9C=8B=E8=80=85=20idle=5Frelease=5Fms(3min)?= =?UTF-8?q?=E3=80=81=E6=9C=89=E4=BA=BA=E8=A7=82=E7=9C=8B=E4=B8=8A=E9=99=90?= =?UTF-8?q?=20active=5Fmax=5Fms(30min)=EF=BC=8C=E5=88=B0=E6=9C=9F=E5=8F=98?= =?UTF-8?q?=20completed=20=E5=B9=B6=E9=87=8A=E6=94=BE=E6=A8=A1=E5=9E=8B?= =?UTF-8?q?=EF=BC=88=E5=90=8E=E7=BB=AD=E5=8F=91=E8=A8=80=E8=87=AA=E5=8A=A8?= =?UTF-8?q?=E9=87=8D=E6=96=B0=E6=8E=92=E9=98=9F=EF=BC=89=EF=BC=8C=E5=A0=B5?= =?UTF-8?q?=E4=BD=8F"=E5=BB=BA=E8=80=8C=E4=B8=8D=E7=94=A8=E6=B0=B8?= =?UTF-8?q?=E4=B9=85=E5=8D=A0=E6=A8=A1=E5=9E=8B"=E7=9A=84=E6=BC=8F?= =?UTF-8?q?=E6=B4=9E=EF=BC=9B=E9=85=8D=E7=BD=AE=E6=B3=A8=E9=87=8A=E4=B8=8E?= =?UTF-8?q?=20README=20=E5=90=8C=E6=AD=A5?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- README.md | 2 +- app/config.example.yml | 1 + app/server/config.js | 1 + app/server/engine.js | 26 +++++++++++++++++++++++++- 4 files changed, 28 insertions(+), 2 deletions(-) diff --git a/README.md b/README.md index f45dc2d..f637142 100644 --- a/README.md +++ b/README.md @@ -85,7 +85,7 @@ models: | **保持中(held)** | AI 已答完,在租约内继续占用模型等待追问 | 有(临时保持) | 消息直接复用已绑模型,免排队 | | **已完成/已取消** | 租约到期释放、任务结束或用户终止,模型已释放 | 无 | 可继续输入,自动再次进入排队 | -> held 租约规则(`model_hold` 可配置):页面无观看者超过 `idle_release_ms`(默认 3 分钟)即释放;有人观看最长保持 `active_max_ms`(默认 30 分钟),防止挂着页面霸占模型池。 +> held 租约规则(`model_hold` 可配置):页面无观看者超过 `idle_release_ms`(默认 3 分钟)即释放;有人观看最长保持 `active_max_ms`(默认 30 分钟),防止挂着页面霸占模型池。「绑定模型但闲置」的会话(如新建后从未发言)同受此租约管理,到期自动变已完成并释放模型。 > 「已完成」和「已取消」本质相同,都回到“空闲”状态,仅记录一个结束原因。 diff --git a/app/config.example.yml b/app/config.example.yml index 166b06e..422d63d 100644 --- a/app/config.example.yml +++ b/app/config.example.yml @@ -30,6 +30,7 @@ agent: # 模型保持占用(held)租约:AI 答完后不立即释放模型,用户追问可直接复用。 # 页面无人观看超过 idle_release_ms 释放;有人观看最长保持 active_max_ms;sweep_ms 巡检间隔。 +# 新建后从未发言的空闲会话也按同一租约自动释放。 model_hold: idle_release_ms: 180000 # 3 分钟 active_max_ms: 1800000 # 30 分钟 diff --git a/app/server/config.js b/app/server/config.js index 3c05fef..9dbce3f 100644 --- a/app/server/config.js +++ b/app/server/config.js @@ -13,6 +13,7 @@ const DEFAULTS = { agent: { temperature: 1.0, max_tool_iterations: 50, max_retries: 2 }, // 回合结束后模型保持占用(held)的租约:页内无人观看超过 idle_release_ms 则释放; // 即便一直有人观看,最长也只保持 active_max_ms;sweep_ms 为巡检间隔。 + // 「绑定模型但闲置」的会话(从未发言、无未回应消息)同样按此租约释放,防建而不用霸占模型。 model_hold: { idle_release_ms: 180000, active_max_ms: 1800000, sweep_ms: 10000 }, models: [], auth: null, // { user, password },为空则不启用内置 basic auth(可交给 nginx-proxy) diff --git a/app/server/engine.js b/app/server/engine.js index 8bd6709..6bdab12 100644 --- a/app/server/engine.js +++ b/app/server/engine.js @@ -173,10 +173,12 @@ function dispatchQueued() { } } -// ---------- held 保持租约 ---------- +// ---------- 保持租约(held / active 闲置) ---------- // 回合结束后会话进入 held:继续占用模型(用户追问免排队),由 sweeper 按规则释放: // - 页面无 SSE 观看者:超过 idle_release_ms 释放; // - 有人观看:最长保持 active_max_ms(防止挂着页面霸占模型池)。 +// 「绑定了模型但闲置」的会话(active 且无 run 在跑、无未回应消息,如新建后从未发言) +// 同样受租约管理,避免建了不用的会话无限占用模型。 function releaseHeld(sessionId) { const s = getSession(sessionId); if (!s || s.status !== 'held') return; @@ -187,6 +189,19 @@ function releaseHeld(sessionId) { dispatchQueued(); } +// active 但闲置(从未发言/无未回应消息)→ 按租约释放,语义同 held 到期 +function releaseIdleActive(sessionId) { + const s = getSession(sessionId); + if (!s || s.status !== 'active' || !s.model_id) return; + const run = runs.get(sessionId); + if (run && run.looping) return; + touch(sessionId, { status: 'completed', completed_at: now() }); + releaseModel(sessionId); + bus.emit(sessionId, 'done', { status: 'completed' }); + emitStatus(sessionId); + dispatchQueued(); +} + function sweepHeld() { const holdCfg = (cfg && cfg.model_hold) || {}; const idleMs = holdCfg.idle_release_ms || 180000; @@ -197,6 +212,15 @@ function sweepHeld() { const present = bus.clientCount && bus.clientCount(s.id) > 0; if (heldSince >= (present ? activeMs : idleMs)) releaseHeld(s.id); } + // active 闲置:绑定了模型但无 run 在跑、无未回应消息(如新建后从未发言)→ 同租约释放 + for (const s of db.prepare("SELECT * FROM sessions WHERE status='active' AND model_id IS NOT NULL").all()) { + const run = runs.get(s.id); + if (run && run.looping) continue; + if (hasPendingUser(s.id)) continue; // 有消息待回应,由 runLoop 处理,不动它 + const idleSince = t - (s.updated_at || 0); + const present = bus.clientCount && bus.clientCount(s.id) > 0; + if (idleSince >= (present ? activeMs : idleMs)) releaseIdleActive(s.id); + } } let holdTimer = null;