模型调度改造:去排队去独占,key 共享并发+「最不 active」优先级选 key;绑定持久化、失效自动改选,弹窗任意可选

This commit is contained in:
2026-09-27 20:51:34 +08:00
parent 3084e4f28a
commit de1a6b59a9
13 changed files with 230 additions and 372 deletions
+2 -3
View File
@@ -34,13 +34,13 @@ router.post('/:id/stop', wrap((req, res) => {
res.json(r);
}));
// 断开:held 会话主动放弃模型保持租约,结版为已完成(非终止)
// 断开:held 会话收起「保持中」态,结版为已完成(纯状态动作:key 非独占,无模型可释放,绑定仍在可继续用)
router.post('/:id/release', wrap((req, res) => {
res.json(engine.releaseHold(req.params.id));
}));
// 清空会话内容:删除全部消息记录,保留会话本身与任务目录文件(不再随下条消息重发旧历史)。
// 状态收尾为已完成并释放模型/出队;正在执行的回合会被拒绝(需先「终止」)。
// 状态收尾为已完成(绑定保持,下次发言沿用原模型);正在执行的回合会被拒绝(需先「终止」)。
router.delete('/:id/messages', wrap((req, res) => {
const r = engine.clearSessionMessages(req.params.id);
log.info('msg', (req.user || '-') + ' ' + req.params.id + ' 清空会话内容(文件保留)');
@@ -99,7 +99,6 @@ router.get('/:id/stream', (req, res) => {
status: session.status,
phase: session.phase,
model_id: session.model_id,
queue_pos: session.status === 'queued' ? engine.queuePosition(session.id) : null,
});
});
+3 -12
View File
@@ -90,7 +90,7 @@ router.post('/', wrap((req, res) => {
}));
// 列表查询参数(2.0):
// status=active|done|all 归档分组:active=排队/活跃/保持,done=已完成/已终止
// status=active|done|all 归档分组:active=活跃/保持(含遗留 queued),done=已完成/已终止
// q=关键词 标题或消息内容 LIKE 搜索
// before + before_id 游标分页(上一页末行的 updated_at,id),避免 offset 翻页在
// updated_at 变动时重复/漏行
@@ -128,15 +128,6 @@ router.get('/', wrap((req, res) => {
+ whereSql + ' ORDER BY updated_at DESC, id DESC LIMIT ?'
);
const rows = stmt.all.apply(stmt, args.concat([limit]));
const qpos = db.prepare(
'SELECT session_id, ROW_NUMBER() OVER (ORDER BY queued_at, id) AS pos FROM wait_queue'
).all();
const posMap = {};
for (const r of qpos) posMap[r.session_id] = r.pos;
for (const row of rows) {
row.queue_pos = row.status === 'queued' ? (posMap[row.id] || null) : null;
}
if (req.query.with_total === '1') {
const cnt = db.prepare('SELECT COUNT(*) AS n FROM sessions' + whereSql);
const total = cnt.all.apply(cnt, args)[0].n;
@@ -216,7 +207,6 @@ router.get('/:id', wrap((req, res) => {
messages,
files: listTaskFiles(taskDir),
schedule,
queue_pos: session.status === 'queued' ? engine.queuePosition(session.id) : null,
running: !!(engine.getRun(session.id) || {}).looping,
has_more: hasMore, // 分页模式下:是否还有更早的历史
oldest_id: messages.length ? messages[0].id : null, // 本页最早行 id,作为下一页 before 游标
@@ -226,7 +216,8 @@ router.get('/:id', wrap((req, res) => {
// 按需加载单条消息的完整内容(用于 tool 消息的懒加载)
router.get('/:id/messages/:mid', wrap(getMessage));
// 手动占用空闲模型(仅已结版/已终止可绑,见 bindToSession):状态栏「选择模型」弹窗发起。
// 手动为会话指定模型(状态栏「选择模型」弹窗发起):不再排队/不再独占,任意空闲与否都可绑;
// 仅会话正在输出(looping)时拒绝(见 engine.bindToSession)。
// 曾有的 profile 会话模式绑定已废弃:profile 只由「阶段强制 + 模型配置默认」决定(见 engine.resolveProfileName)。
router.post('/:id/bind', wrap((req, res) => {
const mid = (req.body || {}).model_id;