diff --git a/app/server/config.js b/app/server/config.js index caa16f8..365a612 100644 --- a/app/server/config.js +++ b/app/server/config.js @@ -15,7 +15,10 @@ const DEFAULTS = { // 配置留空时退到环境变量 EXECUTOR_URL / EXECUTOR_TOKEN(compose 注入)。 executor: { url: '', token: '' }, terminal: { default_timeout_ms: 30000, max_output_chars: 10000 }, - agent: { temperature: 1.0, max_tool_iterations: 50, max_retries: 2, language: '中文' }, + // auto_compress_tokens: 每轮回合完全结束后,若本轮 In token(各模型轮 prompt_tokens 峰值)≥ 此阈值, + // 自动执行一次「摘要」压缩(同手动点压缩-摘要);0=永不自启。只在回合循环结束、finalize 之后检查, + // AI↔工具交互过程中绝不触发;压缩回合自身不再复查(防递归)。改后重启生效。 + agent: { temperature: 1.0, max_tool_iterations: 50, max_retries: 2, language: '中文', auto_compress_tokens: 60000 }, // 大图上传预处理:图片文件超过 threshold_kb 时,浏览器端询问用户后用 canvas 压缩 // (长边 ≤ max_dim,JPEG quality)再上传,减轻服务器带宽与存储压力。参数经 /api/system/status 下发给前端。 upload: { image_compress_threshold_kb: 1536, image_max_dim: 2000, image_quality: 0.85 }, diff --git a/app/server/engine.js b/app/server/engine.js index ae204e3..2423eb4 100644 --- a/app/server/engine.js +++ b/app/server/engine.js @@ -376,6 +376,9 @@ async function runLoop(sessionId) { const run = getRun(sessionId, true); if (run.looping) return; // 已有循环在跑(下一轮迭代会自动带上最新消息) run.looping = true; + // 回合级 In token 峰值(整轮结束后供自动压缩检查);记录本回合是否为压缩回合,压缩回合不再自启压缩防递归 + run.turnMaxPt = 0; + const wasCompressTurn = !!run.summarizing; try { await runLoopInner(sessionId, run); } catch (err) { @@ -384,6 +387,8 @@ async function runLoop(sessionId) { } finally { run.looping = false; finalize(sessionId, run); + // 自动压缩只在回合完全结束(循环已退、finalize 已收尾)后检查:AI↔tools 交互途中绝不触发 + maybeAutoCompress(sessionId, run, wasCompressTurn); } } @@ -496,6 +501,8 @@ async function runLoopInner(sessionId, run) { const assistantId = saveMessage(sessionId, msgRow); if (isErrAck) log.info('msg', sessionId + ' 本轮 tool call 参数错误,assistant 标记 errAck(不再进入模型上下文)'); recordModelUsage(sessionId, session.model_id, result.usage); + // 回合级 In token 峰值:工具迭代只会越滚越大,取各轮 prompt_tokens 最大值作自动压缩判据 + if (msgRow.usage && msgRow.usage.pt > (run.turnMaxPt || 0)) run.turnMaxPt = msgRow.usage.pt; // 「压缩」回合的总结判定:压缩时不传 tools,因此本回合第一条「无 tool_calls 的收尾回复」 // 就是摘要(compressing 取自本回合的 run.summarizing 标记);回合中间若有异常产生的 // 工具轮(理论上不会)都是普通消息,前端照常渲染。 @@ -910,6 +917,27 @@ function summarizeContext(sessionId) { return { prompt, delivered }; } +// 回合结束后的自动压缩检查(由 runLoop finally 调用,即 AI↔工具循环完全停止、finalize 收尾之后)。 +// 规则:agent.auto_compress_tokens > 0 且本回合 In token 峰值(run.turnMaxPt,各模型轮 prompt_tokens 最大者) +// ≥ 阈值 → 自动发起一次与手动「摘要」完全相同的压缩回合;阈值 0 = 永不启用。 +// 护栏:压缩回合自身不再检查(防递归);被终止的回合不触发;仅正常收尾进入 held 后触发; +// 先发 auto_compress 事件再启动压缩,前端据此挂上收尾状态(SSE 同连接事件有序,早于任何流式帧)。 +function maybeAutoCompress(sessionId, run, wasCompressTurn) { + try { + if (wasCompressTurn || run.cancelled) return; + const th = Math.floor(Number((cfg.agent || {}).auto_compress_tokens) || 0); + const maxPt = run.turnMaxPt || 0; + if (th <= 0 || maxPt < th) return; + const s = getSession(sessionId); + if (!s || s.status !== 'held') return; // 只有正常结束的回合才自动压缩;取消/已释放等状态不动 + bus.emit(sessionId, 'auto_compress', { prompt_tokens: maxPt, threshold: th }); + summarizeContext(sessionId); + log.info('msg', sessionId + ' 自动压缩触发:回合 In ' + maxPt + ' ≥ 阈值 ' + th); + } catch (e) { + log.warn('msg', sessionId + ' 自动压缩启动失败:' + (e && e.message || e)); + } +} + // 清空会话的对话内容:删除该会话的全部消息记录,但保留会话本身与任务目录文件。 // 状态收尾为 completed(释放模型占用、移出等待队列);此后再次发言从零开始, // 不再携带旧历史。执行中的会话不允许清空,需先「终止」。 diff --git a/app/server/public/index.html b/app/server/public/index.html index ab76d09..9c6c01f 100644 --- a/app/server/public/index.html +++ b/app/server/public/index.html @@ -1741,6 +1741,14 @@ fillToolResult(d.tool_call_id, d.content, d.is_error, d.image_url, d.msg_id); maybeAutoScroll(); }); + // 后端回合结束后自动压缩触发:挂上与手动「摘要」同一套收尾链路(摘要卡片 + 旧消息淡出存档) + es.addEventListener('auto_compress', ev => { + const d = JSON.parse(ev.data); + state.pendingSummary = true; + const btn = $('compress-btn'); + if (btn) btn.disabled = true; + toast('本轮 In ' + fmtTok(d.prompt_tokens) + ' 超过阈值 ' + fmtTok(d.threshold) + ',自动压缩上下文中…'); + }); es.addEventListener('done', ev => { removeTyping(); // 本轮结束,占位亦终止(如模型报错无回复) // 压缩回合异常结束的兜底(模型报错回合直接 break / 被终止 → 不会有带 is_summary 的最终消息): @@ -3242,6 +3250,7 @@ { path: 'agent.max_tool_iterations', label: '单会话最大工具轮次', type: 'int' }, { path: 'agent.max_retries', label: '上游失败重试次数', type: 'int' }, { path: 'agent.language', label: '回复语言(留空不限)', type: 'text' }, + { path: 'agent.auto_compress_tokens', label: '自动压缩 In 阈值(0=关)', type: 'int' }, ] }, { group: '终端工具', items: [ { path: 'terminal.default_timeout_ms', label: '命令默认超时(ms)', type: 'int' },