功能:回合结束自动压缩——In token 超阈值自动执行一次摘要压缩(agent.auto_compress_tokens,默认 60k,0=关)
- config.js:agent 默认段新增 auto_compress_tokens: 60000(deepMerge 保留用户覆盖值含 0;无热重载,改后重启生效,同其他 agent 参数) - engine.js:runLoopInner 各模型轮记录 run.turnMaxPt(prompt_tokens 峰值,工具迭代只会越滚越大);runLoop finally(循环完全停止 + finalize 之后)调 maybeAutoCompress——AI↔tools 交互途中绝不触发 - maybeAutoCompress 护栏:压缩回合自身不复查(防递归);取消/异常收尾/非 held 状态不触发;先发 auto_compress SSE 事件再启动压缩(同连接事件有序,早于任何流式帧) - 前端:设置页「Agent 会话」组新增「自动压缩 In 阈值(0=关)」int 项;auto_compress 监听复用手动摘要链路(pendingSummary + 摘要卡片 + 旧消息淡出存档)并 toast 提示
This commit is contained in:
@@ -15,7 +15,10 @@ const DEFAULTS = {
|
||||
// 配置留空时退到环境变量 EXECUTOR_URL / EXECUTOR_TOKEN(compose 注入)。
|
||||
executor: { url: '', token: '' },
|
||||
terminal: { default_timeout_ms: 30000, max_output_chars: 10000 },
|
||||
agent: { temperature: 1.0, max_tool_iterations: 50, max_retries: 2, language: '中文' },
|
||||
// auto_compress_tokens: 每轮回合完全结束后,若本轮 In token(各模型轮 prompt_tokens 峰值)≥ 此阈值,
|
||||
// 自动执行一次「摘要」压缩(同手动点压缩-摘要);0=永不自启。只在回合循环结束、finalize 之后检查,
|
||||
// AI↔工具交互过程中绝不触发;压缩回合自身不再复查(防递归)。改后重启生效。
|
||||
agent: { temperature: 1.0, max_tool_iterations: 50, max_retries: 2, language: '中文', auto_compress_tokens: 60000 },
|
||||
// 大图上传预处理:图片文件超过 threshold_kb 时,浏览器端询问用户后用 canvas 压缩
|
||||
// (长边 ≤ max_dim,JPEG quality)再上传,减轻服务器带宽与存储压力。参数经 /api/system/status 下发给前端。
|
||||
upload: { image_compress_threshold_kb: 1536, image_max_dim: 2000, image_quality: 0.85 },
|
||||
|
||||
@@ -376,6 +376,9 @@ async function runLoop(sessionId) {
|
||||
const run = getRun(sessionId, true);
|
||||
if (run.looping) return; // 已有循环在跑(下一轮迭代会自动带上最新消息)
|
||||
run.looping = true;
|
||||
// 回合级 In token 峰值(整轮结束后供自动压缩检查);记录本回合是否为压缩回合,压缩回合不再自启压缩防递归
|
||||
run.turnMaxPt = 0;
|
||||
const wasCompressTurn = !!run.summarizing;
|
||||
try {
|
||||
await runLoopInner(sessionId, run);
|
||||
} catch (err) {
|
||||
@@ -384,6 +387,8 @@ async function runLoop(sessionId) {
|
||||
} finally {
|
||||
run.looping = false;
|
||||
finalize(sessionId, run);
|
||||
// 自动压缩只在回合完全结束(循环已退、finalize 已收尾)后检查:AI↔tools 交互途中绝不触发
|
||||
maybeAutoCompress(sessionId, run, wasCompressTurn);
|
||||
}
|
||||
}
|
||||
|
||||
@@ -496,6 +501,8 @@ async function runLoopInner(sessionId, run) {
|
||||
const assistantId = saveMessage(sessionId, msgRow);
|
||||
if (isErrAck) log.info('msg', sessionId + ' 本轮 tool call 参数错误,assistant 标记 errAck(不再进入模型上下文)');
|
||||
recordModelUsage(sessionId, session.model_id, result.usage);
|
||||
// 回合级 In token 峰值:工具迭代只会越滚越大,取各轮 prompt_tokens 最大值作自动压缩判据
|
||||
if (msgRow.usage && msgRow.usage.pt > (run.turnMaxPt || 0)) run.turnMaxPt = msgRow.usage.pt;
|
||||
// 「压缩」回合的总结判定:压缩时不传 tools,因此本回合第一条「无 tool_calls 的收尾回复」
|
||||
// 就是摘要(compressing 取自本回合的 run.summarizing 标记);回合中间若有异常产生的
|
||||
// 工具轮(理论上不会)都是普通消息,前端照常渲染。
|
||||
@@ -910,6 +917,27 @@ function summarizeContext(sessionId) {
|
||||
return { prompt, delivered };
|
||||
}
|
||||
|
||||
// 回合结束后的自动压缩检查(由 runLoop finally 调用,即 AI↔工具循环完全停止、finalize 收尾之后)。
|
||||
// 规则:agent.auto_compress_tokens > 0 且本回合 In token 峰值(run.turnMaxPt,各模型轮 prompt_tokens 最大者)
|
||||
// ≥ 阈值 → 自动发起一次与手动「摘要」完全相同的压缩回合;阈值 0 = 永不启用。
|
||||
// 护栏:压缩回合自身不再检查(防递归);被终止的回合不触发;仅正常收尾进入 held 后触发;
|
||||
// 先发 auto_compress 事件再启动压缩,前端据此挂上收尾状态(SSE 同连接事件有序,早于任何流式帧)。
|
||||
function maybeAutoCompress(sessionId, run, wasCompressTurn) {
|
||||
try {
|
||||
if (wasCompressTurn || run.cancelled) return;
|
||||
const th = Math.floor(Number((cfg.agent || {}).auto_compress_tokens) || 0);
|
||||
const maxPt = run.turnMaxPt || 0;
|
||||
if (th <= 0 || maxPt < th) return;
|
||||
const s = getSession(sessionId);
|
||||
if (!s || s.status !== 'held') return; // 只有正常结束的回合才自动压缩;取消/已释放等状态不动
|
||||
bus.emit(sessionId, 'auto_compress', { prompt_tokens: maxPt, threshold: th });
|
||||
summarizeContext(sessionId);
|
||||
log.info('msg', sessionId + ' 自动压缩触发:回合 In ' + maxPt + ' ≥ 阈值 ' + th);
|
||||
} catch (e) {
|
||||
log.warn('msg', sessionId + ' 自动压缩启动失败:' + (e && e.message || e));
|
||||
}
|
||||
}
|
||||
|
||||
// 清空会话的对话内容:删除该会话的全部消息记录,但保留会话本身与任务目录文件。
|
||||
// 状态收尾为 completed(释放模型占用、移出等待队列);此后再次发言从零开始,
|
||||
// 不再携带旧历史。执行中的会话不允许清空,需先「终止」。
|
||||
|
||||
@@ -1741,6 +1741,14 @@
|
||||
fillToolResult(d.tool_call_id, d.content, d.is_error, d.image_url, d.msg_id);
|
||||
maybeAutoScroll();
|
||||
});
|
||||
// 后端回合结束后自动压缩触发:挂上与手动「摘要」同一套收尾链路(摘要卡片 + 旧消息淡出存档)
|
||||
es.addEventListener('auto_compress', ev => {
|
||||
const d = JSON.parse(ev.data);
|
||||
state.pendingSummary = true;
|
||||
const btn = $('compress-btn');
|
||||
if (btn) btn.disabled = true;
|
||||
toast('本轮 In ' + fmtTok(d.prompt_tokens) + ' 超过阈值 ' + fmtTok(d.threshold) + ',自动压缩上下文中…');
|
||||
});
|
||||
es.addEventListener('done', ev => {
|
||||
removeTyping(); // 本轮结束,占位亦终止(如模型报错无回复)
|
||||
// 压缩回合异常结束的兜底(模型报错回合直接 break / 被终止 → 不会有带 is_summary 的最终消息):
|
||||
@@ -3242,6 +3250,7 @@
|
||||
{ path: 'agent.max_tool_iterations', label: '单会话最大工具轮次', type: 'int' },
|
||||
{ path: 'agent.max_retries', label: '上游失败重试次数', type: 'int' },
|
||||
{ path: 'agent.language', label: '回复语言(留空不限)', type: 'text' },
|
||||
{ path: 'agent.auto_compress_tokens', label: '自动压缩 In 阈值(0=关)', type: 'int' },
|
||||
] },
|
||||
{ group: '终端工具', items: [
|
||||
{ path: 'terminal.default_timeout_ms', label: '命令默认超时(ms)', type: 'int' },
|
||||
|
||||
Reference in New Issue
Block a user