From eaf2cd68f5769020b44b89022416adb4ba3e143e Mon Sep 17 00:00:00 2001 From: kicer Date: Sat, 5 Sep 2026 11:08:11 +0800 Subject: [PATCH] =?UTF-8?q?=E4=B8=8A=E4=B8=8B=E6=96=87=E5=8E=8B=E7=BC=A9?= =?UTF-8?q?=EF=BC=9Aphase-bar=20=E5=8A=A0=E5=8E=8B=E7=BC=A9=E6=8C=89?= =?UTF-8?q?=E9=92=AE=EF=BC=8C=E5=BC=B9=E7=AA=97=E9=80=89=E3=80=8C=E4=BB=85?= =?UTF-8?q?=E6=91=98=E8=A6=81/=E5=8E=8B=E7=BC=A9=E6=80=BB=E7=BB=93?= =?UTF-8?q?=E3=80=8D=E8=87=AA=E5=8A=A8=E8=B5=B0=E6=B5=81=E7=A8=8B?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit - 后端:config.yml 加 compress.prompt;engine.summarizeContext(sessionId, mode) 把 prompt 落为 type='summarize_request' 的 user 消息;runLoopInner 在 assistant_message SSE 上带 is_summary + mode 给前端;llm.buildMessages 跳过 summarize_request / archived 行避免指令污染上下文;路由 POST /:id/summarize 校验 mode ∈ {generate_only, compress_and_clear}。 - 前端:phase-bar「压缩」按钮(硬盘+下箭头 SVG 图标)取代原清空按钮; 点击弹窗三按钮(取消 / 仅摘要蓝描边 / 压缩总结警示橙);选定后后端丢请求, SSE 收到总结时按模式自动调 DELETE 清空(仅 compress_and_clear)。 - 移除 phase-bar「清空」按钮;clearChat 保留为 no-op 防外部误调。 --- app/config.example.yml | 12 ++ app/server/config.js | 21 ++- app/server/engine.js | 62 +++++-- app/server/llm.js | 8 +- app/server/public/index.html | 317 ++++++++++++++++++++++++---------- app/server/routes/messages.js | 15 ++ 6 files changed, 330 insertions(+), 105 deletions(-) diff --git a/app/config.example.yml b/app/config.example.yml index b15495a..d86fc40 100644 --- a/app/config.example.yml +++ b/app/config.example.yml @@ -76,6 +76,18 @@ model_hold: active_max_ms: 1800000 # 30 分钟 sweep_ms: 10000 # 10 秒 +# 上下文压缩:顶栏「压缩」按钮触发时把这段 prompt 作为 user 消息发给 AI, +# 要求它回顾整段对话并生成结构化总结;收到回复后由前端弹窗询问是否物理清空历史, +# 仅保留这条总结作为后续对话的唯一上下文,省 token。可按需改写 prompt(中文/英文均可)。 +compress: + prompt: | + 请基于以上全部对话历史,生成一段结构化总结,作为之后继续对话的唯一上下文。要求: + 1) 提炼关键事实、决定、约束、待办; + 2) 保留用户的偏好与命名约定; + 3) 忽略寒暄与已完成的工具调用细节; + 4) 中文输出,简洁。 + 直接输出总结正文即可,不要加前言/标题/列表前缀。 + # 登录认证(推荐启用):多用户,用户名/明文密码直接配在这里(自用场景)。 # 登录页 /login,会话 token 以 HttpOnly cookie 下发(替代 nginx htpasswd: # 手机浏览器原生下载不带 Basic 认证头,cookie 则会自动携带,下载不再失败)。 diff --git a/app/server/config.js b/app/server/config.js index 5fed77d..e74ed9b 100644 --- a/app/server/config.js +++ b/app/server/config.js @@ -17,11 +17,22 @@ const DEFAULTS = { // 缺省取 workspace_root 的同级目录 skills(如 /workspace/tasks → /workspace/skills)。timeout_ms 为单个技能执行超时,默认 120000。 skills: { skills_root: '', timeout_ms: 120000 }, // 回合结束后模型保持占用(held)的租约:页内无人观看超过 idle_release_ms 则释放; - // 即便一直有人观看,最长也只保持 active_max_ms;sweep_ms 为巡检间隔。 - // 「绑定模型但闲置」的会话(从未发言、无未回应消息)同样按此租约释放,防建而不用霸占模型。 - model_hold: { idle_release_ms: 180000, active_max_ms: 1800000, sweep_ms: 10000 }, - // 日志等级:debug < info < warn < error < none,只输出 >= 阈值等级的日志;none=全部静默。 - log_level: 'info', + // 即便一直有人观看,最长也只保持 active_max_ms;sweep_ms 为巡检间隔。 + // 「绑定模型但闲置」的会话(从未发言、无未回应消息)同样按此租约释放,防建而不用霸占模型。 + model_hold: { idle_release_ms: 180000, active_max_ms: 1800000, sweep_ms: 10000 }, + // 日志等级:debug < info < warn < error < none,只输出 >= 阈值等级的日志;none=全部静默。 + log_level: 'info', + // 上下文压缩:顶栏「压缩」按钮触发时把这段 prompt 作为 user 消息发给 AI, + // 要求它回顾整段对话并生成结构化总结;收到回复后由前端弹窗询问是否物理清空历史, + // 仅保留这条总结作为后续对话的唯一上下文,省 token。可按需改写 prompt(中文/英文均可)。 + compress: { + prompt: '请基于以上全部对话历史,生成一段结构化总结,作为之后继续对话的唯一上下文。要求:\n' + + '1) 提炼关键事实、决定、约束、待办;\n' + + '2) 保留用户的偏好与命名约定;\n' + + '3) 忽略寒暄与已完成的工具调用细节;\n' + + '4) 中文输出,简洁。\n' + + '直接输出总结正文即可,不要加前言/标题/列表前缀。', + }, platforms: [], // 登录认证:{ users: [{user, password}], secret?, ttl_ms? },密码明文存配置(自用场景)。 // users 为空则不启用认证(可交给前置 nginx-proxy,但手机浏览器原生下载不带 Basic 头,不推荐)。 diff --git a/app/server/engine.js b/app/server/engine.js index 3ee7115..0aa16e0 100644 --- a/app/server/engine.js +++ b/app/server/engine.js @@ -487,9 +487,22 @@ async function runLoopInner(sessionId, run) { })) : null, }; const assistantId = saveMessage(sessionId, msgRow); - if (isErrAck) log.info('msg', sessionId + ' 本轮 tool call 参数错误,assistant 标记 errAck(不再进入模型上下文)'); - recordModelUsage(sessionId, session.model_id, result.usage); - bus.emit(sessionId, 'assistant_message', { id: assistantId, content: msgRow.content, reasoning: msgRow.reasoning, tool_calls: msgRow.tool_calls, type: msgRow.type }); + if (isErrAck) log.info('msg', sessionId + ' 本轮 tool call 参数错误,assistant 标记 errAck(不再进入模型上下文)'); + recordModelUsage(sessionId, session.model_id, result.usage); + // 「压缩」按钮触发的总结请求:判别 = 本轮上一条 user 消息的 type 是 summarize_request + // (反向查找最靠近本轮的 user/type=summarize_request)。该标志传到前端后,前端按用户在弹窗 + // 选的模式走后续。mode 从发起请求时记录在 run 上的 summaryMode 取(不入库)。 + const isSummary = !!db.prepare( + "SELECT 1 FROM messages WHERE session_id = ? AND role = 'user' AND type = 'summarize_request' AND id < ? ORDER BY id DESC LIMIT 1" + ).get(sessionId, assistantId); + bus.emit(sessionId, 'assistant_message', { + id: assistantId, content: msgRow.content, reasoning: msgRow.reasoning, + tool_calls: msgRow.tool_calls, type: msgRow.type, + is_summary: isSummary, + mode: isSummary ? (run.summaryMode || null) : null, + }); + // 总结走完后清除 run 上的 summaryMode,避免影响后续轮。 + if (isSummary) run.summaryMode = null; if (!hasTools) { // 回合结束;但若期间用户又发了新消息(live 投递),继续下一轮而不是收尾 @@ -778,13 +791,20 @@ function createSession(title, preferModelId, assistantType, user) { function postUserMessage(sessionId, content, opts) { const session = getSession(sessionId); if (!session) throw Object.assign(new Error('会话不存在'), { status_code: 404 }); - const messageId = saveMessage(sessionId, { role: 'user', content }); - if (!session.title) { - touch(sessionId, { title: content.slice(0, 24) }); - } - // 预建/更新 run 记录,记下本轮的 deepThink(被 runLoop / callModel 读取) - const run = getRun(sessionId, true); - run.deepThink = !!(opts && opts.deepThink); + // opts.type: 落库时给该 user 消息带上 type 标记。 + // 用于「压缩」按钮触发时给总结指令打 type='summarize_request',使 llm.buildMessages 跳过、 + // 并让 runLoopInner 识别到后给对应的 assistant_message SSE 加 is_summary: true 标志。 + const messageId = saveMessage(sessionId, { role: 'user', content, type: (opts && opts.type) || null }); + if (!session.title) { + touch(sessionId, { title: content.slice(0, 24) }); + } + // 预建/更新 run 记录,记下本轮的 deepThink(被 runLoop / callModel 读取) + const run = getRun(sessionId, true); + run.deepThink = !!(opts && opts.deepThink); + // opts.mode 仅用于「压缩」总结:runLoopInner 在 emit assistant_message 时带上 mode, + // 让前端在收到 AI 总结时知道该走 generate_only 还是 compress_and_clear 后续流程。 + // mode 不入库 messages.type(它是 session 级别上下文,不属于某条消息的属性)。 + run.summaryMode = (opts && opts.type === 'summarize_request') ? (opts.mode || null) : (run.summaryMode || null); if (session.status === 'active' && run.looping) { // 正在跑:下一轮迭代会从 DB 重新加载历史,自动带上这条消息 return { message_id: messageId, delivered: 'live' }; @@ -872,6 +892,27 @@ function deleteSession(sessionId, deleteDir) { return { ok: true }; } +// 上下文压缩:phase-bar「压缩」按钮触发。把 config.yml 的 compress.prompt 作为一条 type='summarize_request' +// 的 user 消息发出去,AI 收到后会基于历史生成总结并以 assistant 消息回复。 +// llm.js 已规则:type='summarize_request' 跳过该行——所以该指令不会反复出现在后续请求中污染上下文。 +// 由 runLoopInner 在 assistant_message emit 时根据"上一条 user 消息是 summarize_request" +// 决定是否带 is_summary: true,并带上 mode 给前端,前端按用户选择的模式走完最后一步。 +// 限制:与 clearSessionMessages 类似——会话执行中(active)禁止操作,避免和正在跑的回合抢上下文。 +// mode: 'generate_only' 或 'compress_and_clear',由路由校验后传入。 +function summarizeContext(sessionId, mode) { + const session = getSession(sessionId); + if (!session) throw Object.assign(new Error('会话不存在'), { status_code: 404 }); + const run = runs.get(sessionId); + if (run && run.looping) { + throw Object.assign(new Error('任务正在执行,请先「终止」再压缩'), { status_code: 409 }); + } + const prompt = cfg && cfg.compress && cfg.compress.prompt; + if (!prompt) throw Object.assign(new Error('配置缺少 compress.prompt,请检查 config.yml'), { status_code: 500 }); + // 复用 postUserMessage:opts.type='summarize_request' 给该消息打标, + // opts.mode 用于 runLoopInner SSE 带 mode 返回给前端。 + return postUserMessage(sessionId, prompt, { type: 'summarize_request', mode }); +} + // 清空会话的对话内容:删除该会话的全部消息记录,但保留会话本身与任务目录文件。 // 状态收尾为 completed(释放模型占用、移出等待队列);此后再次发言从零开始, // 不再携带旧历史。执行中的会话不允许清空,需先「终止」。 @@ -970,6 +1011,7 @@ module.exports = { renameSession, deleteSession, clearSessionMessages, + summarizeContext, deleteMessage, getSession, getRun, diff --git a/app/server/llm.js b/app/server/llm.js index 463a759..2df4b40 100644 --- a/app/server/llm.js +++ b/app/server/llm.js @@ -44,6 +44,10 @@ function decodeBlocks(content) { // 关联 tool 回执按 id 一并跳过(否则会留下无 tool_call 配对的孤儿 tool 消息,上游拒收); // 改以一条 user 错误提示替代,让模型看到原因后重新生成工具调用 —— // 坏样本留在上下文里只会被模型继续模仿,反复报同一个错。 +// summarize_request 行(顶栏「压缩」按钮触发的总结指令,role=user, type='summarize_request'): +// 这条 user 是让 AI 做总结用的中间产物,AI 给出总结后就会被前端清空;为防用户在被清空前又发新消息 +// 触发新一轮模型调用,这条指令会污染上下文(让 AI 误以为还要再总结),所以 buildMessages 直接跳过。 +// 同时跳过 type='archived' 的中间态归档行(保留接口给将来需要时用,目前主流程走前端物理清空)。 function buildMessages(session, language) { const messages = [{ role: 'system', content: systemPromptText(language) }]; const history = session.history; @@ -57,7 +61,9 @@ function buildMessages(session, language) { } const dropToolCallIds = new Set(); history.forEach((row, i) => { - if (row.role === 'assistant') { + // summarize_request / archived:UI 可见,但不再进入模型上下文(避免污染 / 节省 token) + if (row.type === 'summarize_request' || row.type === 'archived') return; + if (row.role === 'assistant') { if (row.type === 'errAck') { let calls = []; try { calls = JSON.parse(row.tool_calls || '[]') || []; } catch (_) {} diff --git a/app/server/public/index.html b/app/server/public/index.html index 8a64dec..5b7589e 100644 --- a/app/server/public/index.html +++ b/app/server/public/index.html @@ -13,15 +13,36 @@ - +