From 33ee43e73009b4b5e9597c84fb2931b980e5216c Mon Sep 17 00:00:00 2001 From: kicer Date: Sat, 5 Sep 2026 12:58:24 +0800 Subject: [PATCH] =?UTF-8?q?=E4=BB=85=E6=91=98=E8=A6=81=E8=AF=AD=E4=B9=89?= =?UTF-8?q?=E4=BF=AE=E6=AD=A3=EF=BC=9A=E6=91=98=E8=A6=81=E8=90=BD=E5=BA=93?= =?UTF-8?q?=E6=A0=87=20type=3D'summary'=EF=BC=8C=E4=B9=8B=E5=89=8D?= =?UTF-8?q?=E5=8E=86=E5=8F=B2=E6=A0=87=20archived=20=E4=B8=8D=E5=86=8D?= =?UTF-8?q?=E5=8F=91=E7=BB=99=E6=A8=A1=E5=9E=8B=EF=BC=9B=E9=87=8D=E8=BF=9B?= =?UTF-8?q?=E4=BC=9A=E8=AF=9D=E6=81=A2=E5=A4=8D=E6=91=98=E8=A6=81=E5=8D=A1?= =?UTF-8?q?=E7=89=87=20+=20=E6=B7=A1=E8=89=B2=E5=AD=98=E6=A1=A3=E6=AE=B5?= =?UTF-8?q?=E8=AF=B4=E6=98=8E?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- app/server/engine.js | 23 ++++++++++- app/server/llm.js | 20 +++++----- app/server/public/index.html | 74 +++++++++++++++++++++++++++++------ app/server/routes/messages.js | 5 ++- 4 files changed, 95 insertions(+), 27 deletions(-) diff --git a/app/server/engine.js b/app/server/engine.js index a9e884b..82b752a 100644 --- a/app/server/engine.js +++ b/app/server/engine.js @@ -507,8 +507,25 @@ async function runLoopInner(sessionId, run) { is_summary: isSummary, mode: isSummary ? (run.summaryMode || null) : null, }); - // 总结走完后清除 run 上的 summaryMode,避免影响后续轮。 - if (isSummary) run.summaryMode = null; + if (isSummary) { + // 摘要落地:不管哪种模式,这条收尾答复都在库里标成 type='summary' + //(前端重渲染成摘要卡片;也是模型上下文的起点),并把之前的消息存档: + // type='archived' 行 UI 照常展示,但 buildMessages 不再发给模型—— + // 后续对话从这条摘要开始,旧历史不再烧 token。 + // 两种模式的差别只在收尾:compress_and_clear 时前端另调 DELETE ?keep=summary + // 把存档行物理删除(仅留摘要);generate_only 则保留展示。 + // session_context 行不存档:它是环境信息,始终随新回合发送(loadHistoryForModel 置顶)。 + // 旧摘要行(多轮压缩)一并存档:被新摘要覆盖替代,不再进上下文。 + run.summaryMode = null; + if ((msgRow.content || '').trim()) { + db.prepare("UPDATE messages SET type = 'summary' WHERE id = ?").run(assistantId); + const n = db.prepare( + "UPDATE messages SET type = 'archived' WHERE session_id = ? AND id < ?" + + " AND (type IS NULL OR type != 'archived') AND (name IS NULL OR name != 'session_context')" + ).run(sessionId, assistantId).changes; + log.info('msg', sessionId + ' 压缩摘要 ' + assistantId + ' 落库,存档之前 ' + n + ' 条消息(不再发给模型)'); + } + } if (!hasTools) { // 回合结束;但若期间用户又发了新消息(live 投递),继续下一轮而不是收尾 @@ -906,6 +923,8 @@ function deleteSession(sessionId, deleteDir) { // 由 runLoopInner 在压缩回合的最终答复(无 tool_calls 且紧邻上一条 user 是 summarize_request) // emit 时带 is_summary: true,并带上 mode 给前端,前端按用户选择的模式走完最后一步 //(compress_and_clear 时调 DELETE ?keep=summary 清空历史、仅留该摘要并标 type='summary')。 +// 两种模式收尾都一样先落库:摘要行标 type='summary',它之前的全部消息标 type='archived' +//(UI 保留展示、不再发给模型,后续对话从摘要开始);区别只在 compress_and_clear 额外物理删除。 // 限制:与 clearSessionMessages 类似——会话执行中(active)禁止操作,避免和正在跑的回合抢上下文。 // mode: 'generate_only' 或 'compress_and_clear',由路由校验后传入。 // 响应回显 prompt:前端「开始压缩后直接把压缩指令渲染成一条普通用户消息气泡」,无需再拉配置。 diff --git a/app/server/llm.js b/app/server/llm.js index 3425295..382d3d5 100644 --- a/app/server/llm.js +++ b/app/server/llm.js @@ -40,18 +40,18 @@ function decodeBlocks(content) { // 省 token:image_url 块仅在其位于最后一条 assistant 消息之后(模型尚未对它回复)时保留; // 之前的视为已消费,发请求时替换为文字标记。DB 始终存全量:UI 历史照常渲染图片, // 模型如需重看可再次 read_file(新消息在尾部,会重新携带图片)。 +// 压缩摘要相关行(见 engine.runLoopInner / summarizeContext): +// - type='summary'(assistant,收尾答复):不跳过。它是压缩后后续轮次的上下文起点, +// 正常以 assistant 历史行发给模型;「仅摘要」与「压缩总结」两种模式都会打此标。 +// - type='archived'(压缩时摘要之前的全部旧行,含旧摘要/指令/工具轮):不发模型。 +// 这是「仅摘要」的核心语义:UI 照常保留展示,但后续对话从摘要开始,旧历史不再烧 token; +// 「压缩总结」则另由前端 DELETE keep=summary 把存档行物理删除。 +// - type='summarize_request'(压缩指令):只在触发的那一压缩回合内发给模型(见下方判定), +// 回合完成后不再携带,防旧指令让 AI 误以为还要再总结。 // errAck 行(AI tool call 参数错误,见 engine.checkToolArgs):整条不发给模型, // 关联 tool 回执按 id 一并跳过(否则会留下无 tool_call 配对的孤儿 tool 消息,上游拒收); // 改以一条 user 错误提示替代,让模型看到原因后重新生成工具调用 —— // 坏样本留在上下文里只会被模型继续模仿,反复报同一个错。 -// summarize_request 行(顶栏「压缩」按钮触发的总结指令,role=user, type='summarize_request'): -// 它是压缩回合要执行的正式指令,必须发给模型;但只在「触发的那一回合还活着」时携带: -// 其后还没有无 tool_calls 的 assistant 收尾回复 = 回合进行中(含工具循环的中间迭代, -// 指令需持续在上下文里,否则 AI 中途忘掉自己该总结什么);已有收尾回复(摘要已产出)则跳过, -// 防历史保留(generate_only)或清空前用户又发新消息时,旧指令污染后续轮次(让 AI 误以为还要再总结)。 -// 同时跳过 type='archived' 的中间态归档行(保留接口给将来需要时用,目前主流程走前端物理清空)。 -// 注意:type='summary'(「压缩总结」后保留的唯一摘要锚点)不跳过:它是清空后后续轮次的上下文起点, -// 正常以 assistant 历史行发给模型。 function buildMessages(session, language) { const messages = [{ role: 'system', content: systemPromptText(language) }]; const history = session.history; @@ -60,8 +60,8 @@ function buildMessages(session, language) { for (const row of history) if (row.role === 'tool' && row.tool_call_id) toolRowById.set(row.tool_call_id, row); let lastAssistant = -1; for (let i = history.length - 1; i >= 0; i--) { - // errAck 不发模型,不算「模型已回复」:它之前的图不算被消费,下次仍携带 - if (history[i].role === 'assistant' && history[i].type !== 'errAck') { lastAssistant = i; break; } + // errAck / archived 不发模型,不算「模型已回复」:它们之前的图不算被消费,下次仍携带 + if (history[i].role === 'assistant' && history[i].type !== 'errAck' && history[i].type !== 'archived') { lastAssistant = i; break; } } const dropToolCallIds = new Set(); // summarize_request 「已答复」判定的前置信息:最后一次「回合收尾回复」(无 tool_calls 的 assistant)的位置。 diff --git a/app/server/public/index.html b/app/server/public/index.html index 533bda8..cc90d0c 100644 --- a/app/server/public/index.html +++ b/app/server/public/index.html @@ -46,6 +46,13 @@ padding: 10px 13px 12px; } .msg-summary-body .bubble-ai { margin: 0; font-size: 14px; line-height: 1.7; } + /* 「仅摘要」后摘要之前的旧历史:UI 保留但变淡,尾部附存档说明(不再发给 AI) */ + .msg-archived { opacity: .55; } + .archived-note { + display: flex; align-items: center; gap: 8px; + margin: 10px 0 12px; font-size: 11px; color: var(--gray); + } + .archived-note::before, .archived-note::after { content: ''; flex: 1; height: 1px; background: var(--border); } /* 状态栏图标按钮(压缩):仅显示 SVG、去掉文字 padding;保持与文字按钮同高。 */ .stop-link.icon-only { padding: 0 8px; line-height: 0; } .stop-link.icon-only .ic { width: 18px; height: 18px; vertical-align: middle; } @@ -695,12 +702,29 @@ updatePhaseBar({ model_id: s && s.model_id, queue_pos: detail.queue_pos }); const box = $('chat-view'); box.innerHTML = ''; + // 存档段(type='archived',「仅摘要」时摘要之前的旧历史):连成一截淡色容器, + // 段尾插一条「已存档、不再发给 AI」说明,紧接摘要卡片,一眼能看出上下文从哪里算起。 + let arcWrap = null; + const closeArc = () => { + if (!arcWrap) return; + arcWrap.insertAdjacentHTML('beforeend', + '
以上消息已存档,不再发送给 AI;后续对话从摘要开始
'); + arcWrap = null; + }; for (const m of detail.messages || []) { + let target = box; + if (m.type === 'archived') { + if (!arcWrap) { arcWrap = document.createElement('div'); arcWrap.className = 'msg-archived'; box.appendChild(arcWrap); } + target = arcWrap; + } else { + closeArc(); + } const node = msgNode(m); - if (node) box.insertAdjacentHTML('beforeend', node); - if (m.role === 'assistant') appendToolCardsFromAssistant(m, box); + if (node) target.insertAdjacentHTML('beforeend', node); + if (m.role === 'assistant') appendToolCardsFromAssistant(m, target); else if (m.role === 'tool' && m.tool_call_id) fillToolResult(m.tool_call_id, m.content, !!m.is_error, undefined, m.id); } + closeArc(); if (!(detail.messages || []).length) { box.innerHTML = '
描述你的需求,AI 会和你讨论并直接干活。
'; } @@ -1056,10 +1080,10 @@ // ---------- 「压缩」上下文总结 ---------- // 用户点 phase-bar「压缩」按钮 → 弹窗选后续动作: // 取消:不做任何事 - // 仅摘要(generate_only):发请求让 AI 总结,完成后保留全部历史(仅 UI 多一条摘要卡片参考) - // 压缩总结(compress_and_clear):发请求让 AI 总结,完成后自动调 DELETE ?keep=summary - // 清空历史(仅保留最后一条并标成 type='summary'),前端直接移除旧消息 DOM, - // 不重新刷新摘要消息(压缩过程中摘要内容已经流式发给用户了)。 + // 仅摘要(generate_only):AI 总结落库后,后端把摘要标 type='summary'、之前的消息标 type='archived' + // (UI 保留全部展示,但旧消息不再发给模型);前端把摘要前旧消息就地淡出存档。 + // 压缩总结(compress_and_clear):同上,另由前端自动调 DELETE ?keep=summary 物理清空, + // 聊天里只留摘要卡片(不可恢复)。 // 开始压缩后:后端响应回显 prompt,前端把它直接渲染成一条普通用户消息气泡; // 压缩回合中间的 AI 回复(思考/工具调用等)全部按普通消息渲染; // 只有回合收尾的那条最终答复才带 is_summary,渲染成摘要卡片。 @@ -1103,9 +1127,9 @@ '