diff --git a/app/server/engine.js b/app/server/engine.js index 7533291..a9e884b 100644 --- a/app/server/engine.js +++ b/app/server/engine.js @@ -798,7 +798,8 @@ function postUserMessage(sessionId, content, opts) { const session = getSession(sessionId); if (!session) throw Object.assign(new Error('会话不存在'), { status_code: 404 }); // opts.type: 落库时给该 user 消息带上 type 标记。 - // 用于「压缩」按钮触发时给总结指令打 type='summarize_request',使 llm.buildMessages 跳过、 + // 用于「压缩」按钮触发时给总结指令打 type='summarize_request':该指令只在压缩回合内发给模型 + //(回合完成后 llm.buildMessages 不再携带,防旧指令污染后续轮次), // 并让 runLoopInner 识别到后给对应的 assistant_message SSE 加 is_summary: true 标志。 const messageId = saveMessage(sessionId, { role: 'user', content, type: (opts && opts.type) || null }); if (!session.title) { @@ -900,7 +901,8 @@ function deleteSession(sessionId, deleteDir) { // 上下文压缩:phase-bar「压缩」按钮触发。把 config.yml 的 compress.prompt 作为一条 type='summarize_request' // 的 user 消息发出去,AI 收到后会基于历史生成总结并以 assistant 消息回复。 -// llm.js 规则:type='summarize_request' 跳过该行——所以该指令不会反复出现在后续请求中污染上下文。 +// llm.js 规则:type='summarize_request' 的指令只在压缩回合进行中发给模型(回合完成后跳过), +// 既保证 AI 拿得到总结指令,又不会在后续请求里反复污染上下文。 // 由 runLoopInner 在压缩回合的最终答复(无 tool_calls 且紧邻上一条 user 是 summarize_request) // emit 时带 is_summary: true,并带上 mode 给前端,前端按用户选择的模式走完最后一步 //(compress_and_clear 时调 DELETE ?keep=summary 清空历史、仅留该摘要并标 type='summary')。 diff --git a/app/server/llm.js b/app/server/llm.js index 5dbbf87..3425295 100644 --- a/app/server/llm.js +++ b/app/server/llm.js @@ -45,8 +45,10 @@ function decodeBlocks(content) { // 改以一条 user 错误提示替代,让模型看到原因后重新生成工具调用 —— // 坏样本留在上下文里只会被模型继续模仿,反复报同一个错。 // summarize_request 行(顶栏「压缩」按钮触发的总结指令,role=user, type='summarize_request'): -// 这条 user 是让 AI 做总结用的中间产物,AI 给出总结后就会被前端清空;为防用户在被清空前又发新消息 -// 触发新一轮模型调用,这条指令会污染上下文(让 AI 误以为还要再总结),所以 buildMessages 直接跳过。 +// 它是压缩回合要执行的正式指令,必须发给模型;但只在「触发的那一回合还活着」时携带: +// 其后还没有无 tool_calls 的 assistant 收尾回复 = 回合进行中(含工具循环的中间迭代, +// 指令需持续在上下文里,否则 AI 中途忘掉自己该总结什么);已有收尾回复(摘要已产出)则跳过, +// 防历史保留(generate_only)或清空前用户又发新消息时,旧指令污染后续轮次(让 AI 误以为还要再总结)。 // 同时跳过 type='archived' 的中间态归档行(保留接口给将来需要时用,目前主流程走前端物理清空)。 // 注意:type='summary'(「压缩总结」后保留的唯一摘要锚点)不跳过:它是清空后后续轮次的上下文起点, // 正常以 assistant 历史行发给模型。 @@ -62,9 +64,23 @@ function buildMessages(session, language) { if (history[i].role === 'assistant' && history[i].type !== 'errAck') { lastAssistant = i; break; } } const dropToolCallIds = new Set(); + // summarize_request 「已答复」判定的前置信息:最后一次「回合收尾回复」(无 tool_calls 的 assistant)的位置。 + // 指令行在其之后 = 还在等 AI 响应这条指令(当前压缩回合),应发给模型;在其之前 = 旧指令,跳过防污染。 + // errAck 带 tool_calls 不在此列;历史里残留的旧指令(如 generate_only)后面必然跟着摘要收尾行,自然被跳过。 + let lastClosingAssistant = -1; history.forEach((row, i) => { - // summarize_request / archived:UI 可见,但不再进入模型上下文(避免污染 / 节省 token) - if (row.type === 'summarize_request' || row.type === 'archived') return; + if (row.role === 'assistant' && !row.tool_calls) lastClosingAssistant = i; + }); + history.forEach((row, i) => { + // archived:UI 可见,但不进入模型上下文(节省 token) + if (row.type === 'archived') return; + // summarize_request:仅在触发的那一压缩回合内发给模型(见函数头注释) + if (row.type === 'summarize_request') { + if (i > lastClosingAssistant && (row.content || '').trim()) { + messages.push({ role: 'user', content: row.content }); + } + return; + } if (row.role === 'assistant') { if (row.type === 'errAck') { let calls = [];