修复压缩根因:summarize_request 指令从未发给模型

buildMessages 之前无条件跳过 type='summarize_request' 行,导致 compress.prompt
落库但从不进入模型上下文,AI 收不到总结指令。改为条件携带:仅在压缩回合进行中
(指令行位于最后一次无 tool_calls 的 assistant 收尾回复之后)发给模型,回合完成
后照旧跳过,保留防旧指令污染后续轮次的语义(generate_only 残留、工具循环中间
迭代等场景均已覆盖验证)。
This commit is contained in:
2026-09-05 12:44:39 +08:00
parent 71b4c81c99
commit 5c19c76b59
2 changed files with 24 additions and 6 deletions
+4 -2
View File
@@ -798,7 +798,8 @@ function postUserMessage(sessionId, content, opts) {
const session = getSession(sessionId);
if (!session) throw Object.assign(new Error('会话不存在'), { status_code: 404 });
// opts.type: 落库时给该 user 消息带上 type 标记。
// 用于「压缩」按钮触发时给总结指令打 type='summarize_request',使 llm.buildMessages 跳过、
// 用于「压缩」按钮触发时给总结指令打 type='summarize_request':该指令只在压缩回合内发给模型
//(回合完成后 llm.buildMessages 不再携带,防旧指令污染后续轮次),
// 并让 runLoopInner 识别到后给对应的 assistant_message SSE 加 is_summary: true 标志。
const messageId = saveMessage(sessionId, { role: 'user', content, type: (opts && opts.type) || null });
if (!session.title) {
@@ -900,7 +901,8 @@ function deleteSession(sessionId, deleteDir) {
// 上下文压缩:phase-bar「压缩」按钮触发。把 config.yml 的 compress.prompt 作为一条 type='summarize_request'
// 的 user 消息发出去,AI 收到后会基于历史生成总结并以 assistant 消息回复。
// llm.js 规则:type='summarize_request' 跳过该行——所以该指令不会反复出现在后续请求中污染上下文。
// llm.js 规则:type='summarize_request' 的指令只在压缩回合进行中发给模型(回合完成后跳过),
// 既保证 AI 拿得到总结指令,又不会在后续请求里反复污染上下文。
// 由 runLoopInner 在压缩回合的最终答复(无 tool_calls 且紧邻上一条 user 是 summarize_request)
// emit 时带 is_summary: true,并带上 mode 给前端,前端按用户选择的模式走完最后一步
//(compress_and_clear 时调 DELETE ?keep=summary 清空历史、仅留该摘要并标 type='summary')。
+20 -4
View File
@@ -45,8 +45,10 @@ function decodeBlocks(content) {
// 改以一条 user 错误提示替代,让模型看到原因后重新生成工具调用 ——
// 坏样本留在上下文里只会被模型继续模仿,反复报同一个错。
// summarize_request 行(顶栏「压缩」按钮触发的总结指令,role=user, type='summarize_request'):
// 这条 user 是让 AI 做总结用的中间产物,AI 给出总结后就会被前端清空;为防用户在被清空前又发新消息
// 触发新一轮模型调用,这条指令会污染上下文(让 AI 误以为还要再总结),所以 buildMessages 直接跳过。
// 它是压缩回合要执行的正式指令,必须发给模型;但只在「触发的那一回合还活着」时携带:
// 其后还没有无 tool_calls 的 assistant 收尾回复 = 回合进行中(含工具循环的中间迭代,
// 指令需持续在上下文里,否则 AI 中途忘掉自己该总结什么);已有收尾回复(摘要已产出)则跳过,
// 防历史保留(generate_only)或清空前用户又发新消息时,旧指令污染后续轮次(让 AI 误以为还要再总结)。
// 同时跳过 type='archived' 的中间态归档行(保留接口给将来需要时用,目前主流程走前端物理清空)。
// 注意:type='summary'(「压缩总结」后保留的唯一摘要锚点)不跳过:它是清空后后续轮次的上下文起点,
// 正常以 assistant 历史行发给模型。
@@ -62,9 +64,23 @@ function buildMessages(session, language) {
if (history[i].role === 'assistant' && history[i].type !== 'errAck') { lastAssistant = i; break; }
}
const dropToolCallIds = new Set();
// summarize_request 「已答复」判定的前置信息:最后一次「回合收尾回复」(无 tool_calls 的 assistant)的位置。
// 指令行在其之后 = 还在等 AI 响应这条指令(当前压缩回合),应发给模型;在其之前 = 旧指令,跳过防污染。
// errAck 带 tool_calls 不在此列;历史里残留的旧指令(如 generate_only)后面必然跟着摘要收尾行,自然被跳过。
let lastClosingAssistant = -1;
history.forEach((row, i) => {
// summarize_request / archived:UI 可见,但不再进入模型上下文(避免污染 / 节省 token)
if (row.type === 'summarize_request' || row.type === 'archived') return;
if (row.role === 'assistant' && !row.tool_calls) lastClosingAssistant = i;
});
history.forEach((row, i) => {
// archived:UI 可见,但不进入模型上下文(节省 token)
if (row.type === 'archived') return;
// summarize_request:仅在触发的那一压缩回合内发给模型(见函数头注释)
if (row.type === 'summarize_request') {
if (i > lastClosingAssistant && (row.content || '').trim()) {
messages.push({ role: 'user', content: row.content });
}
return;
}
if (row.role === 'assistant') {
if (row.type === 'errAck') {
let calls = [];