fix(engine): 压缩回合带工具时摘要仍算摘要,工具回执直接当续跑输入
自动压缩切进压缩回合后,模型常为了把交接摘要写准先调一次工具查证 (实测 grep style.css 核对「已改/未改」)。原判定是 !hasTools && compressing, 于是这一轮的文字被当成普通回复落库并推给前端,回合继续执行工具后模型又从头 重写一遍摘要——库里留下两条正文不同的交接说明(5350 字 / 5640 字), 用户侧看到两条【交接说明】。 - 判定改成「压缩回合回来的第一段非空文本就是摘要」,带不带工具都算; 空文本(纯工具调用)不算,run.summarizing 保持,下一轮继续压。 - 摘要行连 tool_calls 一起落库(type='summary' 照常是上下文起点,回执紧跟其后 不会被归档,配对合法),工具执行完回执本身就是续跑输入,不再插 「上下文已压缩,请继续完成原任务。」;无工具回执时才补那条 user 指令。 - 顺带修正两处与代码相反的注释(压缩回合其实是带 tools 发的,为保前缀缓存)。
This commit is contained in:
@@ -971,10 +971,10 @@ async function runLoopInner(sessionId, run) {
|
|||||||
recordModelUsage(sessionId, session.model_id, result.usage);
|
recordModelUsage(sessionId, session.model_id, result.usage);
|
||||||
// 回合级 In token 峰值:工具迭代只会越滚越大,取各轮 prompt_tokens 最大值作自动压缩判据
|
// 回合级 In token 峰值:工具迭代只会越滚越大,取各轮 prompt_tokens 最大值作自动压缩判据
|
||||||
if (msgRow.usage && msgRow.usage.pt > (run.turnMaxPt || 0)) run.turnMaxPt = msgRow.usage.pt;
|
if (msgRow.usage && msgRow.usage.pt > (run.turnMaxPt || 0)) run.turnMaxPt = msgRow.usage.pt;
|
||||||
// 「压缩」回合的总结判定:压缩时不传 tools,因此本回合第一条「无 tool_calls 的收尾回复」
|
// 「压缩」回合的总结判定:压缩指令发出去,模型回来的第一段非空文本就是摘要——带不带
|
||||||
// 就是摘要(compressing 取自本回合的 run.summarizing 标记);回合中间若有异常产生的
|
// 工具都算(模型常为了把摘要写准先调一次工具查证,这一轮的文字同样是摘要,不能当普通
|
||||||
// 工具轮(理论上不会)都是普通消息,前端照常渲染。
|
// 回复落库)。空文本(纯工具调用、一个字没写)不算,run.summarizing 保持,下一轮继续压。
|
||||||
const isSummary = !hasTools && compressing;
|
const isSummary = compressing && !!String(msgRow.content || '').trim();
|
||||||
bus.emit(sessionId, 'assistant_message', {
|
bus.emit(sessionId, 'assistant_message', {
|
||||||
id: assistantId, content: msgRow.content, reasoning: msgRow.reasoning,
|
id: assistantId, content: msgRow.content, reasoning: msgRow.reasoning,
|
||||||
tool_calls: msgRow.tool_calls, type: msgRow.type, created_at: msgRow.created_at,
|
tool_calls: msgRow.tool_calls, type: msgRow.type, created_at: msgRow.created_at,
|
||||||
@@ -999,16 +999,19 @@ async function runLoopInner(sessionId, run) {
|
|||||||
log.info('msg', sessionId + ' 压缩摘要 ' + assistantId + ' 落库,存档之前 ' + n + ' 条消息(不再发给模型)');
|
log.info('msg', sessionId + ' 压缩摘要 ' + assistantId + ' 落库,存档之前 ' + n + ' 条消息(不再发给模型)');
|
||||||
}
|
}
|
||||||
// 回合内自动压缩把正在跑的任务切成了摘要,摘要一落地就地续跑:
|
// 回合内自动压缩把正在跑的任务切成了摘要,摘要一落地就地续跑:
|
||||||
// 补一条 user 指令接回原任务,否则会直接走到下面的 !hasTools 收尾,
|
// 没有工具回执可用时补一条 user 指令接回原任务,否则会直接走到下面的 !hasTools 收尾,
|
||||||
// 任务停在半路,要用户再喊一声才动。
|
// 任务停在半路,要用户再喊一声才动。有工具回执时不插消息也不 continue——落到下面
|
||||||
|
// 执行工具,回执紧跟在摘要后面,本身就是续跑输入。
|
||||||
if (run.compactAuto) {
|
if (run.compactAuto) {
|
||||||
run.compactAuto = false;
|
run.compactAuto = false;
|
||||||
|
if (!hasTools) {
|
||||||
const resumeText = '上下文已压缩,请继续完成原任务。';
|
const resumeText = '上下文已压缩,请继续完成原任务。';
|
||||||
const resumeId = saveMessage(sessionId, { role: 'user', content: resumeText });
|
const resumeId = saveMessage(sessionId, { role: 'user', content: resumeText });
|
||||||
bus.emit(sessionId, 'user_message', { id: resumeId, content: resumeText, created_at: now() });
|
bus.emit(sessionId, 'user_message', { id: resumeId, content: resumeText, created_at: now() });
|
||||||
continue;
|
continue;
|
||||||
}
|
}
|
||||||
}
|
}
|
||||||
|
}
|
||||||
|
|
||||||
if (!hasTools) {
|
if (!hasTools) {
|
||||||
// 「干预」升级过的待投递消息:本条回复已落库,正是安全边界——直接插话并继续同一回合
|
// 「干预」升级过的待投递消息:本条回复已落库,正是安全边界——直接插话并继续同一回合
|
||||||
|
|||||||
+2
-1
@@ -538,7 +538,8 @@ function trimToolContent(content, row, callById, roundsAfter, turnsAfter) {
|
|||||||
// 拼压缩回合的 messages(参考 titleMessages 的拼法):默认 system prompt + 正常历史
|
// 拼压缩回合的 messages(参考 titleMessages 的拼法):默认 system prompt + 正常历史
|
||||||
//(与 buildMessages 同取舍:archived 不发、旧摘要/工具轮照常),末尾追加一条 user
|
//(与 buildMessages 同取舍:archived 不发、旧摘要/工具轮照常),末尾追加一条 user
|
||||||
//(prompt-compress.txt 原文,历史就在它前面的 messages 里,不再填占位符)。
|
//(prompt-compress.txt 原文,历史就在它前面的 messages 里,不再填占位符)。
|
||||||
// 调用方(engine.runLoopInner 的 compressing 分支)需同时不传 tools。
|
// 调用方(engine.runLoopInner 的 compressing 分支)照常带 tools:工具段在最前,删掉等于断整段
|
||||||
|
// 前缀缓存;模型偶尔会为核对事实调一次,那一轮的文字仍按摘要处理(见 isSummary 判定)。
|
||||||
// 【缓存铁律】压缩请求必须与上一次常规请求字节同构、只在尾部追加指令:画像快照与
|
// 【缓存铁律】压缩请求必须与上一次常规请求字节同构、只在尾部追加指令:画像快照与
|
||||||
// 占位裁剪一律照常(不传 withProfile/trim = 同一拼法),也不裁历史中间任何注入行——
|
// 占位裁剪一律照常(不传 withProfile/trim = 同一拼法),也不裁历史中间任何注入行——
|
||||||
// 从首个被删/被改动行起前缀缓存全断,等于全价重读(旧代码 withProfile=false 把坐在
|
// 从首个被删/被改动行起前缀缓存全断,等于全价重读(旧代码 withProfile=false 把坐在
|
||||||
|
|||||||
Reference in New Issue
Block a user