diff --git a/app/server/engine.js b/app/server/engine.js index 0aa16e0..7533291 100644 --- a/app/server/engine.js +++ b/app/server/engine.js @@ -489,13 +489,19 @@ async function runLoopInner(sessionId, run) { const assistantId = saveMessage(sessionId, msgRow); if (isErrAck) log.info('msg', sessionId + ' 本轮 tool call 参数错误,assistant 标记 errAck(不再进入模型上下文)'); recordModelUsage(sessionId, session.model_id, result.usage); - // 「压缩」按钮触发的总结请求:判别 = 本轮上一条 user 消息的 type 是 summarize_request - // (反向查找最靠近本轮的 user/type=summarize_request)。该标志传到前端后,前端按用户在弹窗 - // 选的模式走后续。mode 从发起请求时记录在 run 上的 summaryMode 取(不入库)。 - const isSummary = !!db.prepare( - "SELECT 1 FROM messages WHERE session_id = ? AND role = 'user' AND type = 'summarize_request' AND id < ? ORDER BY id DESC LIMIT 1" - ).get(sessionId, assistantId); - bus.emit(sessionId, 'assistant_message', { + // 「压缩」按钮触发的总结请求:只把压缩回合的「最终答复」(无 tool_calls 的收尾回复)标为 + // is_summary;回合中间产生的 AI 回复(含工具调用轮)都是普通消息,前端照常渲染。 + // 判别 = 「紧邻的上一条 user 消息是 summarize_request」,而不是「历史上出现过 summarize_request」: + // generate_only 会保留历史、指令行留在库里,旧写法会把之后每一轮的 assistant 都误标成总结。 + // 该标志传到前端后,前端按用户在弹窗选的模式走后续。mode 从发起请求时记录在 run 上的 summaryMode 取(不入库)。 + let isSummary = false; + if (!hasTools) { + const prevUser = db.prepare( + "SELECT type FROM messages WHERE session_id = ? AND role = 'user' AND id < ? ORDER BY id DESC LIMIT 1" + ).get(sessionId, assistantId); + isSummary = !!(prevUser && prevUser.type === 'summarize_request'); + } + bus.emit(sessionId, 'assistant_message', { id: assistantId, content: msgRow.content, reasoning: msgRow.reasoning, tool_calls: msgRow.tool_calls, type: msgRow.type, is_summary: isSummary, @@ -894,11 +900,13 @@ function deleteSession(sessionId, deleteDir) { // 上下文压缩:phase-bar「压缩」按钮触发。把 config.yml 的 compress.prompt 作为一条 type='summarize_request' // 的 user 消息发出去,AI 收到后会基于历史生成总结并以 assistant 消息回复。 -// llm.js 已规则:type='summarize_request' 跳过该行——所以该指令不会反复出现在后续请求中污染上下文。 -// 由 runLoopInner 在 assistant_message emit 时根据"上一条 user 消息是 summarize_request" -// 决定是否带 is_summary: true,并带上 mode 给前端,前端按用户选择的模式走完最后一步。 +// llm.js 规则:type='summarize_request' 跳过该行——所以该指令不会反复出现在后续请求中污染上下文。 +// 由 runLoopInner 在压缩回合的最终答复(无 tool_calls 且紧邻上一条 user 是 summarize_request) +// emit 时带 is_summary: true,并带上 mode 给前端,前端按用户选择的模式走完最后一步 +//(compress_and_clear 时调 DELETE ?keep=summary 清空历史、仅留该摘要并标 type='summary')。 // 限制:与 clearSessionMessages 类似——会话执行中(active)禁止操作,避免和正在跑的回合抢上下文。 // mode: 'generate_only' 或 'compress_and_clear',由路由校验后传入。 +// 响应回显 prompt:前端「开始压缩后直接把压缩指令渲染成一条普通用户消息气泡」,无需再拉配置。 function summarizeContext(sessionId, mode) { const session = getSession(sessionId); if (!session) throw Object.assign(new Error('会话不存在'), { status_code: 404 }); @@ -910,7 +918,8 @@ function summarizeContext(sessionId, mode) { if (!prompt) throw Object.assign(new Error('配置缺少 compress.prompt,请检查 config.yml'), { status_code: 500 }); // 复用 postUserMessage:opts.type='summarize_request' 给该消息打标, // opts.mode 用于 runLoopInner SSE 带 mode 返回给前端。 - return postUserMessage(sessionId, prompt, { type: 'summarize_request', mode }); + const r = postUserMessage(sessionId, prompt, { type: 'summarize_request', mode }); + return Object.assign({ prompt }, r); } // 清空会话的对话内容:删除该会话的全部消息记录,但保留会话本身与任务目录文件。 @@ -919,7 +928,9 @@ function summarizeContext(sessionId, mode) { // 清空后不自动重建会话上下文:此时通常未绑定模型,预置只会产生“尚未绑定/未知”占位。 // 待用户选择模型(bindToSession)或再次发言并自动绑定模型(runLoop 入口)时, // 由 ensureSessionContext 注入当时的有效信息。 -function clearSessionMessages(sessionId) { +// opts.keepSummary=true(「压缩总结」收尾用):不物理清空,只保留最后一条 assistant 总结消息, +// 并给它打 type='summary' 标记(前端重渲染成摘要卡片;buildMessages 正常携带它作为上下文起点)。 +function clearSessionMessages(sessionId, opts) { const session = getSession(sessionId); if (!session) throw Object.assign(new Error('会话不存在'), { status_code: 404 }); const run = runs.get(sessionId); @@ -934,7 +945,16 @@ function clearSessionMessages(sessionId) { runs.delete(sessionId); dequeue(sessionId); releaseModel(sessionId); - db.prepare('DELETE FROM messages WHERE session_id = ?').run(sessionId); + const lastSummary = opts && opts.keepSummary ? db.prepare( + "SELECT id FROM messages WHERE session_id = ? AND role = 'assistant' ORDER BY id DESC LIMIT 1" + ).get(sessionId) : null; + if (lastSummary) { + // 保留总结行,其余(含 summarize_request 指令、中间工具轮)全部删除 + db.prepare('DELETE FROM messages WHERE session_id = ? AND id != ?').run(sessionId, lastSummary.id); + db.prepare("UPDATE messages SET type = 'summary' WHERE id = ?").run(lastSummary.id); + } else { + db.prepare('DELETE FROM messages WHERE session_id = ?').run(sessionId); + } touch(sessionId, { status: 'completed', completed_at: now(), cancelled_at: null, held_at: null }); bus.emit(sessionId, 'done', { status: 'completed' }); emitStatus(sessionId); diff --git a/app/server/llm.js b/app/server/llm.js index 2df4b40..5dbbf87 100644 --- a/app/server/llm.js +++ b/app/server/llm.js @@ -48,6 +48,8 @@ function decodeBlocks(content) { // 这条 user 是让 AI 做总结用的中间产物,AI 给出总结后就会被前端清空;为防用户在被清空前又发新消息 // 触发新一轮模型调用,这条指令会污染上下文(让 AI 误以为还要再总结),所以 buildMessages 直接跳过。 // 同时跳过 type='archived' 的中间态归档行(保留接口给将来需要时用,目前主流程走前端物理清空)。 +// 注意:type='summary'(「压缩总结」后保留的唯一摘要锚点)不跳过:它是清空后后续轮次的上下文起点, +// 正常以 assistant 历史行发给模型。 function buildMessages(session, language) { const messages = [{ role: 'system', content: systemPromptText(language) }]; const history = session.history; diff --git a/app/server/public/index.html b/app/server/public/index.html index ef3a0d8..533bda8 100644 --- a/app/server/public/index.html +++ b/app/server/public/index.html @@ -19,14 +19,33 @@ 放在 link 之后以保证同优先级下能压住 style.css 里同优先级的规则。 */ body .msg-actions .act-del { display: none; } body.log-debug .msg-actions .act-del { display: flex; } - /* 「压缩」总结折叠面板:复用 .msg-think 的折叠交互,但 body 是常规字体(不是代码块)。 - summary 文字「上下文总结」;默认 open。收尾后改为非 streaming。 */ - .msg-summary { background: var(--surface); border: 1px solid var(--border); border-radius: 10px; overflow: hidden; margin: 0 0 6px; } - .msg-summary > summary { list-style: none; cursor: pointer; user-select: none; padding: 6px 10px; display: flex; align-items: center; gap: 6px; color: var(--gray); font-size: 12px; } - .msg-summary > summary::-webkit-details-marker { display: none; } - .msg-summary > summary::before { content: '▸'; font-size: 10px; color: var(--gray-light); transition: transform .15s; display: inline-block; } - .msg-summary[open] > summary::before { transform: rotate(90deg); } - .msg-summary .bubble-ai { margin: 0 10px 10px; } + /* 「压缩」摘要卡片:与 .msg-think 同族的折叠交互,但做成更醒目的蓝色调卡片; + 流式收尾(live)和历史重渲染(type='summary' 消息)共用同一套样式。 + live 阶段 open=true 展开阅读;历史重渲染默认收起。 */ + .msg-summary { + margin: 0 0 8px; border: 1px solid #dbe4fb; border-radius: 12px; overflow: hidden; + background: linear-gradient(180deg, #f7f9ff 0%, #ffffff 56%); + box-shadow: 0 1px 3px rgba(57, 100, 254, 0.08); + } + .msg-summary > summary { + list-style: none; cursor: pointer; user-select: none; + display: flex; align-items: center; gap: 7px; + padding: 9px 12px; font-size: 13px; font-weight: 600; color: var(--active); + } + .msg-summary > summary::-webkit-details-marker { display: none; } + .msg-summary > summary::before { + content: ''; flex: none; width: 0; height: 0; margin-left: 1px; + border-left: 5px solid var(--active); border-top: 4px solid transparent; border-bottom: 4px solid transparent; + transition: transform .15s ease; + } + .msg-summary[open] > summary::before { transform: rotate(90deg); } + .msg-summary .sum-ic { flex: none; width: 15px; height: 15px; } + .msg-summary .sum-hint { margin-left: auto; font-size: 11px; font-weight: 400; color: var(--gray); } + .msg-summary-body { + border-top: 1px dashed #dbe4fb; background: var(--page); + padding: 10px 13px 12px; + } + .msg-summary-body .bubble-ai { margin: 0; font-size: 14px; line-height: 1.7; } /* 状态栏图标按钮(压缩):仅显示 SVG、去掉文字 padding;保持与文字按钮同高。 */ .stop-link.icon-only { padding: 0 8px; line-height: 0; } .stop-link.icon-only .ic { width: 18px; height: 18px; vertical-align: middle; } @@ -532,6 +551,31 @@ return '
思考过程
' + esc(text) + '
'; } + // 「压缩」摘要卡片:流式收尾与历史重渲染共用的头部(图标 + 标题 + 右侧说明)。 + function summaryHeaderHtml() { + return '' + + '' + + '' + + '' + + '' + + '' + + '上下文总结' + + '后续对话以此为起点' + + ''; + } + + // 历史重渲染:被标记 type='summary' 的摘要消息渲染成摘要卡片(默认收起,点开可重现)。 + // 工具卡不挂:摘要行永远不带 tool_calls;复制/删除按钮照常提供。 + function summaryMsgHtml(m) { + const r = mdHtml(m.content || ''); + return '
' + + '
' + summaryHeaderHtml() + + '
' + r.html + '
' + + '
' + + actionsHtml(m.created_at, m.content || '', m.id) + + '
'; + } + // ---------- 工具调用卡片(样式/交互同步 index;流式与历史共用) ---------- function toolArgsSummary(name, argsStr) { let s = ''; @@ -634,7 +678,8 @@ function msgNode(m) { if (m.role === 'user') return userMsgHtml(m); - if (m.role === 'assistant') return aiMsgHtml(m); + // 被「压缩总结」标记的摘要消息:重渲染成摘要卡片,而不是普通 AI 气泡 + if (m.role === 'assistant') return m.type === 'summary' ? summaryMsgHtml(m) : aiMsgHtml(m); return null; // tool 结果不单独展示 } @@ -832,6 +877,11 @@ } function closeStream() { if (state.es) { state.es.close(); state.es = null; } + // SSE 一断,本地「等待压缩收尾」状态就成孤儿(再也收不到带 is_summary 的最终消息): + // 复位以免压缩按钮永久 disabled / 防重入卡死。切会话、重开流都会经过这里。 + // (后果仅是:离开期间的 compress_and_clear 不会自动清理历史,历史保持完整,重进会话后可重新发起。) + state.pendingSummary = false; + state.pendingSummaryMode = null; } async function openSession(id) { @@ -1006,11 +1056,14 @@ // ---------- 「压缩」上下文总结 ---------- // 用户点 phase-bar「压缩」按钮 → 弹窗选后续动作: // 取消:不做任何事 - // 生成摘要:发请求让 AI 总结,完成后保留全部历史(仅 UI 多一条总结参考) - // 压缩总结:发请求让 AI 总结,完成后自动调 DELETE 清空历史,只保留总结作为下次会话起点 - // 后端只负责「丢一条 type='summarize_request' 的 user 消息」并通过 SSE 转发总结结果, - // 是否清空由前端根据用户在弹窗选择的 mode 决定。后端 summarize 路由收 body.mode; - // runLoopInner 在 SSE assistant_message 事件上带上 mode,让前端能拿到自己发起的模式。 + // 仅摘要(generate_only):发请求让 AI 总结,完成后保留全部历史(仅 UI 多一条摘要卡片参考) + // 压缩总结(compress_and_clear):发请求让 AI 总结,完成后自动调 DELETE ?keep=summary + // 清空历史(仅保留最后一条并标成 type='summary'),前端直接移除旧消息 DOM, + // 不重新刷新摘要消息(压缩过程中摘要内容已经流式发给用户了)。 + // 开始压缩后:后端响应回显 prompt,前端把它直接渲染成一条普通用户消息气泡; + // 压缩回合中间的 AI 回复(思考/工具调用等)全部按普通消息渲染; + // 只有回合收尾的那条最终答复才带 is_summary,渲染成摘要卡片。 + // 后端 summarize 路由收 body.mode;runLoopInner 在最终 assistant_message SSE 上带 is_summary + mode。 async function summarizeChat() { if (!state.sessionId) return; if (state.pendingSummary) return; // 已在请求中,防重入 @@ -1024,7 +1077,11 @@ const btn = $('compress-btn'); if (btn) btn.disabled = true; try { - await req('POST', '/api/sessions/' + state.sessionId + '/summarize', { mode }); + const r = await req('POST', '/api/sessions/' + state.sessionId + '/summarize', { mode }); + // 开始压缩后直接把「压缩指令」当成普通用户消息发出来(后端回显 prompt); + // 后续中间的 AI 回复全部按普通消息渲染,直到带 is_summary 的最终答复才转摘要卡片。 + if (r && r.prompt) appendUserMsg(r.prompt); + if (r && r.delivered === 'live') addTyping(); // 已直接送达:先挂打字占位,首个 delta 到达时自动移除 toast(mode === 'compress_and_clear' ? '已发起压缩,完成后将自动清空历史…' : '已生成摘要中…'); } catch (e) { state.pendingSummary = false; @@ -1071,17 +1128,39 @@ }); } - // 「压缩总结」模式下 AI 总结落库后自动调用的清空:复用现有 DELETE 接口。 + // 「压缩总结」模式下 AI 总结落库后自动调用的收尾:DELETE ?keep=summary 清空历史, + // 仅保留最后一条消息并标成 type='summary'(库里打标,供下次重渲染成摘要卡片)。 // 与 clearChat 不同:不弹确认(用户已在压缩弹窗中表态)。 + // 前端不重新刷新摘要消息:压缩过程中摘要内容已经流式发给用户(msg-summary-live 节点), + // 只需把被清掉的历史消息从 DOM 移除,保留该节点即可;列表/状态照常刷新。 async function clearAfterSummary(id) { if (!id) return; try { - await req('DELETE', '/api/sessions/' + id + '/messages'); + await req('DELETE', '/api/sessions/' + id + '/messages?keep=summary'); toast('已压缩,仅保留总结'); - const detail = await req('GET', '/api/sessions/' + id); - if (state.sessionId === id && state.view === 'chat') { renderDetail(detail); connectStream(); } + if (state.sessionId === id && state.view === 'chat') { + const box = $('chat-view'); + const live = box.querySelector('.msg-summary-live'); + if (live) { + for (const el of Array.from(box.children)) { + if (el !== live) el.remove(); + } + scrollBottom(); + } else { + // 本页没赶上流式摘要(如压缩途中重开过页面):库里摘要已带 type='summary' 标记, + // 整页重渲染兼容一把(这是唯一需要刷新摘要消息的例外场景)。 + try { + const detail = await req('GET', '/api/sessions/' + id); + if (state.sessionId === id && state.view === 'chat') renderDetail(detail); + } catch (_) {} + } + // 压缩回合的流式容器随历史一起作废,避免后续事件往已移除节点里写 + state.streamWrap = null; + state.streamEl = null; + state.streamText = ''; + } loadSessionList(); - } catch (e) { toast('清空失败:' + e.message); } + } catch (e) { toast('压缩清理失败:' + e.message); } const cpBtn = $('compress-btn'); if (cpBtn) cpBtn.disabled = state.status === 'active'; } @@ -1236,21 +1315,24 @@ bubble.innerHTML = r.html; state.streamWrap.appendChild(bubble); } - // 「压缩」总结面板:复用 .msg-think 的折叠样式(参考思考过程),summary 文字“上下文总结”。 - // 默认 open=true(刚收到总结时展开,方便用户立刻读),后续随同思考面板一起折起。 - // 防重:同一 streamWrap 里已存在 summary 面板则不再重复插入(保护二次重入)。 - if (d.is_summary && state.streamWrap && !state.streamWrap.querySelector('.msg-summary')) { - const det = document.createElement('details'); - det.className = 'msg-summary streaming'; - det.open = true; - const sum = document.createElement('summary'); - sum.textContent = '上下文总结'; - det.appendChild(sum); - // 把总结气泡收进 details 里:点击 summary 折叠后可一起隐藏默认占空间的大段总结。 - const oldBubble = state.streamWrap.querySelector('.bubble-ai'); - if (oldBubble) det.appendChild(oldBubble); - state.streamWrap.appendChild(det); - } + // 「压缩」总结回合的最终答复(后端已保证只有收尾无工具调用且紧邻 summarize_request 的那条才带 is_summary, + // 中间 AI 回复已按普通消息渲染):把已流式输出的气泡装进摘要卡片(与历史重渲染同款样式), + // 并标记 wrap 为 msg-summary-live:compress_and_clear 清空历史时保留该节点,不再重新渲染摘要。 + // open=true 让用户立刻读到;后续轮次不自动折起(卡片可手动点 summary 收起)。 + // 防重:同一 streamWrap 已有卡片则不再重复插入(保护 SSE 重连重发等场景)。 + if (d.is_summary && hasText && state.streamWrap && !state.streamWrap.querySelector('.msg-summary')) { + const wrap0 = state.streamWrap; + const det = document.createElement('details'); + det.className = 'msg-summary'; + det.open = true; + det.innerHTML = summaryHeaderHtml() + '
'; + const body = det.querySelector('.msg-summary-body'); + const bubble = wrap0.querySelector('.bubble-ai'); + const ref = bubble ? bubble.nextSibling : null; + if (bubble) body.appendChild(bubble); // 把总结气泡收进卡片 body(保留原位,不打乱思考面板顺序) + wrap0.insertBefore(det, ref); + wrap0.classList.add('msg-summary-live'); + } if (d.tool_calls) appendToolCardsFromAssistant(d, $('chat-view')); state.streaming = false; // 思考面板默认折叠,避免挡着后续气泡;点击展开 @@ -1258,11 +1340,7 @@ const t = state.streamWrap.querySelector('.msg-think'); if (t && t.open) t.open = false; } - // 上下文总结面板同步折起:避免总结泡在后续气泡中占住大面积空间;用户点开可以重现。 - if (state.streamWrap) { - const sm = state.streamWrap.querySelector('.msg-summary'); - if (sm && sm.open) sm.open = false; - } + // 摘要卡片不再自动折起:它就是本轮的正式产出,由用户自己决定收不收起。 state.streamWrap = null; state.streamReasoning = ''; state.streamThinkEl = null; @@ -1307,7 +1385,16 @@ maybeAutoScroll(); }); es.addEventListener('done', ev => { - removeTyping(); // 本轮结束,占位兼终止(如模型报错无回复) + removeTyping(); // 本轮结束,占位亦终止(如模型报错无回复) + // 压缩回合异常结束的兜底(模型报错回合直接 break / 被终止 → 不会有带 is_summary 的最终消息): + // 复位等待状态并还原压缩按钮,历史保持原样不动。 + if (state.pendingSummary) { + state.pendingSummary = false; + state.pendingSummaryMode = null; + toast('压缩回合已结束,未收到摘要,历史未变动'); + const cpBtn = $('compress-btn'); + if (cpBtn) cpBtn.disabled = state.status === 'active'; + } state.streaming = false; state.streamEl = null; // 防御性清理:回合异常结束(如终止)时不留悬空气泡到下一轮 state.streamText = ''; diff --git a/app/server/routes/messages.js b/app/server/routes/messages.js index 307f2fe..4077a22 100644 --- a/app/server/routes/messages.js +++ b/app/server/routes/messages.js @@ -64,16 +64,19 @@ router.post('/:id/release', wrap((req, res) => { // 清空会话内容:删除全部消息记录,保留会话本身与任务目录文件(不再随下条消息重发旧历史)。 // 状态收尾为已完成并释放模型/出队;正在执行的回合会被拒绝(需先「终止」)。 +// ?keep=summary:「压缩总结」收尾专用 —— 只保留最后一条 assistant 总结消息并打上 type='summary' 标记。 router.delete('/:id/messages', wrap((req, res) => { - const r = engine.clearSessionMessages(req.params.id); - log.info('msg', (req.user || '-') + ' ' + req.params.id + ' 清空会话内容(文件保留)'); + const keep = String((req.query && req.query.keep) || '').trim(); + const r = engine.clearSessionMessages(req.params.id, { keepSummary: keep === 'summary' }); + log.info('msg', (req.user || '-') + ' ' + req.params.id + (keep === 'summary' ? ' 压缩清理(仅保留摘要)' : ' 清空会话内容(文件保留)')); res.json(r); })); // 上下文压缩:phase-bar「压缩」按钮触发。弹窗选模式后调本接口: // mode='generate_only' 只让 AI 总结,保留全部历史 -// mode='compress_and_clear' 让 AI 总结,AI 完成后前端自动调 DELETE 清空历史 -// 后端只负责「丢一条 type='summarize_request' 的 user 消息」并通过 SSE 把模式带回去给前端。 +// mode='compress_and_clear' 让 AI 总结,AI 完成后前端自动调 DELETE ?keep=summary 清空历史、仅留摘要 +// 后端负责「丢一条 type='summarize_request' 的 user 消息」(响应回显 prompt 供前端直接渲染该指令气泡), +// 并在总结回合的最终 SSE assistant_message 上带 is_summary + mode 给前端走收尾。 // 状态非 active 时才允许(避免与正在跑的回合抢上下文)。本接口只是「丢一条总结请求进队列」, // 不等待 AI 完成——前端通过现有 SSE 流听 assistant_message 事件拿结果。 router.post('/:id/summarize', wrap((req, res) => {