- 运行中点发送不再立即插话,改为进服务端队列(engine.pendings,内存态), 输入框上方一行条幅:默认本轮结束后发出,队首可「干预」(当前工具跑完就插话) 或「立即发送」(终止本轮工具调用并立刻发)。队列在服务端,关页面/重连不丢。 - 新增 closeToolBatch():给未闭合批次里缺回执的 tool_call 补合成回执, 取消/干预/finalize 兜底三处调用;顺带修掉「中途停止后库里留孤儿 tool_calls、 下一轮请求被上游拒收」的存量 bug。 - llm.buildMessages 加读侧配对过滤(pairedByAssistant / emittedCallIds): 只下发本批确有回执的调用,孤儿回执也不下发,兜历史脏数据,DB/UI 不动。 - HTTP:POST /messages 支持 delivery:'queue';新增 POST/DELETE /pending/:qid; 会话详情与 status 事件带 pending。 - 前端:条幅渲染与动作、pending_added/pending_removed/user_message 事件、 硬中断后工具卡标「已取消」;发送始终交服务端判定,避免过期状态把 user 行 插进工具批次中间。 - 文档:app/AGENTS.md 补生命周期、SSE 事件清单与待投递队列语义。
145 lines
7.1 KiB
JavaScript
145 lines
7.1 KiB
JavaScript
// 消息与交互 API:发消息 / SSE 流 / 开始执行 / 终止
|
||
const express = require('express');
|
||
const engine = require('../engine');
|
||
const log = require('../log');
|
||
|
||
const router = express.Router();
|
||
|
||
function wrap(fn) {
|
||
return function (req, res) {
|
||
try {
|
||
fn(req, res);
|
||
} catch (err) {
|
||
res.status(err && err.status_code || 500).json({ error: String(err && err.message || err) });
|
||
}
|
||
};
|
||
}
|
||
|
||
// 附件上传只写任务目录文件(见 routes/files.js),消息正文原样入库,不再拼接任何通知行。
|
||
// delivery:
|
||
// live(默认,兼容旧调用方/微信)→ 立即入库;回合在跑时下一轮迭代自动带上
|
||
// queue → 回合在跑时进待投递队列(不落库),回合收尾后自动发出;不在跑则等价于 live
|
||
// 「干预 / 立即发送」不走这里,而是对已在队列里的条目做升级(POST /pending/:qid)。
|
||
router.post('/:id/messages', wrap((req, res) => {
|
||
const content = String((req.body && req.body.content) || '').trim();
|
||
if (!content) return res.status(400).json({ error: 'content 不能为空' });
|
||
// deepThink:是否启用模型该「深度思考」参数(thinking_params 合并进上游请求体)
|
||
const deepThink = !!(req.body && req.body.deepThink);
|
||
const delivery = String((req.body && req.body.delivery) || 'live');
|
||
if (delivery === 'queue') {
|
||
const r = engine.enqueueMessage(req.params.id, content, { deepThink });
|
||
log.info('msg', (req.user || '-') + ' ' + req.params.id + ' 用户消息(' +
|
||
(r.queued ? '排队 ' + r.pending_id : r.delivered || '?') + '):' +
|
||
content.slice(0, 60).replace(/\s+/g, ' '));
|
||
return res.json(r);
|
||
}
|
||
const r = engine.postUserMessage(req.params.id, content, { deepThink });
|
||
log.info('msg', (req.user || '-') + ' ' + req.params.id + ' 用户消息(' + (r && r.delivered || '?') + '):' +
|
||
content.slice(0, 60).replace(/\s+/g, ' '));
|
||
res.json(r);
|
||
}));
|
||
|
||
// 待投递队列:升级队首(干预 / 立即发送)。
|
||
// 干预 = 等当前工具跑完/本条回复落库后插话;立即发送 = 杀进程 + abort 流,本回合收尾后立刻发。
|
||
router.post('/:id/pending/:qid', wrap((req, res) => {
|
||
const action = String((req.body && req.body.action) || 'interject');
|
||
if (action !== 'interject' && action !== 'now') {
|
||
return res.status(400).json({ error: 'action 只能是 interject 或 now' });
|
||
}
|
||
const r = engine.promotePending(req.params.id, req.params.qid, action);
|
||
log.info('msg', (req.user || '-') + ' ' + req.params.id + ' 待投递消息 ' + req.params.qid + ' → ' + action);
|
||
res.json(r);
|
||
}));
|
||
|
||
// 取消一条待投递消息(条幅上的 ×)。
|
||
router.delete('/:id/pending/:qid', wrap((req, res) => {
|
||
res.json(engine.cancelPending(req.params.id, req.params.qid));
|
||
}));
|
||
|
||
|
||
// 覆盖式编辑:删除该条及其后的历史,再以新内容重开一轮(运行中 409)。
|
||
router.post('/:id/messages/:mid/edit', wrap((req, res) => {
|
||
const content = String((req.body && req.body.content) || '').trim();
|
||
if (!content) return res.status(400).json({ error: 'content 不能为空' });
|
||
const deepThink = !!(req.body && req.body.deepThink);
|
||
const r = engine.editUserMessage(req.params.id, Number(req.params.mid), content, { deepThink });
|
||
log.info('msg', (req.user || '-') + ' ' + req.params.id + ' 编辑消息 ' + req.params.mid +
|
||
'(丢弃其后 ' + Math.max(0, (r.removed || 1) - 1) + ' 条)');
|
||
res.json(r);
|
||
}));
|
||
|
||
router.post('/:id/stop', wrap((req, res) => {
|
||
const r = engine.stop(req.params.id);
|
||
log.info('msg', (req.user || '-') + ' ' + req.params.id + ' 用户终止');
|
||
res.json(r);
|
||
}));
|
||
|
||
// 断开:held 会话收起「保持中」态,结版为已完成(纯状态动作:key 非独占,无模型可释放,绑定仍在可继续用)
|
||
router.post('/:id/release', wrap((req, res) => {
|
||
res.json(engine.releaseHold(req.params.id));
|
||
}));
|
||
|
||
// 清空会话内容:删除全部消息记录,保留会话本身与任务目录文件(不再随下条消息重发旧历史)。
|
||
// 状态收尾为已完成(绑定保持,下次发言沿用原模型);正在执行的回合会被拒绝(需先「终止」)。
|
||
router.delete('/:id/messages', wrap((req, res) => {
|
||
const r = engine.clearSessionMessages(req.params.id);
|
||
log.info('msg', (req.user || '-') + ' ' + req.params.id + ' 清空会话内容(文件保留)');
|
||
res.json(r);
|
||
}));
|
||
|
||
// 上下文压缩:phase-bar「压缩」按钮弹窗里点「摘要」触发。
|
||
// AI 总结;摘要之前的历史存档(type='archived',UI 保留展示、不再发给模型)。
|
||
// 摘要行本身标成 type='summary'(见 engine.runLoopInner),作为后续轮次的上下文起点。
|
||
// 后端直接开启一个压缩回合(不往会话插入任何消息):该回合沿用默认 system prompt +
|
||
// 正常历史,末尾追加一条压缩指令 user,且不带 tools(见 engine.summarizeContext);
|
||
// 响应仅回显一句短提示 prompt 供前端渲染指令气泡(不入库、不含模板正文),
|
||
// 并在总结回合的最终 SSE assistant_message 上带 is_summary 给前端走收尾。
|
||
// 状态非 active 时才允许(避免与正在跑的回合抢上下文)。本接口只是「丢一条总结请求进队列」,
|
||
// 不等待 AI 完成——前端通过现有 SSE 流听 assistant_message 事件拿结果。
|
||
router.post('/:id/summarize', wrap((req, res) => {
|
||
const r = engine.summarizeContext(req.params.id);
|
||
log.info('msg', (req.user || '-') + ' ' + req.params.id + ' 上下文压缩(' + (r.delivered || '?') + ')');
|
||
res.json(r);
|
||
}));
|
||
|
||
// 删除单条消息(含工具/任务消息):删 assistant 轮连带其 tool 回执;单删 tool 回执会把该调用
|
||
// 从父 assistant 的 tool_calls 里同步摘除(见 engine.deleteMessage),保证调用↔回执成对。
|
||
// 库中没了,后续发给模型的消息里自然也没有;执行中删除会在下一轮组装历史时生效。
|
||
router.delete('/:id/messages/:messageId', wrap((req, res) => {
|
||
const r = engine.deleteMessage(req.params.id, Number(req.params.messageId));
|
||
log.info('msg', (req.user || '-') + ' ' + req.params.id + ' 删除消息 ' + req.params.messageId +
|
||
(r.removed > 1 ? '(连带 ' + (r.removed - 1) + ' 条工具回执)' : ''));
|
||
res.json(r);
|
||
}));
|
||
|
||
// SSE 事件流
|
||
router.get('/:id/stream', (req, res) => {
|
||
const session = engine.getSession(req.params.id);
|
||
if (!session) return res.status(404).json({ error: '会话不存在' });
|
||
const bus = engine.getBus();
|
||
res.set({
|
||
'Content-Type': 'text/event-stream',
|
||
'Cache-Control': 'no-cache',
|
||
Connection: 'keep-alive',
|
||
'X-Accel-Buffering': 'no',
|
||
});
|
||
res.flushHeaders && res.flushHeaders();
|
||
res.write('retry: 3000\n\n');
|
||
bus.addClient(session.id, res);
|
||
const heartbeat = setInterval(() => {
|
||
// 可见心跳:具名事件(注释帧 `: ping` 不触发前端 JS 事件,无法做静默看门狗)
|
||
try { res.write('event: ping\ndata: {}\n\n'); } catch (_) {}
|
||
}, 15000);
|
||
req.on('close', () => {
|
||
clearInterval(heartbeat);
|
||
bus.removeClient(session.id, res);
|
||
});
|
||
bus.emit(session.id, 'status', {
|
||
session_id: session.id,
|
||
status: session.status,
|
||
model_id: session.model_id,
|
||
});
|
||
});
|
||
|
||
module.exports = router;
|