Commit Graph
19 Commits
Author SHA1 Message Date
kicer 5c19c76b59 修复压缩根因:summarize_request 指令从未发给模型
buildMessages 之前无条件跳过 type='summarize_request' 行,导致 compress.prompt
落库但从不进入模型上下文,AI 收不到总结指令。改为条件携带:仅在压缩回合进行中
(指令行位于最后一次无 tool_calls 的 assistant 收尾回复之后)发给模型,回合完成
后照旧跳过,保留防旧指令污染后续轮次的语义(generate_only 残留、工具循环中间
迭代等场景均已覆盖验证)。
2026-09-05 12:44:39 +08:00
kicer 71b4c81c99 压缩功能基本可用 2026-09-05 12:24:56 +08:00
kicer eaf2cd68f5 上下文压缩:phase-bar 加压缩按钮,弹窗选「仅摘要/压缩总结」自动走流程
- 后端:config.yml 加 compress.prompt;engine.summarizeContext(sessionId, mode)
  把 prompt 落为 type='summarize_request' 的 user 消息;runLoopInner 在
  assistant_message SSE 上带 is_summary + mode 给前端;llm.buildMessages 跳过
  summarize_request / archived 行避免指令污染上下文;路由 POST /:id/summarize
  校验 mode ∈ {generate_only, compress_and_clear}。
- 前端:phase-bar「压缩」按钮(硬盘+下箭头 SVG 图标)取代原清空按钮;
  点击弹窗三按钮(取消 / 仅摘要蓝描边 / 压缩总结警示橙);选定后后端丢请求,
  SSE 收到总结时按模式自动调 DELETE 清空(仅 compress_and_clear)。
- 移除 phase-bar「清空」按钮;clearChat 保留为 no-op 防外部误调。
2026-09-05 11:08:11 +08:00
kicer 72ec733a92 修改错误工具调用时候的提示词 2026-09-05 10:08:16 +08:00
kicer 848937c156 AI 坏 tool call 标记 errAck:入库留痕但移出模型上下文,防模仿死循环
- messages 新增 type 列,参数非法(JSON 坏/缺必填)的 assistant 轮标 errAck
- buildMessages 跳过 errAck 行及其关联 tool 回执,改发一条 user 错误提示引导重新生成
- tool_calls 落库时补全缺失 id,保证与 tool 回执配对一致
- safeParse 升级为 checkToolArgs:区分非法 JSON 与缺必填,执行前统一挡下
2026-09-05 08:55:31 +08:00
kicer 9e583afaf5 修复 callModel 没透传 onMeta/onBadData 导致 SSE meta 行被丢弃
callModel 内部 await forEachSSEData(res, evt => {...}) 只传了 1 个参数,
opts.onMeta / opts.onBadData 永远没被接通到 forEachSSEData。结果是
forEachSSEData 收到的非 data 行(event:/id:/retry:/注释)全部被静默丢弃,
onMeta 回调从未触发。这是 893281c commit 那次'应该已经修了'的回归 bug,
由于之前的烟雾测试只覆盖了 onEvent / onText / onBadEvent,没发现 meta 链
完全断的事实。

这次用含 event:/id:/注释行的 SSE 序列烟雾测试,验证 onMeta 收到所有行。
engine.js 的 handleSseMeta 解析逻辑(a349942)此前一直正确,只是链路没
接通,这次修复后能正常按 6 条规则分发。
2026-09-05 07:29:12 +08:00
kicer fcb69112ac 区分 usage 帧与错误帧:choices=[] 含 usage 时不再误报 onBadEvent
OpenAI 兼容协议在 stream_options.include_usage=true 时,最后一帧只发
usage 不带 choices(choices: [])。callModel 之前把这种帧当成错误帧调
onBadEvent,导致日志里 '[sse] 上游错误帧' 后面跟的是 token 统计 json,
误导排查方向。

判断条件改为 'choices=[] 但含 usage → 静默 return';只有 '无 usage 也无
choices' 的帧(如之前的 event: error 帧)才走 onBadEvent。

usage 提取移到 if (evt.usage) usage = evt.usage; 在 if (!choice) 守卫之前
已有的赋值语句,新逻辑在 !choice 块内复用该结果。
2026-09-05 07:25:20 +08:00
kicer 0d5d74bcf6 SSE 错误帧识别:data 解析成功但无 choices 时调 onBadEvent
上游 DeepSeek 代理在某些情况下会以 SSE event: error 帧返回错误响应(如
'Assistant tool call function.arguments must be valid JSON.'),data 行本身
JSON.parse 没问题但 evt.choices 缺失。旧逻辑走 if (!choice) return 沉默跳过,
结果就是 'AI 回复 0 字' 但没有任何信号告诉调用方上游其实报了错。

callModel 在 !choice 之前调 opts.onBadEvent(evt) 把整个 evt 透传给调用方,
streamAssistant 挂上 warn 级日志把错误帧 dump 出来。

调试样例(之前看到的):
  [sse] task-... 上游错误帧:{"error":{"message":"Assistant tool call
   function.arguments must be valid JSON.",...},"id":0}

llm.js 仅改 1 处(callModel 回调体内 if (!choice) 块),其余调试信号不动。
2026-09-05 07:12:54 +08:00
kicer 893281c96c SSE 本轮汇总:callModel 统计 data 帧数,streamAssistant 打 info 日志
定位 'AI 回复 0 字' 时单凭 finish_reason 和 aborted 区分不出 '上游没发任何
data' 和 '上游发了帧但 content 为空'。callModel 在 forEachSSEData 回调首行
累加 sseFrames 并写进返回值(不影响其他字段),streamAssistant 拿到 result
后打印一行 info:

  [sse] <sessionId> 本轮汇总:帧 N,finish=<reason>,aborted=<bool>

判读:
- 帧=0 且 aborted=false:上游未发任何 data(流异常/上游 200 但 body 空)
- 帧>0 且 finish=stop 且 content 空:上游发了帧但 content 为空(罕见,模型主动空回)
- 帧>0 且 finish=length:上游被截断,需要重试或调大 max_tokens
- aborted=true:用户在流中途取消

llm.js 保持纯 IO 职责,只多返回一个计数字段,不引入 logger。
2026-09-05 06:09:28 +08:00
kicer 510eb2fa3e SSE 调试信号:forEachSSEData 增加 onMeta/onBadData 可选回调
llm.js 保持纯 IO 职责:forEachSSEData 把非 data 行(event:/id:/retry:/注释)
逐行通过可选回调 onMeta 透出,把 data 行 JSON.parse 失败时通过可选回调
onBadData 透出原始字符串。流式行为不变,content/tool_calls 累加逻辑零改动。

engine.js 的 streamAssistant 在 callModel 的 options 里挂上:
- onMeta → log.debug('[sse] ...'),meta 是时间性调试信息
- onBadData → log.warn('[sse] 坏帧...'),坏帧是真异常不该静默

同时移除 saveMessage 里的 'AI 回复全文/用户消息全文' debug 块(tool_calls
JSON 刷屏、含图消息会带大段 base64 没必要),改由更底层的 SSE 调试信号
替代,方便定位 'AI 回复 0 字' 这类上游响应异常。
2026-09-05 06:04:42 +08:00
kicer 39c46072fa feat(chat): 解析/存储/发送思考(reasoning 或 reasoning_content) — DB 新增 reasoning 列,SSE 加 reasoning_delta,前端折叠面板 2026-09-03 23:44:52 +08:00
kicer 65ca28072f feat(models): 配置新增 extra_params/thinking_params — 启停时按模型合并到上游请求体 2026-09-03 22:50:53 +08:00
kicer e3bfe0a1d5 fix: 平台 type 放开校验;模型唯一键改为 平台名/模型id
- type 仅决定余额适配器,未知值合法(查不了余额而已),不再报非法
- 打平视图 cfg.models:id = 内部唯一键「平台名/模型id」(池/会话/用量/前端按它认模型,调用处字段名不变),
  mid = 发给上游的原始模型名(callModel body.model 用它)
- 同平台内模型 id 必须唯一;不同平台允许同 id(旧版直接报错的问题)
- 旧 models[] 迁移时平台名自动去重,避免唯一键碰撞
- 前端:卡片/编辑器展示 mid(原始名),编辑弹窗新增时按 平台+id 查重
- concurrency 仍仅解析记录,调度保持每模型 1 会话
2026-09-02 23:09:04 +08:00
kicer 96d63c7ddc agent.language 配置强制回复语言 2026-09-02 15:07:00 +08:00
kicer 2b58b065af 图片消费后不再重复发送,节省token 2026-09-02 12:07:15 +08:00
kicer f895801ad2 加入多模态图片识别功能 2026-09-02 10:52:04 +08:00
kicer 93e463e704 重构system prompt 2026-08-31 16:53:46 +08:00
kicer b926e6e48a models 配置改为每模型独立 url/api_key:移除全局 upstream_url/api_key,config.js 校验每模型必填 url(选填 api_key,去尾斜杠),llm.callModel 按 model_id 解析各自上游与鉴权头,server 启动日志逐模型打印 url;example/test 配置与 README/DEPLOY 同步(本地 config.yml 已改为同值独立结构,gitignore 不入库) 2026-08-31 16:29:45 +08:00
kicer 677b70cffe 按 README 设计方案实现 Agent 系统 app/:多模型 FIFO 调度、Agent 主循环、13 个沙箱工具(web_search 走内网 MCP)、H5 前端(SSE 流式)、Docker 部署与端到端冒烟测试(25/25 通过) 2026-08-31 06:57:38 +08:00