kicer
|
5c19c76b59
|
修复压缩根因:summarize_request 指令从未发给模型
buildMessages 之前无条件跳过 type='summarize_request' 行,导致 compress.prompt
落库但从不进入模型上下文,AI 收不到总结指令。改为条件携带:仅在压缩回合进行中
(指令行位于最后一次无 tool_calls 的 assistant 收尾回复之后)发给模型,回合完成
后照旧跳过,保留防旧指令污染后续轮次的语义(generate_only 残留、工具循环中间
迭代等场景均已覆盖验证)。
|
2026-09-05 12:44:39 +08:00 |
|
kicer
|
71b4c81c99
|
压缩功能基本可用
|
2026-09-05 12:24:56 +08:00 |
|
kicer
|
eaf2cd68f5
|
上下文压缩:phase-bar 加压缩按钮,弹窗选「仅摘要/压缩总结」自动走流程
- 后端:config.yml 加 compress.prompt;engine.summarizeContext(sessionId, mode)
把 prompt 落为 type='summarize_request' 的 user 消息;runLoopInner 在
assistant_message SSE 上带 is_summary + mode 给前端;llm.buildMessages 跳过
summarize_request / archived 行避免指令污染上下文;路由 POST /:id/summarize
校验 mode ∈ {generate_only, compress_and_clear}。
- 前端:phase-bar「压缩」按钮(硬盘+下箭头 SVG 图标)取代原清空按钮;
点击弹窗三按钮(取消 / 仅摘要蓝描边 / 压缩总结警示橙);选定后后端丢请求,
SSE 收到总结时按模式自动调 DELETE 清空(仅 compress_and_clear)。
- 移除 phase-bar「清空」按钮;clearChat 保留为 no-op 防外部误调。
|
2026-09-05 11:08:11 +08:00 |
|
kicer
|
72ec733a92
|
修改错误工具调用时候的提示词
|
2026-09-05 10:08:16 +08:00 |
|
kicer
|
848937c156
|
AI 坏 tool call 标记 errAck:入库留痕但移出模型上下文,防模仿死循环
- messages 新增 type 列,参数非法(JSON 坏/缺必填)的 assistant 轮标 errAck
- buildMessages 跳过 errAck 行及其关联 tool 回执,改发一条 user 错误提示引导重新生成
- tool_calls 落库时补全缺失 id,保证与 tool 回执配对一致
- safeParse 升级为 checkToolArgs:区分非法 JSON 与缺必填,执行前统一挡下
|
2026-09-05 08:55:31 +08:00 |
|
kicer
|
9e583afaf5
|
修复 callModel 没透传 onMeta/onBadData 导致 SSE meta 行被丢弃
callModel 内部 await forEachSSEData(res, evt => {...}) 只传了 1 个参数,
opts.onMeta / opts.onBadData 永远没被接通到 forEachSSEData。结果是
forEachSSEData 收到的非 data 行(event:/id:/retry:/注释)全部被静默丢弃,
onMeta 回调从未触发。这是 893281c commit 那次'应该已经修了'的回归 bug,
由于之前的烟雾测试只覆盖了 onEvent / onText / onBadEvent,没发现 meta 链
完全断的事实。
这次用含 event:/id:/注释行的 SSE 序列烟雾测试,验证 onMeta 收到所有行。
engine.js 的 handleSseMeta 解析逻辑(a349942)此前一直正确,只是链路没
接通,这次修复后能正常按 6 条规则分发。
|
2026-09-05 07:29:12 +08:00 |
|
kicer
|
fcb69112ac
|
区分 usage 帧与错误帧:choices=[] 含 usage 时不再误报 onBadEvent
OpenAI 兼容协议在 stream_options.include_usage=true 时,最后一帧只发
usage 不带 choices(choices: [])。callModel 之前把这种帧当成错误帧调
onBadEvent,导致日志里 '[sse] 上游错误帧' 后面跟的是 token 统计 json,
误导排查方向。
判断条件改为 'choices=[] 但含 usage → 静默 return';只有 '无 usage 也无
choices' 的帧(如之前的 event: error 帧)才走 onBadEvent。
usage 提取移到 if (evt.usage) usage = evt.usage; 在 if (!choice) 守卫之前
已有的赋值语句,新逻辑在 !choice 块内复用该结果。
|
2026-09-05 07:25:20 +08:00 |
|
kicer
|
0d5d74bcf6
|
SSE 错误帧识别:data 解析成功但无 choices 时调 onBadEvent
上游 DeepSeek 代理在某些情况下会以 SSE event: error 帧返回错误响应(如
'Assistant tool call function.arguments must be valid JSON.'),data 行本身
JSON.parse 没问题但 evt.choices 缺失。旧逻辑走 if (!choice) return 沉默跳过,
结果就是 'AI 回复 0 字' 但没有任何信号告诉调用方上游其实报了错。
callModel 在 !choice 之前调 opts.onBadEvent(evt) 把整个 evt 透传给调用方,
streamAssistant 挂上 warn 级日志把错误帧 dump 出来。
调试样例(之前看到的):
[sse] task-... 上游错误帧:{"error":{"message":"Assistant tool call
function.arguments must be valid JSON.",...},"id":0}
llm.js 仅改 1 处(callModel 回调体内 if (!choice) 块),其余调试信号不动。
|
2026-09-05 07:12:54 +08:00 |
|
kicer
|
893281c96c
|
SSE 本轮汇总:callModel 统计 data 帧数,streamAssistant 打 info 日志
定位 'AI 回复 0 字' 时单凭 finish_reason 和 aborted 区分不出 '上游没发任何
data' 和 '上游发了帧但 content 为空'。callModel 在 forEachSSEData 回调首行
累加 sseFrames 并写进返回值(不影响其他字段),streamAssistant 拿到 result
后打印一行 info:
[sse] <sessionId> 本轮汇总:帧 N,finish=<reason>,aborted=<bool>
判读:
- 帧=0 且 aborted=false:上游未发任何 data(流异常/上游 200 但 body 空)
- 帧>0 且 finish=stop 且 content 空:上游发了帧但 content 为空(罕见,模型主动空回)
- 帧>0 且 finish=length:上游被截断,需要重试或调大 max_tokens
- aborted=true:用户在流中途取消
llm.js 保持纯 IO 职责,只多返回一个计数字段,不引入 logger。
|
2026-09-05 06:09:28 +08:00 |
|
kicer
|
510eb2fa3e
|
SSE 调试信号:forEachSSEData 增加 onMeta/onBadData 可选回调
llm.js 保持纯 IO 职责:forEachSSEData 把非 data 行(event:/id:/retry:/注释)
逐行通过可选回调 onMeta 透出,把 data 行 JSON.parse 失败时通过可选回调
onBadData 透出原始字符串。流式行为不变,content/tool_calls 累加逻辑零改动。
engine.js 的 streamAssistant 在 callModel 的 options 里挂上:
- onMeta → log.debug('[sse] ...'),meta 是时间性调试信息
- onBadData → log.warn('[sse] 坏帧...'),坏帧是真异常不该静默
同时移除 saveMessage 里的 'AI 回复全文/用户消息全文' debug 块(tool_calls
JSON 刷屏、含图消息会带大段 base64 没必要),改由更底层的 SSE 调试信号
替代,方便定位 'AI 回复 0 字' 这类上游响应异常。
|
2026-09-05 06:04:42 +08:00 |
|
kicer
|
39c46072fa
|
feat(chat): 解析/存储/发送思考(reasoning 或 reasoning_content) — DB 新增 reasoning 列,SSE 加 reasoning_delta,前端折叠面板
|
2026-09-03 23:44:52 +08:00 |
|
kicer
|
65ca28072f
|
feat(models): 配置新增 extra_params/thinking_params — 启停时按模型合并到上游请求体
|
2026-09-03 22:50:53 +08:00 |
|
kicer
|
e3bfe0a1d5
|
fix: 平台 type 放开校验;模型唯一键改为 平台名/模型id
- type 仅决定余额适配器,未知值合法(查不了余额而已),不再报非法
- 打平视图 cfg.models:id = 内部唯一键「平台名/模型id」(池/会话/用量/前端按它认模型,调用处字段名不变),
mid = 发给上游的原始模型名(callModel body.model 用它)
- 同平台内模型 id 必须唯一;不同平台允许同 id(旧版直接报错的问题)
- 旧 models[] 迁移时平台名自动去重,避免唯一键碰撞
- 前端:卡片/编辑器展示 mid(原始名),编辑弹窗新增时按 平台+id 查重
- concurrency 仍仅解析记录,调度保持每模型 1 会话
|
2026-09-02 23:09:04 +08:00 |
|
kicer
|
96d63c7ddc
|
agent.language 配置强制回复语言
|
2026-09-02 15:07:00 +08:00 |
|
kicer
|
2b58b065af
|
图片消费后不再重复发送,节省token
|
2026-09-02 12:07:15 +08:00 |
|
kicer
|
f895801ad2
|
加入多模态图片识别功能
|
2026-09-02 10:52:04 +08:00 |
|
kicer
|
93e463e704
|
重构system prompt
|
2026-08-31 16:53:46 +08:00 |
|
kicer
|
b926e6e48a
|
models 配置改为每模型独立 url/api_key:移除全局 upstream_url/api_key,config.js 校验每模型必填 url(选填 api_key,去尾斜杠),llm.callModel 按 model_id 解析各自上游与鉴权头,server 启动日志逐模型打印 url;example/test 配置与 README/DEPLOY 同步(本地 config.yml 已改为同值独立结构,gitignore 不入库)
|
2026-08-31 16:29:45 +08:00 |
|
kicer
|
677b70cffe
|
按 README 设计方案实现 Agent 系统 app/:多模型 FIFO 调度、Agent 主循环、13 个沙箱工具(web_search 走内网 MCP)、H5 前端(SSE 流式)、Docker 部署与端到端冒烟测试(25/25 通过)
|
2026-08-31 06:57:38 +08:00 |
|