kicer
|
62c114258c
|
体验:tool_call 参数流式早反馈——id+name 就绪即建卡,参数碎片增量下发实时填充
- llm.js callModel:tool_call 碎片凑齐 id+name 时触发 onToolCallStart,其后参数按增量触发 onToolCallArgs(announced/announcedLen 按 slot 去重)
- engine.js streamAssistant:接回调广播 tool_call_start / tool_call_args 两个 SSE 事件
- 前端:tool_call_start 即建展开态「生成参数中…」早卡(顺带解决原 tool_call 事件因 assistant_message 先建卡而永远收起的问题);tool_call_args 150ms 节流流式填参数区+字符计数
- 收尾:assistant_message / 执行时 tool_call 带完整(解包后)参数回填 finalizeToolCardArgs;done 异常兜底回填,防占位态永久呼吸;toolCallStreaming 随会话/回合各处重置
- CSS:.tool-generating 的 ◌ 呼吸动画
- 修复写坏的复制按钮 SVG path(上一轮 fuzzy 编辑吞字),与 HEAD 比对还原
|
2026-09-10 09:46:28 +08:00 |
|
kicer
|
4051fcdd5c
|
清理:移除全部注入型消息(会话上下文/附件系统通知/开始执行指令)
- 会话上下文:删 sessionContextContent/ensureSessionContext/loadHistoryForModel/modelDisplayName 及 bindToSession、runLoopInner、createSession 三处注入;存档/hasUserSince/hasPendingUser 去掉 session_context 特判;SSE 请求历史改用 loadHistory 直取;server.js prompt dump 去掉第 3 部分
- 附件通知:删 routes/messages.js 的 composeWithAttachments/fmtSize 与 POST 路由的 attachments 拼接,正文原样入库、content 必填;前端 send() 不再随 body 传 attachments,无文字时拦截并提示(附件仅上传任务目录);parseUploadNotice 保留兼容旧库行
- 开始执行:删 START_EXECUTION_MESSAGE、engine.startExecution、POST /:id/start 路由与导出(v2 前端本无入口)
- 注释与 README 同步清理
|
2026-09-10 08:12:56 +08:00 |
|
kicer
|
775d92eb67
|
重构:压缩弹窗改为右上X关闭+摘要/清空两动作,移除压缩总结(compress_and_clear)全链路
- 前端:compressModeModal 去掉取消/压缩总结按钮,改右上 X 关闭;「摘要」走原仅摘要流程,「清空」恢复 clearChat(二次确认+DELETE 全部消息)
- 前端:删除 clearAfterSummary、pendingSummaryMode 及 SSE 收尾的 mode 分支;summarize 请求不再带 body.mode
- 后端:/summarize 去掉 mode 校验;summarizeContext/clearSessionMessages 去掉 mode 与 keepSummary 分支,run.summaryMode 更名 run.summarizing;SSE assistant_message 不再回带 mode
- 注释:llm.js/engine.js/messages.js 同步清理压缩总结相关描述
|
2026-09-10 07:15:43 +08:00 |
|
kicer
|
d34c14c970
|
优化压缩功能实现
|
2026-09-07 10:07:28 +08:00 |
|
kicer
|
9161a73e8b
|
压缩提示词替换system prompt
|
2026-09-07 09:52:10 +08:00 |
|
kicer
|
9b1fd031c1
|
临时打印req body方便排查问题
|
2026-09-07 08:58:47 +08:00 |
|
kicer
|
1d0ab8fc04
|
system prompt 注入可用技能列表,免去模型先 list_skills 探索
- tools/skills.js 新增 formatSkillListForPrompt:技能列表格式化为
“## Available Skills” 段落(名称 + 描述,每行一个)
- llm.js 新增 setSkillListText:技能段落拼在模板之后、语言指令之前;
列表变化时失效 systemPromptText 缓存。仅技能增删/描述变化时更新,
否则进程内恒定,不破坏上游前缀缓存
- server.js 启动时对技能根目录做快照并注入,启动日志输出技能名
- routes/skills.js 六个变更入口(创建/重命名/删除/文件写/文件删/上传)
成功后 fire-and-forget 刷新列表:UI 增删改技能无需重启即生效;
list_skills 保留作实时兜底
- system-prompt.txt Skill Usage 措辞更新:直接信任系统 prompt 中的
技能列表,列表缺失或疑似过期时才调 list_skills
|
2026-09-05 18:28:06 +08:00 |
|
kicer
|
7375cdbae5
|
llm.js:system prompt 拼接与含图行解析加缓存
- systemPromptText 按语言缓存拼接结果:每次请求都随 messages 发出,
不再重复分配模板大字符串(内容进程内恒定,不破坏上游前缀缓存)
- 含图行哨兵 JSON(带 base64 大字段)的解析结果按行 id 挂在 session 上,
工具循环里同一行只解析一次;缓存原始块数组而非消费后投影,
消费与否仍按 lastAssistant 实时判定,删除后续 assistant 让图片
回到「未消费」需重带 base64 时自然正确
- 行被删除后残留缓存条目顺手修剪,防缓慢泄漏
|
2026-09-05 18:21:28 +08:00 |
|
kicer
|
33ee43e730
|
仅摘要语义修正:摘要落库标 type='summary',之前历史标 archived 不再发给模型;重进会话恢复摘要卡片 + 淡色存档段说明
|
2026-09-05 12:58:24 +08:00 |
|
kicer
|
5c19c76b59
|
修复压缩根因:summarize_request 指令从未发给模型
buildMessages 之前无条件跳过 type='summarize_request' 行,导致 compress.prompt
落库但从不进入模型上下文,AI 收不到总结指令。改为条件携带:仅在压缩回合进行中
(指令行位于最后一次无 tool_calls 的 assistant 收尾回复之后)发给模型,回合完成
后照旧跳过,保留防旧指令污染后续轮次的语义(generate_only 残留、工具循环中间
迭代等场景均已覆盖验证)。
|
2026-09-05 12:44:39 +08:00 |
|
kicer
|
71b4c81c99
|
压缩功能基本可用
|
2026-09-05 12:24:56 +08:00 |
|
kicer
|
eaf2cd68f5
|
上下文压缩:phase-bar 加压缩按钮,弹窗选「仅摘要/压缩总结」自动走流程
- 后端:config.yml 加 compress.prompt;engine.summarizeContext(sessionId, mode)
把 prompt 落为 type='summarize_request' 的 user 消息;runLoopInner 在
assistant_message SSE 上带 is_summary + mode 给前端;llm.buildMessages 跳过
summarize_request / archived 行避免指令污染上下文;路由 POST /:id/summarize
校验 mode ∈ {generate_only, compress_and_clear}。
- 前端:phase-bar「压缩」按钮(硬盘+下箭头 SVG 图标)取代原清空按钮;
点击弹窗三按钮(取消 / 仅摘要蓝描边 / 压缩总结警示橙);选定后后端丢请求,
SSE 收到总结时按模式自动调 DELETE 清空(仅 compress_and_clear)。
- 移除 phase-bar「清空」按钮;clearChat 保留为 no-op 防外部误调。
|
2026-09-05 11:08:11 +08:00 |
|
kicer
|
72ec733a92
|
修改错误工具调用时候的提示词
|
2026-09-05 10:08:16 +08:00 |
|
kicer
|
848937c156
|
AI 坏 tool call 标记 errAck:入库留痕但移出模型上下文,防模仿死循环
- messages 新增 type 列,参数非法(JSON 坏/缺必填)的 assistant 轮标 errAck
- buildMessages 跳过 errAck 行及其关联 tool 回执,改发一条 user 错误提示引导重新生成
- tool_calls 落库时补全缺失 id,保证与 tool 回执配对一致
- safeParse 升级为 checkToolArgs:区分非法 JSON 与缺必填,执行前统一挡下
|
2026-09-05 08:55:31 +08:00 |
|
kicer
|
9e583afaf5
|
修复 callModel 没透传 onMeta/onBadData 导致 SSE meta 行被丢弃
callModel 内部 await forEachSSEData(res, evt => {...}) 只传了 1 个参数,
opts.onMeta / opts.onBadData 永远没被接通到 forEachSSEData。结果是
forEachSSEData 收到的非 data 行(event:/id:/retry:/注释)全部被静默丢弃,
onMeta 回调从未触发。这是 893281c commit 那次'应该已经修了'的回归 bug,
由于之前的烟雾测试只覆盖了 onEvent / onText / onBadEvent,没发现 meta 链
完全断的事实。
这次用含 event:/id:/注释行的 SSE 序列烟雾测试,验证 onMeta 收到所有行。
engine.js 的 handleSseMeta 解析逻辑(a349942)此前一直正确,只是链路没
接通,这次修复后能正常按 6 条规则分发。
|
2026-09-05 07:29:12 +08:00 |
|
kicer
|
fcb69112ac
|
区分 usage 帧与错误帧:choices=[] 含 usage 时不再误报 onBadEvent
OpenAI 兼容协议在 stream_options.include_usage=true 时,最后一帧只发
usage 不带 choices(choices: [])。callModel 之前把这种帧当成错误帧调
onBadEvent,导致日志里 '[sse] 上游错误帧' 后面跟的是 token 统计 json,
误导排查方向。
判断条件改为 'choices=[] 但含 usage → 静默 return';只有 '无 usage 也无
choices' 的帧(如之前的 event: error 帧)才走 onBadEvent。
usage 提取移到 if (evt.usage) usage = evt.usage; 在 if (!choice) 守卫之前
已有的赋值语句,新逻辑在 !choice 块内复用该结果。
|
2026-09-05 07:25:20 +08:00 |
|
kicer
|
0d5d74bcf6
|
SSE 错误帧识别:data 解析成功但无 choices 时调 onBadEvent
上游 DeepSeek 代理在某些情况下会以 SSE event: error 帧返回错误响应(如
'Assistant tool call function.arguments must be valid JSON.'),data 行本身
JSON.parse 没问题但 evt.choices 缺失。旧逻辑走 if (!choice) return 沉默跳过,
结果就是 'AI 回复 0 字' 但没有任何信号告诉调用方上游其实报了错。
callModel 在 !choice 之前调 opts.onBadEvent(evt) 把整个 evt 透传给调用方,
streamAssistant 挂上 warn 级日志把错误帧 dump 出来。
调试样例(之前看到的):
[sse] task-... 上游错误帧:{"error":{"message":"Assistant tool call
function.arguments must be valid JSON.",...},"id":0}
llm.js 仅改 1 处(callModel 回调体内 if (!choice) 块),其余调试信号不动。
|
2026-09-05 07:12:54 +08:00 |
|
kicer
|
893281c96c
|
SSE 本轮汇总:callModel 统计 data 帧数,streamAssistant 打 info 日志
定位 'AI 回复 0 字' 时单凭 finish_reason 和 aborted 区分不出 '上游没发任何
data' 和 '上游发了帧但 content 为空'。callModel 在 forEachSSEData 回调首行
累加 sseFrames 并写进返回值(不影响其他字段),streamAssistant 拿到 result
后打印一行 info:
[sse] <sessionId> 本轮汇总:帧 N,finish=<reason>,aborted=<bool>
判读:
- 帧=0 且 aborted=false:上游未发任何 data(流异常/上游 200 但 body 空)
- 帧>0 且 finish=stop 且 content 空:上游发了帧但 content 为空(罕见,模型主动空回)
- 帧>0 且 finish=length:上游被截断,需要重试或调大 max_tokens
- aborted=true:用户在流中途取消
llm.js 保持纯 IO 职责,只多返回一个计数字段,不引入 logger。
|
2026-09-05 06:09:28 +08:00 |
|
kicer
|
510eb2fa3e
|
SSE 调试信号:forEachSSEData 增加 onMeta/onBadData 可选回调
llm.js 保持纯 IO 职责:forEachSSEData 把非 data 行(event:/id:/retry:/注释)
逐行通过可选回调 onMeta 透出,把 data 行 JSON.parse 失败时通过可选回调
onBadData 透出原始字符串。流式行为不变,content/tool_calls 累加逻辑零改动。
engine.js 的 streamAssistant 在 callModel 的 options 里挂上:
- onMeta → log.debug('[sse] ...'),meta 是时间性调试信息
- onBadData → log.warn('[sse] 坏帧...'),坏帧是真异常不该静默
同时移除 saveMessage 里的 'AI 回复全文/用户消息全文' debug 块(tool_calls
JSON 刷屏、含图消息会带大段 base64 没必要),改由更底层的 SSE 调试信号
替代,方便定位 'AI 回复 0 字' 这类上游响应异常。
|
2026-09-05 06:04:42 +08:00 |
|
kicer
|
39c46072fa
|
feat(chat): 解析/存储/发送思考(reasoning 或 reasoning_content) — DB 新增 reasoning 列,SSE 加 reasoning_delta,前端折叠面板
|
2026-09-03 23:44:52 +08:00 |
|
kicer
|
65ca28072f
|
feat(models): 配置新增 extra_params/thinking_params — 启停时按模型合并到上游请求体
|
2026-09-03 22:50:53 +08:00 |
|
kicer
|
e3bfe0a1d5
|
fix: 平台 type 放开校验;模型唯一键改为 平台名/模型id
- type 仅决定余额适配器,未知值合法(查不了余额而已),不再报非法
- 打平视图 cfg.models:id = 内部唯一键「平台名/模型id」(池/会话/用量/前端按它认模型,调用处字段名不变),
mid = 发给上游的原始模型名(callModel body.model 用它)
- 同平台内模型 id 必须唯一;不同平台允许同 id(旧版直接报错的问题)
- 旧 models[] 迁移时平台名自动去重,避免唯一键碰撞
- 前端:卡片/编辑器展示 mid(原始名),编辑弹窗新增时按 平台+id 查重
- concurrency 仍仅解析记录,调度保持每模型 1 会话
|
2026-09-02 23:09:04 +08:00 |
|
kicer
|
96d63c7ddc
|
agent.language 配置强制回复语言
|
2026-09-02 15:07:00 +08:00 |
|
kicer
|
2b58b065af
|
图片消费后不再重复发送,节省token
|
2026-09-02 12:07:15 +08:00 |
|
kicer
|
f895801ad2
|
加入多模态图片识别功能
|
2026-09-02 10:52:04 +08:00 |
|
kicer
|
93e463e704
|
重构system prompt
|
2026-08-31 16:53:46 +08:00 |
|
kicer
|
b926e6e48a
|
models 配置改为每模型独立 url/api_key:移除全局 upstream_url/api_key,config.js 校验每模型必填 url(选填 api_key,去尾斜杠),llm.callModel 按 model_id 解析各自上游与鉴权头,server 启动日志逐模型打印 url;example/test 配置与 README/DEPLOY 同步(本地 config.yml 已改为同值独立结构,gitignore 不入库)
|
2026-08-31 16:29:45 +08:00 |
|
kicer
|
677b70cffe
|
按 README 设计方案实现 Agent 系统 app/:多模型 FIFO 调度、Agent 主循环、13 个沙箱工具(web_search 走内网 MCP)、H5 前端(SSE 流式)、Docker 部署与端到端冒烟测试(25/25 通过)
|
2026-08-31 06:57:38 +08:00 |
|