kicer
|
f587eb5b52
|
fix(llm): 深度思考状态随会话落库,压缩不再断前缀缓存
deepThink 只在发消息时写进 sessions.deep_think,重进会话按它回填按钮,压缩回合
沿用会话当前状态而不是强制关思考。
压缩回合照常发 tools、system prompt 不动,请求与上一发常规请求只差尾部那条压缩
指令,前缀缓存整段命中(原来压缩去 tools、关思考,前缀从最前面就断了)。
reasoning_content 只在开思考时回传:关思考不发历史思维链;开思考时带 tool_calls
却没有思维链的行用空串占位,避免上游 400。
|
2026-11-12 09:02:23 +08:00 |
|
kicer
|
01757d4f4b
|
feat(prompt): 环境段按部署形态二选一,修正本地模式的环境事实
|
2026-11-11 16:08:42 +08:00 |
|
kicer
|
b0a8283406
|
占位裁剪新增 turns(真人回合)条件:回合内不裁,跨回合才裁
rounds 数的是 assistant 行,长回合里会把模型还要用的回执裁掉——实测有回合把同一文件
分段重读了 24 次(每次都在 rounds:2 生效的那一轮回来重读)。
- 规则新增 turns 字段:其后又来了几条真人消息(role=user 且 type 为空,注入行不算)
- rounds 与 turns 同时满足才裁(AND);两者都写 0 才算规则关闭
- 默认:fetch / read_file / web_search 用 rounds:2 + turns:1(回合内绝不裁),
write_file 参数侧保持 rounds:1 + turns:0(只是写盘快照,照旧早裁)
- config.example.yml 补了带时间线的例子与「rounds=后面 AI 又说了几句话 /
turns=后面又来了几条真人消息」的注释;AGENTS.md 与 tool-design.md 同步
- 启动日志改为打印 轮≥N,回合≥M,便于核对生效规则
|
2026-11-03 08:06:43 +08:00 |
|
kicer
|
509d63a99b
|
重负载占位裁剪改为配置驱动:agent.trim.rules 统一策略,默认覆盖 web_search
|
2026-11-02 19:46:16 +08:00 |
|
kicer
|
2e220d0a22
|
运行中发送改为待发送条幅:排队 / 干预 / 立即发送
- 运行中点发送不再立即插话,改为进服务端队列(engine.pendings,内存态),
输入框上方一行条幅:默认本轮结束后发出,队首可「干预」(当前工具跑完就插话)
或「立即发送」(终止本轮工具调用并立刻发)。队列在服务端,关页面/重连不丢。
- 新增 closeToolBatch():给未闭合批次里缺回执的 tool_call 补合成回执,
取消/干预/finalize 兜底三处调用;顺带修掉「中途停止后库里留孤儿 tool_calls、
下一轮请求被上游拒收」的存量 bug。
- llm.buildMessages 加读侧配对过滤(pairedByAssistant / emittedCallIds):
只下发本批确有回执的调用,孤儿回执也不下发,兜历史脏数据,DB/UI 不动。
- HTTP:POST /messages 支持 delivery:'queue';新增 POST/DELETE /pending/:qid;
会话详情与 status 事件带 pending。
- 前端:条幅渲染与动作、pending_added/pending_removed/user_message 事件、
硬中断后工具卡标「已取消」;发送始终交服务端判定,避免过期状态把 user 行
插进工具批次中间。
- 文档:app/AGENTS.md 补生命周期、SSE 事件清单与待投递队列语义。
|
2026-10-25 22:44:02 +08:00 |
|
kicer
|
a8900ddafc
|
思考模式下补齐缺失的 reasoning_content,修复中途开启思考导致的 400
|
2026-10-22 10:15:06 +08:00 |
|
kicer
|
c59ddf5eb4
|
图片回执不在重放时改写:已消费只省略像素,保留当时成功的读图事实
|
2026-10-22 00:18:30 +08:00 |
|
kicer
|
bb621b89b7
|
修复图片重复读取的bug
|
2026-10-21 23:04:56 +08:00 |
|
kicer
|
6aa1a2789b
|
图片read_file时提示以json返回
|
2026-10-21 22:40:18 +08:00 |
|
kicer
|
e2eb211ab1
|
feat(config): 模型新增 reasoning_ack_field——历史轮思维链按配置字段名回传(逐模型 opt-in,纯配置闸门)
|
2026-10-06 07:37:12 +08:00 |
|
kicer
|
3eed51a07b
|
fix(llm): 压缩回合回滚为「与常规请求字节同构+仅追加尾指令」
- 撤销上轮 inject 行过滤:裁历史中间行从首个被删行起前缀缓存全断,等于全价重读
(memory_note 坐会话开头附近,伤害≈整段)
- 一并修同类更隐蔽病灶:withProfile=false 会把第 1 条画像快照抽掉,缓存从 index 1
就断——画像快照与占位裁剪全部照常(与常规请求同一拼法),压缩只换尾巴
- 摘要看不到距尾≥2轮的已省原料可接受:那些多已被后续 assistant 正文复述/已落盘
- 教训入码:文件内写明「压缩要同构、标题可狠筛,两套逻辑不可串用」+冒烟改断言
字节同构
|
2026-10-02 10:25:46 +08:00 |
|
kicer
|
abe5673926
|
refactor(templates): 提示词按用途分组命名 + 压缩回合剔除 [CTX] 注入行
- 命名混乱整治:prompt-*(压缩/标题系统侧指令)与 profile-*(各 profile 的
system prompt)两组:system-prompt.txt→profile-default.txt、
advising/lab/zero-system.txt→profile-*.txt、compress/title-prompt.txt→
prompt-*.txt;全库引用(llm/config/engine/README×2/example/ARCHITECTURE)同步
- compressMessages 输入过滤:memory_note/scheduler_note/errAck/旧 summarize_request
不进摘要(跨会话噪音+滚雪球,同 engine JOURNAL_SKIP_TYPES 虑);channel_note 刻意
保留——压缩落库存档全部行,微信约束只能靠摘要转世;task_brief/summary 照常
- 画像快照本就不在 messages 表,压缩/标题均天然不带
|
2026-10-02 10:16:31 +08:00 |
|
kicer
|
0055842d2d
|
fix(llm): 标题生成输入剔除 [CTX] 注入行——白名单制
titleMessages 原只排 archived,channel_note/memory_note(及 scheduler_note/
errAck/旧 summarize_request)等固定模板注入会喂进标题模型做「摘要」。
改白名单:null/summary/task_brief——后两者是会话主题的最佳凝缩,须保留;
profile 快照不在 messages 表,天然不进。新增合成 type 默认被排除。
|
2026-10-02 10:08:46 +08:00 |
|
kicer
|
d0d7b838e9
|
style(llm,memory): 模型侧文案 AI 友好化——占位改键值记号,记忆/画像头删人读整句
- 重负载占位:[OMITTED, http_status=200, size=6465] / [OMITTED, size=12000];
url/path 不再重复进占位——发起调用的 assistant 行里本就有,参数即恢复指针
- memory.journalFor 注入头置空后整体移除(head 恒空,顺带消开头空行残留)
- user-profile 快照头去掉「· 背景参考」后缀
- trim-smoke 断言同步键值格式
|
2026-10-02 09:27:15 +08:00 |
|
kicer
|
f8126bfa00
|
feat(llm): 历史重放重负载占位裁剪(write_file 参数 / fetch·read_file 回执)
- buildMessages 组装时对「距尾 ≥N 个 assistant 轮」的重负载行换单行占位:
write_file 参数正文(≥1 轮)、fetch/read_file 回执(≥2 轮);DB/UI 不动,
占位保留 path/url 作恢复指针(文件在盘上可重读,页面可重抓)
- 阈值可配 agent.trim_write_rounds / trim_result_rounds(0=关,重启生效)
- 压缩回合显式关裁剪:摘要需要原料原文
- 短正文(<600 字)不裁;errAck/图片回执等既有专属路径不碰
- test/trim-smoke.js:纯函数冒烟(占位格式/新鲜保留/压缩豁免/开关/缺参不炸)
|
2026-10-02 08:29:35 +08:00 |
|
kicer
|
7bc25c8dde
|
fix(agent): errAck 死循环双修——回显模型答卷 + schedule 形状推断写回
用户质疑命中真码:仿真实锤 errAck 反馈通路是通的(7 条 [系统] 提示都在发),
但 20 行历史只喂出 14 条消息——整轮删除让模型挨了 7 次骂却看不到自己上一轮
提交的参数形状,无答卷可对照,flash 模型在 temperature=1 下原地打转。
- llm.js errAck 重写:[系统] 消息内回显上轮各 tool_call 的实际参数(截 200 字,
标注'仅供纠错对照,不要原样重复',防被当合法样本模仿——原设计怕坏样本模仿,
矫枉过正到模型无法自纠);
- engine 归一化环加 schedule 形状推断:op 缺失但 brief+cron_expr+prompt 齐
(brief 只属于 create,形状无歧义)→ 推断补全并写回 tc.arguments,落库/送检/
历史回放三处一致——GLM 系把 op 当操作名省略的思考习惯,从此首轮即成,不进 errAck;
- 推断从 checkToolArgs 挪到归一化位置(checkToolArgs 保持纯校验,不再特判工具名);
- 配套已落:解包/预检失败处记录原始拼接串头 debug(下次复发可定案模型真没写 vs 传输丢失)。
仿真复核:真实库 006 会话 7 条 errAck 的模型视角消息已含答卷回显与枚举教学全文。
|
2026-09-29 19:39:37 +08:00 |
|
kicer
|
b4d39675ec
|
多模态投递定案:探针矩阵证伪「每轮一张」限流与外链嫌疑,合并消息按官方形态收敛——DeepSeek 视觉受控实验(纯色条 ground-truth 图 × prompt_tokens 差值 × /p 外部取用日志,三源交叉):data URL 单/双图、/p 外链单/双图(自签 https+attachment 头)、tool 回执后 user 合并形态、真实微信截图逐字 OCR,9 项全 PASS;生产 DB usage.pt 实测每图轮 +600~1000——14:33 时图早已进入上下文,"看不见"是弱模型叙事惯性而非投递失败。据此采纳评审可落地三条:llm.js 合并 user 消息改 text 置顶排布(逐图对应说明合并进首段文字、图块按回执顺序紧随,对齐官方示例形态),首段明说「不是用户新输入」并附「先逐张简述再继续」指令兼作送达自检;"已消费"分界从任意 assistant 收紧为最后一条无 tool_calls 的收尾 assistant(中间只发 tool_calls 的轮次不算已阅,图继续留在上下文直到模型真正答复过,鲁棒优先于极致省 token)。engine.js 撤 imgThisTurn 每轮一张批次限流(多图实测可行,该限流是为误诊买的保险),保留同回合同图去重护栏(本轮实测 11:51 式 40 连读已收敛为 1 次挡回+如实上报);「发送形态」debug 日志转常驻观测。definitions.json read_file 图片段与 ARCHITECTURE 图片链路、陷阱 7 同步(含诊断三源方法论:发送形态日志/外部取用行/pt 增量)。探针实验产物已全部清理;docker-compose.yml 为用户自改不在本次提交。
|
2026-09-28 16:27:00 +08:00 |
|
kicer
|
e1bee18cd0
|
llm: 工具回执夹图改批次后 user 合并投递 + 同回合去重护栏(线上死循环复盘)
多模态上游兼容性事故:tool 角色消息带 image_url 块是非标准形态,大量
OpenAI 兼容上游整批忽略或只认批次最后一张——模型看不到图、却见回执写着
「已回传」,加上旧催读文案「如需重读请再次 read_file」火上浇油,模型一轮轮
重读同一批图烧 token 死循环。改为:
- llm.js buildMessages:未消费的 tool 回执图不塞回执内(回执降级纯文本),
image_ref 现签外链后统一并入该批回执之后的一条 user 消息(user 角色各家
通吃);每张图前配一行「[图片 N,对应回执] <回执首行>」标签,模型可对号;
旧库 data: URL 块原样并入;签不到降级文字占位。顺序天然满足 assistant→
tool 紧邻配对约束(合并消息落在整段历史尾部)。
- 两处催读文案(已省略/外链不可用)改为「请告知用户、勿反复重读同一文件」。
- engine.js runLoopInner 死循环护栏:run.imgDelivered 按图 rel 去重,同回合
再读同图只回文字提示不再签新图;run 随回合销毁,新回合自动重置,正常
追问重看不受影响。
- definitions.json read_file 描述同步新形态(图在批次回执后的独立 user
消息到达;同回合重读不再带像素,勿重试)。
- ARCHITECTURE.md §5.1 图片约定、§14 陷阱 7 改写,记录本次复盘。
验证:容器内构造 history 直调 buildMessages 六场景单测全过(合并/标签/
现签/签失败占位/已消费省略/同批多图序号/旧 data: 透传/user 行原位现签);
JSON 与 node --check 通过;restart agent-core 启动干净、微信对账正常。
|
2026-09-28 12:56:39 +08:00 |
|
kicer
|
d1e97ba9f9
|
profile 工具取代 handoff 提取链路:AI 沟通中增量维护画像(list/set/add/remove,顿号标签 + 15字/24个/300字帽 + 整批原子 + 停用拒写);删 runExtraction/profileMessages/profile-prompt.txt 一次性提取(会覆写工具成果);advising 放行 profile;preference 扩容 300,设置页文案同步
|
2026-09-28 06:52:50 +08:00 |
|
kicer
|
5535d4cd0d
|
压缩回合不再注入画像快照,堵住标题生成的间接污染通道
现象:标题里出现「用户画像: 称谓…; 行业…」。排查(代码层):画像快照
(profiles 存 sessions.profile_snapshot,buildMessages 每轮瞬态注入)从不落 messages 表,
titleMessages 只读该表,直注不存在;真通道是 compressMessages 复用 buildMessages
把画像原文带进压缩输入 → 模型把画像转述进摘要 → 摘要以 type='summary' 落库 →
titleMessages 只排 archived,summary 行照进 → 画像进了标题输入(本轮标题即此形状)。
修法:buildMessages 加第 5 参 withProfile(默认 true 不动既有调用),
compressMessages 传 false。画像本就每轮瞬态注入、压缩后照常携带,无需烧进摘要;
摘要带它只有坏处(污染标题 + 固化过时信息)。对话中模型主动引用画像的落库行不处理:
会话本身在聊画像时标题带画像是合法摘要(007/008 两例即此)。
存量已被画像污染的旧 summary 行不回刷:标题只在为空时生成,随下次清空自然轮换。
|
2026-09-26 07:00:21 +08:00 |
|
kicer
|
7708eea46a
|
用户画像(跨会话、按登录用户隔离,只记称谓/行业/偏好三字段):新建/清空会话时把画像渲染文本+现取的近期关注(最近5条会话标题,不入库)冻结进sessions.profile_snapshot,buildMessages以system后首条user恒定注入(不入messages表故阶段归档/压缩免疫,字节恒定不破前缀缓存);唯一更新时机enterExecuting落槌——advising轮历史+当前画像+任务书快照喂一次模型调用(templates/profile-prompt.txt锁三字段JSON全量覆写语义:未提及原值拷回、被纠正才改写/清空),服务端按字段覆写、漏字段/解析失败保旧值,fire-and-forget永不抛出;user_profiles表(user主键,data JSON,enabled开关);/api/profile读写按req.user隔离,账户设置页新增用户画像子页(可见可改可停用,停用即清现存快照且不再提取);auth未启用=空串键隐式单用户
|
2026-09-25 17:54:09 +08:00 |
|
kicer
|
94436ff1f1
|
调整prompt
|
2026-09-24 09:02:31 +08:00 |
|
kicer
|
06f0f03330
|
技能清单改 {APP_SKILLS} 占位符就地注入模板,不再盲拼尾部
- llm.js:systemPromptText 拼装时把模板内的 {APP_SKILLS} 替换为技能清单(split/join 支持多处);默认模板没放占位符时兑底尾拼,自定义 prompt 没放则无技能段(语言指令仍尾拼);清单为空时替换后压掉多余空行
- system-prompt.txt:Skill Usage 节尾部放占位符,措辞由「(if present) 找 ## Available Skills 段落」改为直读下方清单;mini-system.txt 同步
- 顺手修 config.example.yml 里误写的 // 注释行;文档语义同步
|
2026-09-22 14:29:53 +08:00 |
|
kicer
|
a9ec8f2741
|
新增 model_profiles:小模型的 prompt+tools 组合白名单
- 顶层 model_profiles 定义多套组合 {tools_allow?, system_prompt_file?},platforms 里的模型用 profile: <名> 引用(同 id 跨平台复用);引用不存在/文件缺失/空壳组合直接校验报错
- tools_allow 按最终工具名(内置 + MCP,含 server__ 前缀)过滤发给模型的 tools;名单外工具被调用不拦,executor 全表照跑
- system_prompt_file 相对 server/templates/,配置加载时一次读入常驻内存;设了即完全接管(不拼技能段),语言后缀照拼
- 运行期动态切换:发消息带 profile 参数(同 deepThink 约定,每迭代取 run 最新值),纯内存选择、不碰 config.yml;'default'=显式全量,未知名 400
- 压缩回合跟随当前组合;prompt 缓存改 (profile,语言) 键;prompt.txt dump 每套组合各一段;/api/models 带 profile、/api/system/status 下发组合名供前端选择器
|
2026-09-22 10:38:04 +08:00 |
|
kicer
|
bca41f3c7e
|
优化任务文件窗口显示
|
2026-09-21 21:52:52 +08:00 |
|
kicer
|
e35ce4ddcf
|
压缩提示词按照zed模式实现,放到user中
|
2026-09-21 19:45:00 +08:00 |
|
kicer
|
a20028a703
|
HTTP 200 流内错误帧直接转 throw:汇入非200重试/失败上屏链路,不再只留日志;forEachSSEData 只按 JSON 解析失败判坏帧
|
2026-09-21 12:42:23 +08:00 |
|
kicer
|
9820bb86fc
|
模型池槽位按物理key拆分:平台key为其下模型共享资源,绑定时选具体模型(上次平台优先+平台内绑定数轮转)
|
2026-09-21 11:31:57 +08:00 |
|
kicer
|
3e9a87adb5
|
模型最久未用优先轮转
|
2026-09-21 11:19:53 +08:00 |
|
kicer
|
ae28587c02
|
修复模型占用的问题
|
2026-09-21 11:08:43 +08:00 |
|
kicer
|
ce8b05678b
|
think标签归入思考
|
2026-09-21 10:28:52 +08:00 |
|
kicer
|
6e86a8408e
|
加入自动生成标题功能支持
|
2026-09-21 09:37:34 +08:00 |
|
kicer
|
62c114258c
|
体验:tool_call 参数流式早反馈——id+name 就绪即建卡,参数碎片增量下发实时填充
- llm.js callModel:tool_call 碎片凑齐 id+name 时触发 onToolCallStart,其后参数按增量触发 onToolCallArgs(announced/announcedLen 按 slot 去重)
- engine.js streamAssistant:接回调广播 tool_call_start / tool_call_args 两个 SSE 事件
- 前端:tool_call_start 即建展开态「生成参数中…」早卡(顺带解决原 tool_call 事件因 assistant_message 先建卡而永远收起的问题);tool_call_args 150ms 节流流式填参数区+字符计数
- 收尾:assistant_message / 执行时 tool_call 带完整(解包后)参数回填 finalizeToolCardArgs;done 异常兜底回填,防占位态永久呼吸;toolCallStreaming 随会话/回合各处重置
- CSS:.tool-generating 的 ◌ 呼吸动画
- 修复写坏的复制按钮 SVG path(上一轮 fuzzy 编辑吞字),与 HEAD 比对还原
|
2026-09-10 09:46:28 +08:00 |
|
kicer
|
4051fcdd5c
|
清理:移除全部注入型消息(会话上下文/附件系统通知/开始执行指令)
- 会话上下文:删 sessionContextContent/ensureSessionContext/loadHistoryForModel/modelDisplayName 及 bindToSession、runLoopInner、createSession 三处注入;存档/hasUserSince/hasPendingUser 去掉 session_context 特判;SSE 请求历史改用 loadHistory 直取;server.js prompt dump 去掉第 3 部分
- 附件通知:删 routes/messages.js 的 composeWithAttachments/fmtSize 与 POST 路由的 attachments 拼接,正文原样入库、content 必填;前端 send() 不再随 body 传 attachments,无文字时拦截并提示(附件仅上传任务目录);parseUploadNotice 保留兼容旧库行
- 开始执行:删 START_EXECUTION_MESSAGE、engine.startExecution、POST /:id/start 路由与导出(v2 前端本无入口)
- 注释与 README 同步清理
|
2026-09-10 08:12:56 +08:00 |
|
kicer
|
775d92eb67
|
重构:压缩弹窗改为右上X关闭+摘要/清空两动作,移除压缩总结(compress_and_clear)全链路
- 前端:compressModeModal 去掉取消/压缩总结按钮,改右上 X 关闭;「摘要」走原仅摘要流程,「清空」恢复 clearChat(二次确认+DELETE 全部消息)
- 前端:删除 clearAfterSummary、pendingSummaryMode 及 SSE 收尾的 mode 分支;summarize 请求不再带 body.mode
- 后端:/summarize 去掉 mode 校验;summarizeContext/clearSessionMessages 去掉 mode 与 keepSummary 分支,run.summaryMode 更名 run.summarizing;SSE assistant_message 不再回带 mode
- 注释:llm.js/engine.js/messages.js 同步清理压缩总结相关描述
|
2026-09-10 07:15:43 +08:00 |
|
kicer
|
d34c14c970
|
优化压缩功能实现
|
2026-09-07 10:07:28 +08:00 |
|
kicer
|
9161a73e8b
|
压缩提示词替换system prompt
|
2026-09-07 09:52:10 +08:00 |
|
kicer
|
9b1fd031c1
|
临时打印req body方便排查问题
|
2026-09-07 08:58:47 +08:00 |
|
kicer
|
1d0ab8fc04
|
system prompt 注入可用技能列表,免去模型先 list_skills 探索
- tools/skills.js 新增 formatSkillListForPrompt:技能列表格式化为
“## Available Skills” 段落(名称 + 描述,每行一个)
- llm.js 新增 setSkillListText:技能段落拼在模板之后、语言指令之前;
列表变化时失效 systemPromptText 缓存。仅技能增删/描述变化时更新,
否则进程内恒定,不破坏上游前缀缓存
- server.js 启动时对技能根目录做快照并注入,启动日志输出技能名
- routes/skills.js 六个变更入口(创建/重命名/删除/文件写/文件删/上传)
成功后 fire-and-forget 刷新列表:UI 增删改技能无需重启即生效;
list_skills 保留作实时兜底
- system-prompt.txt Skill Usage 措辞更新:直接信任系统 prompt 中的
技能列表,列表缺失或疑似过期时才调 list_skills
|
2026-09-05 18:28:06 +08:00 |
|
kicer
|
7375cdbae5
|
llm.js:system prompt 拼接与含图行解析加缓存
- systemPromptText 按语言缓存拼接结果:每次请求都随 messages 发出,
不再重复分配模板大字符串(内容进程内恒定,不破坏上游前缀缓存)
- 含图行哨兵 JSON(带 base64 大字段)的解析结果按行 id 挂在 session 上,
工具循环里同一行只解析一次;缓存原始块数组而非消费后投影,
消费与否仍按 lastAssistant 实时判定,删除后续 assistant 让图片
回到「未消费」需重带 base64 时自然正确
- 行被删除后残留缓存条目顺手修剪,防缓慢泄漏
|
2026-09-05 18:21:28 +08:00 |
|
kicer
|
33ee43e730
|
仅摘要语义修正:摘要落库标 type='summary',之前历史标 archived 不再发给模型;重进会话恢复摘要卡片 + 淡色存档段说明
|
2026-09-05 12:58:24 +08:00 |
|
kicer
|
5c19c76b59
|
修复压缩根因:summarize_request 指令从未发给模型
buildMessages 之前无条件跳过 type='summarize_request' 行,导致 compress.prompt
落库但从不进入模型上下文,AI 收不到总结指令。改为条件携带:仅在压缩回合进行中
(指令行位于最后一次无 tool_calls 的 assistant 收尾回复之后)发给模型,回合完成
后照旧跳过,保留防旧指令污染后续轮次的语义(generate_only 残留、工具循环中间
迭代等场景均已覆盖验证)。
|
2026-09-05 12:44:39 +08:00 |
|
kicer
|
71b4c81c99
|
压缩功能基本可用
|
2026-09-05 12:24:56 +08:00 |
|
kicer
|
eaf2cd68f5
|
上下文压缩:phase-bar 加压缩按钮,弹窗选「仅摘要/压缩总结」自动走流程
- 后端:config.yml 加 compress.prompt;engine.summarizeContext(sessionId, mode)
把 prompt 落为 type='summarize_request' 的 user 消息;runLoopInner 在
assistant_message SSE 上带 is_summary + mode 给前端;llm.buildMessages 跳过
summarize_request / archived 行避免指令污染上下文;路由 POST /:id/summarize
校验 mode ∈ {generate_only, compress_and_clear}。
- 前端:phase-bar「压缩」按钮(硬盘+下箭头 SVG 图标)取代原清空按钮;
点击弹窗三按钮(取消 / 仅摘要蓝描边 / 压缩总结警示橙);选定后后端丢请求,
SSE 收到总结时按模式自动调 DELETE 清空(仅 compress_and_clear)。
- 移除 phase-bar「清空」按钮;clearChat 保留为 no-op 防外部误调。
|
2026-09-05 11:08:11 +08:00 |
|
kicer
|
72ec733a92
|
修改错误工具调用时候的提示词
|
2026-09-05 10:08:16 +08:00 |
|
kicer
|
848937c156
|
AI 坏 tool call 标记 errAck:入库留痕但移出模型上下文,防模仿死循环
- messages 新增 type 列,参数非法(JSON 坏/缺必填)的 assistant 轮标 errAck
- buildMessages 跳过 errAck 行及其关联 tool 回执,改发一条 user 错误提示引导重新生成
- tool_calls 落库时补全缺失 id,保证与 tool 回执配对一致
- safeParse 升级为 checkToolArgs:区分非法 JSON 与缺必填,执行前统一挡下
|
2026-09-05 08:55:31 +08:00 |
|
kicer
|
9e583afaf5
|
修复 callModel 没透传 onMeta/onBadData 导致 SSE meta 行被丢弃
callModel 内部 await forEachSSEData(res, evt => {...}) 只传了 1 个参数,
opts.onMeta / opts.onBadData 永远没被接通到 forEachSSEData。结果是
forEachSSEData 收到的非 data 行(event:/id:/retry:/注释)全部被静默丢弃,
onMeta 回调从未触发。这是 893281c commit 那次'应该已经修了'的回归 bug,
由于之前的烟雾测试只覆盖了 onEvent / onText / onBadEvent,没发现 meta 链
完全断的事实。
这次用含 event:/id:/注释行的 SSE 序列烟雾测试,验证 onMeta 收到所有行。
engine.js 的 handleSseMeta 解析逻辑(a349942)此前一直正确,只是链路没
接通,这次修复后能正常按 6 条规则分发。
|
2026-09-05 07:29:12 +08:00 |
|
kicer
|
fcb69112ac
|
区分 usage 帧与错误帧:choices=[] 含 usage 时不再误报 onBadEvent
OpenAI 兼容协议在 stream_options.include_usage=true 时,最后一帧只发
usage 不带 choices(choices: [])。callModel 之前把这种帧当成错误帧调
onBadEvent,导致日志里 '[sse] 上游错误帧' 后面跟的是 token 统计 json,
误导排查方向。
判断条件改为 'choices=[] 但含 usage → 静默 return';只有 '无 usage 也无
choices' 的帧(如之前的 event: error 帧)才走 onBadEvent。
usage 提取移到 if (evt.usage) usage = evt.usage; 在 if (!choice) 守卫之前
已有的赋值语句,新逻辑在 !choice 块内复用该结果。
|
2026-09-05 07:25:20 +08:00 |
|
kicer
|
0d5d74bcf6
|
SSE 错误帧识别:data 解析成功但无 choices 时调 onBadEvent
上游 DeepSeek 代理在某些情况下会以 SSE event: error 帧返回错误响应(如
'Assistant tool call function.arguments must be valid JSON.'),data 行本身
JSON.parse 没问题但 evt.choices 缺失。旧逻辑走 if (!choice) return 沉默跳过,
结果就是 'AI 回复 0 字' 但没有任何信号告诉调用方上游其实报了错。
callModel 在 !choice 之前调 opts.onBadEvent(evt) 把整个 evt 透传给调用方,
streamAssistant 挂上 warn 级日志把错误帧 dump 出来。
调试样例(之前看到的):
[sse] task-... 上游错误帧:{"error":{"message":"Assistant tool call
function.arguments must be valid JSON.",...},"id":0}
llm.js 仅改 1 处(callModel 回调体内 if (!choice) 块),其余调试信号不动。
|
2026-09-05 07:12:54 +08:00 |
|
kicer
|
893281c96c
|
SSE 本轮汇总:callModel 统计 data 帧数,streamAssistant 打 info 日志
定位 'AI 回复 0 字' 时单凭 finish_reason 和 aborted 区分不出 '上游没发任何
data' 和 '上游发了帧但 content 为空'。callModel 在 forEachSSEData 回调首行
累加 sseFrames 并写进返回值(不影响其他字段),streamAssistant 拿到 result
后打印一行 info:
[sse] <sessionId> 本轮汇总:帧 N,finish=<reason>,aborted=<bool>
判读:
- 帧=0 且 aborted=false:上游未发任何 data(流异常/上游 200 但 body 空)
- 帧>0 且 finish=stop 且 content 空:上游发了帧但 content 为空(罕见,模型主动空回)
- 帧>0 且 finish=length:上游被截断,需要重试或调大 max_tokens
- aborted=true:用户在流中途取消
llm.js 保持纯 IO 职责,只多返回一个计数字段,不引入 logger。
|
2026-09-05 06:09:28 +08:00 |
|