From fcb69112aca9462d2bb006f5e4cb9b8493043978 Mon Sep 17 00:00:00 2001 From: kicer Date: Sat, 5 Sep 2026 07:25:20 +0800 Subject: [PATCH] =?UTF-8?q?=E5=8C=BA=E5=88=86=20usage=20=E5=B8=A7=E4=B8=8E?= =?UTF-8?q?=E9=94=99=E8=AF=AF=E5=B8=A7=EF=BC=9Achoices=3D[]=20=E5=90=AB=20?= =?UTF-8?q?usage=20=E6=97=B6=E4=B8=8D=E5=86=8D=E8=AF=AF=E6=8A=A5=20onBadEv?= =?UTF-8?q?ent?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit OpenAI 兼容协议在 stream_options.include_usage=true 时,最后一帧只发 usage 不带 choices(choices: [])。callModel 之前把这种帧当成错误帧调 onBadEvent,导致日志里 '[sse] 上游错误帧' 后面跟的是 token 统计 json, 误导排查方向。 判断条件改为 'choices=[] 但含 usage → 静默 return';只有 '无 usage 也无 choices' 的帧(如之前的 event: error 帧)才走 onBadEvent。 usage 提取移到 if (evt.usage) usage = evt.usage; 在 if (!choice) 守卫之前 已有的赋值语句,新逻辑在 !choice 块内复用该结果。 --- app/server/llm.js | 4 +++- 1 file changed, 3 insertions(+), 1 deletion(-) diff --git a/app/server/llm.js b/app/server/llm.js index c222cb6..4b40d4b 100644 --- a/app/server/llm.js +++ b/app/server/llm.js @@ -188,7 +188,9 @@ async function callModel(cfg, modelId, messages, tools, options) { if (evt.usage) usage = evt.usage; const choice = evt.choices && evt.choices[0]; if (!choice) { - if (opts.onBadEvent) opts.onBadEvent(evt); + // choices=[] 但含 usage:OpenAI 兼容协议最后一帧只发 token 统计,正常情况, + // 不算错误帧。其它无 usage 也无 choices 的(如 event: error 帧)才走 onBadEvent。 + if (!evt.usage && opts.onBadEvent) opts.onBadEvent(evt); return; } if (choice.finish_reason) finishReason = choice.finish_reason;