SSE 错误帧识别:data 解析成功但无 choices 时调 onBadEvent

上游 DeepSeek 代理在某些情况下会以 SSE event: error 帧返回错误响应(如
'Assistant tool call function.arguments must be valid JSON.'),data 行本身
JSON.parse 没问题但 evt.choices 缺失。旧逻辑走 if (!choice) return 沉默跳过,
结果就是 'AI 回复 0 字' 但没有任何信号告诉调用方上游其实报了错。

callModel 在 !choice 之前调 opts.onBadEvent(evt) 把整个 evt 透传给调用方,
streamAssistant 挂上 warn 级日志把错误帧 dump 出来。

调试样例(之前看到的):
  [sse] task-... 上游错误帧:{"error":{"message":"Assistant tool call
   function.arguments must be valid JSON.",...},"id":0}

llm.js 仅改 1 处(callModel 回调体内 if (!choice) 块),其余调试信号不动。
This commit is contained in:
2026-09-05 07:12:54 +08:00
parent 893281c96c
commit 0d5d74bcf6
2 changed files with 7 additions and 1 deletions
+3
View File
@@ -563,6 +563,9 @@ async function streamAssistant(sessionId, run, session, messages, tools) {
// meta 是时间性调试信息,事件稀少;badData 是真异常,不该静默。
onMeta: line => log.debug('[sse] ' + sessionId + ' ' + line),
onBadData: raw => log.warn('[sse] ' + sessionId + ' 坏帧:' + raw.slice(0, 200)),
// data 解析成功但没有 choices(如 event: error 帧):上游发了非正常响应,
// 之前会伪装成"0 字"沉默忽略,这里 warn 把原始 evt 打出来便于定位。
onBadEvent: evt => log.warn('[sse] ' + sessionId + ' 上游错误帧:' + JSON.stringify(evt).slice(0, 500)),
});
// 本轮上游响应总览:帧数 + 文本长度 + 工具调用 + finish + aborted。
// sseFrames=0 且 aborted=false 表示上游未发任何 data(疑似流异常);其他情况可快速区分
+4 -1
View File
@@ -187,7 +187,10 @@ async function callModel(cfg, modelId, messages, tools, options) {
if (opts.shouldCancel && opts.shouldCancel()) { aborted = true; controller.abort(); return; }
if (evt.usage) usage = evt.usage;
const choice = evt.choices && evt.choices[0];
if (!choice) return;
if (!choice) {
if (opts.onBadEvent) opts.onBadEvent(evt);
return;
}
if (choice.finish_reason) finishReason = choice.finish_reason;
const delta = choice.delta || {};
if (typeof delta.content === 'string' && delta.content.length) {