From 0d5d74bcf66df7b10bbcdda6b546e9c70d1ba36d Mon Sep 17 00:00:00 2001 From: kicer Date: Sat, 5 Sep 2026 07:12:54 +0800 Subject: [PATCH] =?UTF-8?q?SSE=20=E9=94=99=E8=AF=AF=E5=B8=A7=E8=AF=86?= =?UTF-8?q?=E5=88=AB=EF=BC=9Adata=20=E8=A7=A3=E6=9E=90=E6=88=90=E5=8A=9F?= =?UTF-8?q?=E4=BD=86=E6=97=A0=20choices=20=E6=97=B6=E8=B0=83=20onBadEvent?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit 上游 DeepSeek 代理在某些情况下会以 SSE event: error 帧返回错误响应(如 'Assistant tool call function.arguments must be valid JSON.'),data 行本身 JSON.parse 没问题但 evt.choices 缺失。旧逻辑走 if (!choice) return 沉默跳过, 结果就是 'AI 回复 0 字' 但没有任何信号告诉调用方上游其实报了错。 callModel 在 !choice 之前调 opts.onBadEvent(evt) 把整个 evt 透传给调用方, streamAssistant 挂上 warn 级日志把错误帧 dump 出来。 调试样例(之前看到的): [sse] task-... 上游错误帧:{"error":{"message":"Assistant tool call function.arguments must be valid JSON.",...},"id":0} llm.js 仅改 1 处(callModel 回调体内 if (!choice) 块),其余调试信号不动。 --- app/server/engine.js | 3 +++ app/server/llm.js | 5 ++++- 2 files changed, 7 insertions(+), 1 deletion(-) diff --git a/app/server/engine.js b/app/server/engine.js index c675f2d..c5babe9 100644 --- a/app/server/engine.js +++ b/app/server/engine.js @@ -563,6 +563,9 @@ async function streamAssistant(sessionId, run, session, messages, tools) { // meta 是时间性调试信息,事件稀少;badData 是真异常,不该静默。 onMeta: line => log.debug('[sse] ' + sessionId + ' ' + line), onBadData: raw => log.warn('[sse] ' + sessionId + ' 坏帧:' + raw.slice(0, 200)), + // data 解析成功但没有 choices(如 event: error 帧):上游发了非正常响应, + // 之前会伪装成"0 字"沉默忽略,这里 warn 把原始 evt 打出来便于定位。 + onBadEvent: evt => log.warn('[sse] ' + sessionId + ' 上游错误帧:' + JSON.stringify(evt).slice(0, 500)), }); // 本轮上游响应总览:帧数 + 文本长度 + 工具调用 + finish + aborted。 // sseFrames=0 且 aborted=false 表示上游未发任何 data(疑似流异常);其他情况可快速区分 diff --git a/app/server/llm.js b/app/server/llm.js index ddd428d..c222cb6 100644 --- a/app/server/llm.js +++ b/app/server/llm.js @@ -187,7 +187,10 @@ async function callModel(cfg, modelId, messages, tools, options) { if (opts.shouldCancel && opts.shouldCancel()) { aborted = true; controller.abort(); return; } if (evt.usage) usage = evt.usage; const choice = evt.choices && evt.choices[0]; - if (!choice) return; + if (!choice) { + if (opts.onBadEvent) opts.onBadEvent(evt); + return; + } if (choice.finish_reason) finishReason = choice.finish_reason; const delta = choice.delta || {}; if (typeof delta.content === 'string' && delta.content.length) {