SSE 错误帧识别:data 解析成功但无 choices 时调 onBadEvent
上游 DeepSeek 代理在某些情况下会以 SSE event: error 帧返回错误响应(如
'Assistant tool call function.arguments must be valid JSON.'),data 行本身
JSON.parse 没问题但 evt.choices 缺失。旧逻辑走 if (!choice) return 沉默跳过,
结果就是 'AI 回复 0 字' 但没有任何信号告诉调用方上游其实报了错。
callModel 在 !choice 之前调 opts.onBadEvent(evt) 把整个 evt 透传给调用方,
streamAssistant 挂上 warn 级日志把错误帧 dump 出来。
调试样例(之前看到的):
[sse] task-... 上游错误帧:{"error":{"message":"Assistant tool call
function.arguments must be valid JSON.",...},"id":0}
llm.js 仅改 1 处(callModel 回调体内 if (!choice) 块),其余调试信号不动。
This commit is contained in:
@@ -563,6 +563,9 @@ async function streamAssistant(sessionId, run, session, messages, tools) {
|
||||
// meta 是时间性调试信息,事件稀少;badData 是真异常,不该静默。
|
||||
onMeta: line => log.debug('[sse] ' + sessionId + ' ' + line),
|
||||
onBadData: raw => log.warn('[sse] ' + sessionId + ' 坏帧:' + raw.slice(0, 200)),
|
||||
// data 解析成功但没有 choices(如 event: error 帧):上游发了非正常响应,
|
||||
// 之前会伪装成"0 字"沉默忽略,这里 warn 把原始 evt 打出来便于定位。
|
||||
onBadEvent: evt => log.warn('[sse] ' + sessionId + ' 上游错误帧:' + JSON.stringify(evt).slice(0, 500)),
|
||||
});
|
||||
// 本轮上游响应总览:帧数 + 文本长度 + 工具调用 + finish + aborted。
|
||||
// sseFrames=0 且 aborted=false 表示上游未发任何 data(疑似流异常);其他情况可快速区分
|
||||
|
||||
+4
-1
@@ -187,7 +187,10 @@ async function callModel(cfg, modelId, messages, tools, options) {
|
||||
if (opts.shouldCancel && opts.shouldCancel()) { aborted = true; controller.abort(); return; }
|
||||
if (evt.usage) usage = evt.usage;
|
||||
const choice = evt.choices && evt.choices[0];
|
||||
if (!choice) return;
|
||||
if (!choice) {
|
||||
if (opts.onBadEvent) opts.onBadEvent(evt);
|
||||
return;
|
||||
}
|
||||
if (choice.finish_reason) finishReason = choice.finish_reason;
|
||||
const delta = choice.delta || {};
|
||||
if (typeof delta.content === 'string' && delta.content.length) {
|
||||
|
||||
Reference in New Issue
Block a user