fix(增量上下文): 409 重试路径泄漏内部键 __rowId
上一版改锚点判时,409 重试分支仍是 body.messages = messages(原始数组), 而 buildMessages 现在给每行都挂了 __rowId。结果重试那次把 __rowId 一路发到上游。 修复:map 完先存一份「已剥键的全量数组」strippedFull, 增量分支切 strippedFull.slice(st.len),409 重试用 strippedFull。 实测四条路径(假上游捕获请求体): 首轮 → 3 条 + Reset 正常追加 → 1 条,无 Reset 编辑截断 → 4 条 + Reset 作废指针 → 全量 + Reset __rowId 全程零泄漏
This commit is contained in:
+6
-4
@@ -744,15 +744,17 @@ async function callModel(cfg, modelId, messages, tools, options) {
|
|||||||
const cid = opts.context_id;
|
const cid = opts.context_id;
|
||||||
const storeOn = !!(modelCfg.store && cid);
|
const storeOn = !!(modelCfg.store && cid);
|
||||||
const fullBody = JSON.stringify(body);
|
const fullBody = JSON.stringify(body);
|
||||||
|
// 已剥内部键的全量数组(上面 map 的产物,保序保长)。增量分支会把它替换成尾部切片,
|
||||||
|
// 所以先存一份:409 重试要拿它重发全量,不能拿原始 messages(那上面挂着 __rowId)。
|
||||||
|
const strippedFull = body.messages;
|
||||||
if (storeOn) {
|
if (storeOn) {
|
||||||
const st = ctxState.get(cid);
|
const st = ctxState.get(cid);
|
||||||
headers['X-Context-Id'] = cid;
|
headers['X-Context-Id'] = cid;
|
||||||
const anchor = st && st.len > 0 ? messages[st.len - 1] : null;
|
const anchor = st && st.len > 0 ? messages[st.len - 1] : null;
|
||||||
const anchored = !!(st && messages.length > st.len && anchor && anchor.__rowId === st.lastRowId);
|
const anchored = !!(st && messages.length > st.len && anchor && anchor.__rowId === st.lastRowId);
|
||||||
if (anchored) {
|
if (anchored) {
|
||||||
// 用 body.messages(已剥内部键)而不是 messages(原始数组,带 __rowId):
|
// body.messages 此时是已剥键的全量数组,与 messages 同序同长,索引可直接沿用。
|
||||||
// 两者长度与顺序一致(上面的 map 保序保长),索引可直接沿用。
|
body.messages = strippedFull.slice(st.len); // 只发新增
|
||||||
body.messages = body.messages.slice(st.len); // 只发新增
|
|
||||||
} else {
|
} else {
|
||||||
headers['X-Context-Reset'] = '1'; // 全量:首轮 / 进程重启 / 压缩后新 id / 历史被改
|
headers['X-Context-Reset'] = '1'; // 全量:首轮 / 进程重启 / 压缩后新 id / 历史被改
|
||||||
}
|
}
|
||||||
@@ -768,7 +770,7 @@ async function callModel(cfg, modelId, messages, tools, options) {
|
|||||||
// 409 = relay 那边没有这个 id 的缓存(重启 / TTL / LRU / 压缩换了 id):改发全量重试一次。
|
// 409 = relay 那边没有这个 id 的缓存(重启 / TTL / LRU / 压缩换了 id):改发全量重试一次。
|
||||||
// 只重试一次:重发的是全量(带 Reset 头),relay 会整段存下,不可能再 409。
|
// 只重试一次:重发的是全量(带 Reset 头),relay 会整段存下,不可能再 409。
|
||||||
if (storeOn && res.status === 409) {
|
if (storeOn && res.status === 409) {
|
||||||
body.messages = messages;
|
body.messages = strippedFull; // 已剥内部键的全量,不能拿原始 messages
|
||||||
headers['X-Context-Reset'] = '1';
|
headers['X-Context-Reset'] = '1';
|
||||||
res = await fetch(modelCfg.url + '/chat/completions', {
|
res = await fetch(modelCfg.url + '/chat/completions', {
|
||||||
method: 'POST',
|
method: 'POST',
|
||||||
|
|||||||
Reference in New Issue
Block a user