feat(llm): 支持增量上下文,为模型加 store: true 即走 relay

- 新增 instance.js:data_root/instance-id,首次启动生成 12 位 hex,跨 core 唯一
- engine 传 context_id = <core_id>:<user>:<session_id>,三层定位不撞车
- callModel 对 store: true 的模型只发新增消息 + X-Context-Id/Hash,
  409 时改发全量重试一次;指针存内存,重启自动回落全量
- config.js 把 store 字段透传到模型对象(以前会被丢掉)
- 未配 store 的模型行为完全不变
This commit is contained in:
2026-11-17 20:29:16 +08:00
parent 05d03f0836
commit bba42ae2ca
5 changed files with 87 additions and 2 deletions
+29
View File
@@ -0,0 +1,29 @@
'use strict';
// 实例标识:跨 core 隔离用,作 relay 的 X-Context-Id 前缀。
// 首次启动生成并落盘到 <data_root>/instance-id,之后只读同一个值。
// 删了数据目录会换新 id —— 旧缓存成孤儿,由 relay 的 TTL 自行清理,不影响正确性。
const fs = require('node:fs');
const path = require('node:path');
const crypto = require('node:crypto');
const cache = new Map(); // dataRoot -> id
function instanceId(dataRoot) {
const root = path.resolve(String(dataRoot || '.'));
if (cache.has(root)) return cache.get(root);
const file = path.join(root, 'instance-id');
let id = '';
try {
id = fs.readFileSync(file, 'utf8').trim();
} catch (_) {}
if (!/^[0-9a-f]{12}$/.test(id)) {
id = crypto.randomBytes(6).toString('hex');
try {
fs.writeFileSync(file, id + '\n');
} catch (_) {}
}
cache.set(root, id);
return id;
}
module.exports = { instanceId };