feat(relay): 新增上下文缓存中继,支持增量上传
每轮只发新增的 user/tool 消息,relay 查表拼接后再转发上游,慢上行链路省掉 90%+ 上传。 - 协议:X-Context-Id + X-Context-Hash(空 = 全量替换),不命中回 409 由客户端重发全量 - 不带 header 或模型没开白名单 → 完全透明转发 - 单会话上限与总量 LRU 两个阈值,不设条数上限(会在最需要增量时打回全量) - 响应原样 pipe,不解析 SSE、不改帧、不缓冲 - 零依赖,纯 node:http
This commit is contained in:
@@ -21,3 +21,4 @@ app/server/version.json
|
||||
*.apk
|
||||
# 部署配置真身(含密钥,模板见 scripts/deploy.conf.example);
|
||||
deploy.conf
|
||||
relay/config.json
|
||||
|
||||
Reference in New Issue
Block a user