diff --git a/README.md b/README.md index 5925353..9b0ee4b 100644 --- a/README.md +++ b/README.md @@ -129,7 +129,7 @@ models: # /app/server/templates/system-prompt.txt ``` -> 注:`{动态日期}`、`{任务目录路径}`、`{模型显示名}` 由应用在运行时填充。`` 当前为空,预留扩展。 +> 注:system prompt 完全静态(所有会话共用,利于前缀缓存)。动态会话信息(日期、任务目录、模型显示名)在新建会话时作为首条 user 消息自动发送,跟会话走。`` 当前为空,预留扩展。 ### 7.2 工具定义(保留 14 个,去掉 diagnostics、skill、spawn_agent) diff --git a/app/README.md b/app/README.md index acf2217..28d21e4 100644 --- a/app/README.md +++ b/app/README.md @@ -45,8 +45,8 @@ npm test # 启动 mock 上游 + 真实 server 的端到端冒烟测 ## 提示词与工具 schema -System prompt 模板在 `server/templates/system-prompt.txt`,工具定义在 `server/tools/definitions.json`,直接修改这两个文件即可(改完重启服务)。 -模板中的 `{动态日期}`、`{任务目录路径}`、`{模型显示名}` 占位符由 `llm.js` 在每次请求时替换。 +System prompt 完全静态(所有会话共用,利于上游前缀缓存),在 `server/templates/system-prompt.txt` 直接编辑;工具定义在 `server/tools/definitions.json`。改完重启服务。 +动态会话信息(日期、任务目录、模型显示名)不拼入 prompt,而是新建会话时作为首条 user 消息自动发送(带 `session_context` 标记,不会单独触发模型回复),见 `engine.js` 的 `sessionContextContent`。 ## 关键行为速查 diff --git a/app/server/engine.js b/app/server/engine.js index 6bdab12..1b6995f 100644 --- a/app/server/engine.js +++ b/app/server/engine.js @@ -10,6 +10,10 @@ const TOOL_DEFINITIONS = require('./tools/definitions.json'); const START_EXECUTION_MESSAGE = '我说完了,你可以开始干活了。先把我上面说的需求整理成 task.md 文件写入任务目录,然后按照 task.md 开始执行。'; +// 会话上下文消息标记:动态信息(日期/任务目录/模型显示名)不再拼入 system prompt, +// 而是建会话时作为首条 user 消息自动发送,跟着会话走;它不单独触发模型回合。 +const SESSION_CONTEXT_NAME = 'session_context'; + let cfg, db, bus; const runs = new Map(); // session_id -> {cancelled, procs:Set, abortController, looping:boolean} @@ -146,11 +150,12 @@ function releaseModel(sessionId) { db.prepare('UPDATE sessions SET model_id = NULL, updated_at = ? WHERE id = ?').run(now(), sessionId); } -// 是否还有待回应的新用户消息(最后一条非 tool 消息是 user) +// 是否还有待回应的新用户消息(最后一条非 tool 消息是 user)。 +// 会话上下文消息(role=user 但带 SESSION_CONTEXT_NAME 标记)不算待回应消息。 function hasPendingUser(sessionId) { const rows = loadHistory(sessionId); for (let i = rows.length - 1; i >= 0; i--) { - if (rows[i].role === 'tool') continue; + if (rows[i].role === 'tool' || rows[i].name === SESSION_CONTEXT_NAME) continue; return rows[i].role === 'user'; } return false; @@ -295,10 +300,9 @@ async function runLoopInner(sessionId, run) { while (!run.cancelled && iter < maxIter) { const session = getSession(sessionId); if (!session || session.status !== 'active' || !session.model_id) break; - session.task_dir = taskDirOf(sessionId); session.history = loadHistory(sessionId); for (const m of session.history) if (m.id > lastIncludedId) lastIncludedId = m.id; - const messages = buildMessages(session, modelDisplayName(session.model_id)); + const messages = buildMessages(session); const tools = TOOL_DEFINITIONS; let result = null; @@ -384,8 +388,8 @@ async function streamAssistant(sessionId, run, session, messages, tools) { function hasUserSince(sessionId, sinceId) { const r = db.prepare( - "SELECT COUNT(*) AS c FROM messages WHERE session_id = ? AND role = 'user' AND id > ?" - ).get(sessionId, sinceId); + "SELECT COUNT(*) AS c FROM messages WHERE session_id = ? AND role = 'user' AND id > ? AND (name IS NULL OR name <> ?)" + ).get(sessionId, sinceId, SESSION_CONTEXT_NAME); return r.c > 0; } @@ -396,6 +400,22 @@ function safeParse(s) { function sleep(ms) { return new Promise(r => setTimeout(r, ms)); } // ---------- 对外 API ---------- +// 建会话时的动态信息:作为首条 user 消息发给模型(同时展示在聊天里),跟会话走。 +function sessionContextContent(session) { + const d = new Date(); + const pad = n => String(n).padStart(2, '0'); + const dateStr = d.getUTCFullYear() + '-' + pad(d.getUTCMonth() + 1) + '-' + pad(d.getUTCDate()); + const model = session.model_id + ? modelDisplayName(session.model_id) + : '尚未绑定(排队中,绑定后自动开始处理)'; + return [ + '【会话上下文】以下信息由系统自动注入,无需回复本条消息。', + '- 当前日期:' + dateStr + '(UTC)', + '- 任务目录:' + taskDirOf(session.id) + '(本会话的文件与终端操作都在此目录内)', + '- 当前模型:' + model, + ].join('\n'); +} + function createSession(title) { const id = genTaskId(); const dir = taskDirOf(id); @@ -405,7 +425,10 @@ function createSession(title) { ).run(id, title || '', now(), now()); enqueue(id); dispatchQueued(); - return getSession(id); + // 放在 dispatchQueued 之后:若能立即绑到空闲模型,上下文里就能带上模型显示名。 + const session = getSession(id); + saveMessage(id, { role: 'user', name: SESSION_CONTEXT_NAME, content: sessionContextContent(session) }); + return session; } // 用户消息(或“开始执行”的模板消息)入口。 diff --git a/app/server/llm.js b/app/server/llm.js index f935fde..cc3b62b 100644 --- a/app/server/llm.js +++ b/app/server/llm.js @@ -5,19 +5,16 @@ const path = require('path'); const SYSTEM_PROMPT_TEMPLATE = fs.readFileSync(path.join(__dirname, 'templates', 'system-prompt.txt'), 'utf8'); -function buildSystemPrompt(session, modelDisplayName) { - const d = new Date(); - const pad = n => String(n).padStart(2, '0'); - const dateStr = d.getUTCFullYear() + '-' + pad(d.getUTCMonth() + 1) + '-' + pad(d.getUTCDate()); - return SYSTEM_PROMPT_TEMPLATE - .replace('{动态日期}', dateStr) - .replace('{任务目录路径}', session.task_dir) - .replace('{模型显示名}', modelDisplayName || session.model_id || ''); +// system prompt 完全静态:所有会话共用同一份内容,利于上游前缀缓存。 +// 动态会话信息(日期/任务目录/模型显示名)不再拼入 system prompt, +// 而是在新建会话时作为首条 user 消息发送,见 engine.js 的 sessionContextContent。 +function buildSystemPrompt() { + return SYSTEM_PROMPT_TEMPLATE; } // 将 DB 消息行转为 OpenAI messages 数组(不含 system,由调用方拼接)。 -function buildMessages(session, modelDisplayName) { - const messages = [{ role: 'system', content: buildSystemPrompt(session, modelDisplayName) }]; +function buildMessages(session) { + const messages = [{ role: 'system', content: SYSTEM_PROMPT_TEMPLATE }]; for (const row of session.history) { if (row.role === 'assistant') { const m = { role: 'assistant', content: row.content || '' };