Files
agent/app/server/public/js/models.js
T

362 lines
17 KiB
JavaScript
Raw Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
// 模型 Tab(阶段 5):模型池状态 + 模型增 / 改 / 删(仅写 config.yml,到「设置」页重启才生效)。
// 配置为 platforms 层级(平台 → models + keys):url/type/models 在平台层,api_key/concurrency 在 Key 层,
// 同一份 models 被该平台下所有 key 共用。模型项 {id, display_name, vision, enable, ...};id 只需同平台内唯一
// (内部唯一键 = 平台名/模型id,effective.models 的 id 即该键、mid 为原始模型名)。
// 页面 PATCH 用 platforms[i].models[k] 定位(key_index 不进入路径,因为模型与 key 解耦);
// 新增一律走 append(只动目标数组,脱敏 key 绝不整体回写文件);已有 Key 的 api_key 修改请走配置原文编辑器。
// 展示层暂按「平台名 + 脱敏 Key」分组(cf. models.js modelGroupHtml):每组都展示该平台下所有 models
// (key 间重复),等后续 UI 重构再去重;余额按 key 拆开,每个 key 一行。
'use strict';
window.tabModules = window.tabModules || {};
let cfgPlatforms = []; // effective.platforms(服务端已对 api_key 脱敏)
let cfgModels = []; // 打平后的 effective.models(含 platform_index/key_index/model_index)
// 注:同一 (name/id) 在 cfgModels 里出现 N 次(N=key 数),key_index 区分 key 副本
let runtimeById = {}; // 运行池状态,按 id 关联
let modelsPendingRestart = false;
let moeIdx = -1; // 当前编辑弹窗对应的打平下标;-1 = 新增
let expandedGroups = {}; // 模型池分组展开态,key =「pi-ki」;余额按 key 拆,分组即 Key 槽位,默认折叠
let balanceByGroup = {}; // 余额查询结果缓存,key =「pi-ki」;切 Tab/写配置时清空
let balanceRequested = {}; // 本 Tab 会话内该分组是否已自动查过(首次展开只自动查一次)
let balanceTypes = []; // 后端已接入余额查询的平台类型(GET /api/config 的 balance_types)
// api_key 脱敏显示:sk-***1234 样式。后端 GET effective 已脱敏,这里仅兜底(幂等)。
function maskKey(k) {
k = k || '';
if (k.includes('***')) return k;
if (k.length > 8) return k.slice(0, 3) + '***' + k.slice(-4);
if (k.length > 0) return '***' + k.slice(-2);
return '';
}
// token 用量紧凑显示:1.2k / 9.1M 这种 human-friendly 量级,一眼看出多少。
// <1000 原样;1k~1M 用 k(1 位小数,去尾零);≥1M 用 M。0 显示为 0。
function fmtTok(n) {
n = Number(n) || 0;
if (n < 1000) return String(n);
if (n < 1000000) { const v = (n / 1000).toFixed(1).replace(/\.0$/, ''); return v + 'k'; }
const v = (n / 1000000).toFixed(1).replace(/\.0$/, '');
return v + 'M';
}
// ---------- 模型池卡片:按「平台 + Key」分组 ----------
// 余额由 platform.name + key 决定,故父级 = 平台名 · 脱敏 key,子级 = 该 Key 下的模型;默认折叠。
function toggleModelGroup(gk) {
const on = !expandedGroups[gk];
expandedGroups[gk] = on;
const el = $('mgrp-' + gk);
if (!el) return;
el.classList.toggle('open', on);
const body = el.querySelector('.model-group-body');
if (body) body.classList.toggle('hidden', !on);
// 首次展开自动查一次余额(mbal 存在 = 该类型已接入);标记随切 Tab 重置,
// 故每次切到模型 Tab 后,每个分组只自动查一次,反复折叠展开不重复请求
if (on && !balanceRequested[gk] && $('mbal-' + gk)) {
const parts = gk.split('-');
fetchBalance(gk, Number(parts[0]), Number(parts[1]), false);
}
}
// 单个模型的子卡片;余额是 Key 级概念,统一在分组头显示,模型卡不再重复。
function modelCardHtml(m) {
const run = runtimeById[m.id];
// 运行池里没有 = 配置新增但还没重启生效
const stateHtml = run
? '<span class="model-card-state ' + (run.is_busy ? 'busy' : 'idle') + '">' + (run.is_busy ? '占用中' : '空闲') + '</span>'
: '<span class="model-card-state pending">待重启</span>';
return '<div class="model-card">' +
'<div class="model-card-head">' +
'<span class="model-card-name" title="点击编辑" onclick="modelsUI.openEdit(\'' + encodeURIComponent(m.id) + '\')">' + esc(m.display_name || m.mid || m.id) + '</span>' +
// 模型 id / 会话号紧跟名字同行,卡片更紧凑
'<span class="model-card-meta">' + esc(m.mid || m.id) +
(run && run.is_busy && run.current_session_id ? ' · 会话 ' + esc(run.current_session_id) : '') + '</span>' +
stateHtml +
'</div>' +
// token 紧凑显示:输入 / 输出
'<div class="cfg-kv"><label>今日 token</label><b title="输入 / 输出">' + (run ? fmtTok(run.today_prompt) + ' / ' + fmtTok(run.today_completion) : '--') + '</b></div>' +
'<div class="cfg-kv"><label>累计 token</label><b title="输入 / 输出">' + (run ? fmtTok(run.total_prompt) + ' / ' + fmtTok(run.total_completion) : '--') + '</b></div>' +
'</div>';
}
// 余额展示文案与悬停详情(查询成功后才有值,默认 --)
function balText(gk) {
const b = balanceByGroup[gk];
if (!b) return '余额 --';
if (b.error) return '余额 查询失败';
return '余额 ' + (b.total_balance == null ? '--' : b.total_balance) + (b.currency ? ' ' + esc(b.currency) : '');
}
function balTitle(gk) {
const b = balanceByGroup[gk];
if (!b) return '';
if (b.error) return '查询失败:' + b.error;
const parts = [];
if (b.available === false) parts.push('上游报告余额不可用');
if (b.granted_balance != null) parts.push('赠送 ' + b.granted_balance);
if (b.topped_up_balance != null) parts.push('充值 ' + b.topped_up_balance);
return parts.join(' · ');
}
async function fetchBalance(gk, pi, ki, manual) {
balanceRequested[gk] = true; // 无论成败,本 Tab 会话不再自动重查(手动刷新不受限)
const btn = $('mbrg-' + gk);
if (btn) btn.classList.add('spin');
const el = $('mbal-' + gk);
if (el) el.textContent = '余额 …';
try {
const r = await req('GET', '/api/platforms/balance?pi=' + pi + '&ki=' + ki);
const b = r.balance || {};
balanceByGroup[gk] = {
total_balance: b.total_balance, currency: b.currency,
granted_balance: b.granted_balance, topped_up_balance: b.topped_up_balance,
available: b.is_available,
};
} catch (e) {
balanceByGroup[gk] = { error: e.message };
if (manual) toast('查余额失败:' + e.message); // 自动查询失败只落悬停详情,不打扰
}
if (btn) btn.classList.remove('spin');
const el2 = $('mbal-' + gk);
if (el2) { el2.textContent = balText(gk); el2.title = balTitle(gk); }
}
// 点刷新图标:无视「本轮已查过」标记,总是重新请求
function refreshBalance(ev, pi, ki) {
if (ev) ev.stopPropagation(); // 冒泡到分组头会误触折叠/展开
fetchBalance(pi + '-' + ki, pi, ki, true);
}
// 余额行刷新图标(环形箭头)
const BAL_REFRESH_SVG = '<svg viewBox="0 0 24 24"><polyline points="23 4 23 10 17 10"></polyline><path d="M20.49 15a9 9 0 1 1-2.12-9.36L23 10"></path></svg>';
function modelGroupHtml(pi, ki) {
const p = cfgPlatforms[pi] || {};
const k = (p.keys || [])[ki] || {};
const gk = pi + '-' + ki;
// 该平台下所有 models(不按 key_index 过滤;key 间会重复展示,等后续 UI 重构再去重)
const models = cfgModels.filter(m => m.platform_index === pi && m.key_index === ki);
// 同 id 在 cfgModels 里出现 N 次(每个 key 副本),卡片只画一次以避免视觉重复;
// 取该 key 副本下首条即可(同 id 字段相同,渲染无差异)。
const seen = new Set();
const dedup = [];
for (const m of models) { if (!seen.has(m.id)) { seen.add(m.id); dedup.push(m); } }
const open = !!expandedGroups[gk];
// 仅已接入余额查询的类型显示余额行(未接入的显示出来也只会是报错,不如不显示)
const hasBal = balanceTypes.indexOf(String(p.type || '')) >= 0;
return '<div class="model-group' + (open ? ' open' : '') + '" id="mgrp-' + gk + '">' +
'<div class="model-group-head" onclick="modelsUI.toggleGroup(\'' + gk + '\')">' +
'<svg class="model-group-caret" viewBox="0 0 24 24"><polyline points="9 6 15 12 9 18"></polyline></svg>' +
'<span class="model-group-name">' + esc(p.name || ('平台' + pi)) + '</span>' +
'<span class="model-group-key">' + esc(k.api_key ? maskKey(k.api_key) : '无 key') + '</span>' +
'<span class="model-group-meta">' + dedup.length + ' 模型</span>' +
'</div>' +
'<div class="model-group-body' + (open ? '' : ' hidden') + '">' +
(hasBal ?
'<div class="model-group-bal">' +
'<span id="mbal-' + gk + '" title="' + esc(balTitle(gk)) + '">' + balText(gk) + '</span>' +
'<button class="mbal-refresh" id="mbrg-' + gk + '" title="重新查询余额" onclick="modelsUI.refreshBalance(event,' + pi + ',' + ki + ')">' + BAL_REFRESH_SVG + '</button>' +
'</div>' : '') +
(dedup.length ? dedup.map(modelCardHtml).join('') : '<div class="model-group-empty">该 Key 下暂无模型</div>') +
'</div>' +
'</div>';
}
async function loadModelCards() {
const el = $('model-cards');
if (!el) return;
try {
const [rt, cg] = await Promise.all([req('GET', '/api/models'), req('GET', '/api/config')]);
runtimeById = {};
for (const m of rt || []) runtimeById[m.id] = m;
cfgPlatforms = (cg.effective && cg.effective.platforms) || [];
cfgModels = (cg.effective && cg.effective.models) || [];
balanceTypes = cg.balance_types || [];
if (!cfgModels.length) {
el.innerHTML = '<div class="empty-tip">尚未配置模型,点右上角 + 添加。</div>';
return;
}
let html = '';
cfgPlatforms.forEach((p, pi) => (p.keys || []).forEach((k, ki) => {
html += modelGroupHtml(pi, ki);
}));
el.innerHTML = html +
(modelsPendingRestart
? '<div class="empty-tip">已写入 config.yml,到「设置」页重启服务后生效。</div>'
: '<div class="empty-tip">token 格式为「输入 / 输出」;余额在分组首次展开时自动查询,点刷新图标可重查;改动写入 config.yml,重启服务后生效。</div>');
} catch (e) {
el.innerHTML = '<div class="empty-tip">加载失败:' + esc(e.message) + '</div>';
}
}
function idxOf(id) {
for (let i = 0; i < cfgModels.length; i++) if (cfgModels[i].id === id) return i;
return -1;
}
function afterWrite() {
modelsPendingRestart = true;
balanceByGroup = {}; // 配置变了,旧余额不再对应现有 pi/ki 槽位
balanceRequested = {};
toast('已写入 config.yml,到「设置」页重启后生效');
loadModelCards();
}
// ---------- 编辑/新增弹窗 ----------
// Key 标签:「平台名 · sk-***1234」;下拉里用它标识可挂模型的目标 Key(新增模式下展示,实际模型与 key 解耦,
// 所有 key 都共享 platforms.models)。
function keyLabel(pi, ki) {
const p = cfgPlatforms[pi] || {};
const k = (p.keys || [])[ki] || {};
return (p.name || ('平台' + pi)) + ' · ' + (k.api_key ? maskKey(k.api_key) : '无 key');
}
function targetOptions() {
let html = '';
cfgPlatforms.forEach((p, pi) => {
const n = (p.models || []).length;
html += '<option value="plat:' + pi + '">' +
esc(p.name || ('平台' + pi)) + '(' + n + ' 模型)</option>';
});
html += '<option value="newkey">+ 在已有平台下新增 Key</option>';
html += '<option value="newplat">+ 新增平台</option>';
return html;
}
// 切换「新增 Key / 新增平台」时显隐对应字段。
function onTargetChange() {
const t = $('moe-target').value || '';
$('moe-newkey-wrap').classList.toggle('hidden', t !== 'newkey');
$('moe-newplat-wrap').classList.toggle('hidden', t !== 'newplat');
}
function fillNewKeyPlatforms() {
$('moe-nk-plat').innerHTML = cfgPlatforms.map((p, i) =>
'<option value="' + i + '">' + esc(p.name || ('平台' + i)) + '</option>').join('');
}
function openModelEditor(rawId) {
const add = rawId == null;
moeIdx = add ? -1 : idxOf(decodeURIComponent(rawId));
if (!add && moeIdx < 0) return toast('模型不存在');
const m = add ? null : cfgModels[moeIdx];
$('moe-title').textContent = add ? '添加模型' : '编辑模型';
const idIn = $('moe-id');
idIn.value = m ? (m.mid || m.id) : '';
idIn.disabled = !add; // 编辑时禁改 id(历史会话按「平台名/模型id」绑定,改 id 等于换模型)
$('moe-name').value = m ? (m.display_name || '') : '';
$('moe-vision').checked = m ? !!m.vision : false;
const tgt = $('moe-target');
if (add) {
tgt.disabled = false;
tgt.innerHTML = targetOptions();
fillNewKeyPlatforms();
} else {
// 编辑时锁定目标为本模型所属平台(模型与 key 解耦后,移动模型 = 改 platforms[pi],已不支持)
const p = cfgPlatforms[m.platform_index] || {};
tgt.innerHTML = '<option value="plat:' + m.platform_index + '">' + esc(p.name || ('平台' + m.platform_index)) + '</option>';
tgt.disabled = true;
}
tgt.onchange = onTargetChange;
onTargetChange(); // add 模式默认 plat:0 → 两组附加字段都隐藏
$('moe-del-btn').classList.toggle('hidden', add);
$('model-edit-modal').classList.remove('hidden');
}
function closeModelEditor() { $('model-edit-modal').classList.add('hidden'); }
async function saveModelEditor() {
const id = $('moe-id').value.trim();
if (!id) return toast('请填写 id');
// 模型项本身只含 id/display_name/vision;url/type 在平台层,api_key/concurrency 在 Key 层,这里不动。
const model = {
id,
display_name: $('moe-name').value.trim() || id,
vision: $('moe-vision').checked,
};
const add = moeIdx < 0;
let body;
if (!add) {
// 编辑:改到 platforms[pi].models[mi](与 key 解耦,所有 key 共享同一份 models)
const m = cfgModels[moeIdx];
body = { path: ['platforms', m.platform_index, 'models', m.model_index], value: model };
} else {
const t = $('moe-target').value;
// id 唯一性只看同平台(内部键 = 平台名/模型id);不同平台可同名。
let platIdx = -1;
if (t === 'newkey') platIdx = parseInt($('moe-nk-plat').value, 10);
else if (t.indexOf('plat:') === 0) platIdx = Number(t.split(':')[1]);
if (platIdx >= 0) {
const p = cfgPlatforms[platIdx] || {};
if (cfgModels.some(x => x.platform === p.name && x.mid === id)) {
return toast('平台「' + (p.name || '') + '」下已有模型 id:' + id);
}
}
if (t === 'newplat') {
const url = $('moe-np-url').value.trim().replace(/\/+$/, '');
if (!url) return toast('请填写平台上游地址');
// append 一整个新平台:含一份 models 和一个 key;key 明文只在此时输入一次。
body = { op: 'append', path: ['platforms'], value: {
name: $('moe-np-name').value.trim(),
url,
type: $('moe-np-type').value.trim(),
models: [model],
keys: [{ api_key: $('moe-np-key').value.trim(), concurrency: parseInt($('moe-np-con').value, 10) || 1 }],
} };
} else if (t === 'newkey') {
if (!(platIdx >= 0)) return toast('请选择平台');
// append 一个新 Key 到已有平台(models 与 key 解耦,这里只追加 key,不重复 model)
body = { op: 'append', path: ['platforms', platIdx, 'keys'], value: {
api_key: $('moe-nk-key').value.trim(), concurrency: parseInt($('moe-nk-con').value, 10) || 1 } };
// 紧接着把模型 append 到 platforms[platIdx].models
await req('PATCH', '/api/config', body);
try {
await req('PATCH', '/api/config', { op: 'append', path: ['platforms', platIdx, 'models'], value: model });
} catch (e) { throw e; }
closeModelEditor();
afterWrite();
return;
} else {
// plat:pi → append 模型到 platforms[pi].models
body = { op: 'append', path: ['platforms', platIdx, 'models'], value: model };
}
}
try {
await req('PATCH', '/api/config', body);
closeModelEditor();
afterWrite();
} catch (e) { toast('保存失败:' + e.message); }
}
async function delModelFromModal() {
if (moeIdx < 0) return;
const m = cfgModels[moeIdx];
closeModelEditor();
// 唯一性:同 id 在 cfgModels 里出现 N 次(N=key 数);删之前确认至少还剩一个平台的模型数 > 0
const otherIds = new Set(cfgModels.filter(x => x.id !== m.id).map(x => x.id));
if (otherIds.size < 1) return toast('至少要保留一个模型');
const ok = await confirmModal('删除模型', '删除模型「' + (m.display_name || m.id) + '」?将从 platforms 中移除该模型项(该平台下所有 key 都不再可用此模型)。', '删除', true);
if (!ok) return;
try {
// delete 到 platforms[pi].models[mi](与 key 解耦);YAML 数组删项会自动收紧,不影响其他行注释。
await req('PATCH', '/api/config', { path: ['platforms', m.platform_index, 'models', m.model_index], op: 'delete' });
SET.deletedModels[m.id] = true; // 重启前后端仍会返回该模型,本地标记隐藏
afterWrite();
} catch (e) { toast('删除失败:' + e.message); }
}
window.modelsUI = {
openAdd: function () { openModelEditor(null); },
openEdit: openModelEditor,
close: closeModelEditor,
save: saveModelEditor,
del: delModelFromModal,
onTargetChange: onTargetChange,
toggleGroup: toggleModelGroup,
refreshBalance: refreshBalance,
};
tabModules.models = {
// 每次切到模型 Tab:余额结果与「本 Tab 已自动查过」标记一并重置,
// 分组首次点开时重新自动查一次(对应需求:每次切 Tab 后只首次点开自动更新)
onShow() { balanceByGroup = {}; balanceRequested = {}; loadModelCards(); },
};