Files
agent/app/server/public/js/models.js
T
2026-09-03 07:57:55 +08:00

336 lines
16 KiB
JavaScript
Raw Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
// 模型 Tab(阶段 5):模型池状态 + 模型增 / 改 / 删(仅写 config.yml,到「设置」页重启才生效)。
// 配置为 platforms 层级(平台 → Key → 模型):url/type 在平台层,api_key/concurrency 在 Key 层,
// 模型项只有 {id, display_name, vision};id 只需同平台内唯一(内部唯一键 = 平台名/模型id,
// effective.models 的 id 即该键、mid 为原始模型名)。页面 PATCH 用 platforms[i].keys[j].models[k] 嵌套下标定位;
// 新增一律走 append(只动目标数组,脱敏 key 绝不整体回写文件);已有 Key 的 api_key 修改请走配置原文编辑器。
// 展示层:模型池按「平台名 + 脱敏 Key」分组(余额由二者决定),父级 Key、子级模型,默认折叠;
// 余额行在展开体顶部,首次展开自动查一次(每 Tab 会话一次),可点刷新图标手动重查。
'use strict';
window.tabModules = window.tabModules || {};
let cfgPlatforms = []; // effective.platforms(服务端已对 api_key 脱敏)
let cfgModels = []; // 打平后的 effective.models(含 platform_index/key_index/model_index)
let runtimeById = {}; // 运行池状态,按 id 关联
let modelsPendingRestart = false;
let moeIdx = -1; // 当前编辑弹窗对应的打平下标;-1 = 新增
let expandedGroups = {}; // 模型池分组展开态,key =「pi-ki」;余额由 name+key 决定,分组即 Key 槽位,默认折叠
let balanceByGroup = {}; // 余额查询结果缓存,key =「pi-ki」;切 Tab/写配置时清空
let balanceRequested = {}; // 本 Tab 会话内该分组是否已自动查过(首次展开只自动查一次)
let balanceTypes = []; // 后端已接入余额查询的平台类型(GET /api/config 的 balance_types)
// api_key 脱敏显示:sk-***1234 样式。后端 GET effective 已脱敏,这里仅兜底(幂等)。
function maskKey(k) {
k = k || '';
if (k.includes('***')) return k;
if (k.length > 8) return k.slice(0, 3) + '***' + k.slice(-4);
if (k.length > 0) return '***' + k.slice(-2);
return '';
}
// token 用量紧凑显示:1.2k / 9.1M 这种 human-friendly 量级,一眼看出多少。
// <1000 原样;1k~1M 用 k(1 位小数,去尾零);≥1M 用 M。0 显示为 0。
function fmtTok(n) {
n = Number(n) || 0;
if (n < 1000) return String(n);
if (n < 1000000) { const v = (n / 1000).toFixed(1).replace(/\.0$/, ''); return v + 'k'; }
const v = (n / 1000000).toFixed(1).replace(/\.0$/, '');
return v + 'M';
}
// ---------- 模型池卡片:按「平台 + Key」分组 ----------
// 余额由 platform.name + key 决定,故父级 = 平台名 · 脱敏 key,子级 = 该 Key 下的模型;默认折叠。
function toggleModelGroup(gk) {
const on = !expandedGroups[gk];
expandedGroups[gk] = on;
const el = $('mgrp-' + gk);
if (!el) return;
el.classList.toggle('open', on);
const body = el.querySelector('.model-group-body');
if (body) body.classList.toggle('hidden', !on);
// 首次展开自动查一次余额(mbal 存在 = 该类型已接入);标记随切 Tab 重置,
// 故每次切到模型 Tab 后,每个分组只自动查一次,反复折叠展开不重复请求
if (on && !balanceRequested[gk] && $('mbal-' + gk)) {
const parts = gk.split('-');
fetchBalance(gk, Number(parts[0]), Number(parts[1]), false);
}
}
// 单个模型的子卡片;余额是 Key 级概念,统一在分组头显示,模型卡不再重复。
function modelCardHtml(m) {
const run = runtimeById[m.id];
// 运行池里没有 = 配置新增但还没重启生效
const stateHtml = run
? '<span class="model-card-state ' + (run.is_busy ? 'busy' : 'idle') + '">' + (run.is_busy ? '占用中' : '空闲') + '</span>'
: '<span class="model-card-state pending">待重启</span>';
return '<div class="model-card">' +
'<div class="model-card-head">' +
'<span class="model-card-name" title="点击编辑" onclick="modelsUI.openEdit(\'' + encodeURIComponent(m.id) + '\')">' + esc(m.display_name || m.mid || m.id) + '</span>' +
// 模型 id / 会话号紧跟名字同行,卡片更紧凑
'<span class="model-card-meta">' + esc(m.mid || m.id) +
(run && run.is_busy && run.current_session_id ? ' · 会话 ' + esc(run.current_session_id) : '') + '</span>' +
stateHtml +
'</div>' +
// token 紧凑显示:输入 / 输出
'<div class="cfg-kv"><label>今日 token</label><b title="输入 / 输出">' + (run ? fmtTok(run.today_prompt) + ' / ' + fmtTok(run.today_completion) : '--') + '</b></div>' +
'<div class="cfg-kv"><label>累计 token</label><b title="输入 / 输出">' + (run ? fmtTok(run.total_prompt) + ' / ' + fmtTok(run.total_completion) : '--') + '</b></div>' +
'</div>';
}
// 余额展示文案与悬停详情(查询成功后才有值,默认 --)
function balText(gk) {
const b = balanceByGroup[gk];
if (!b) return '余额 --';
if (b.error) return '余额 查询失败';
return '余额 ' + (b.total_balance == null ? '--' : b.total_balance) + (b.currency ? ' ' + esc(b.currency) : '');
}
function balTitle(gk) {
const b = balanceByGroup[gk];
if (!b) return '';
if (b.error) return '查询失败:' + b.error;
const parts = [];
if (b.available === false) parts.push('上游报告余额不可用');
if (b.granted_balance != null) parts.push('赠送 ' + b.granted_balance);
if (b.topped_up_balance != null) parts.push('充值 ' + b.topped_up_balance);
return parts.join(' · ');
}
async function fetchBalance(gk, pi, ki, manual) {
balanceRequested[gk] = true; // 无论成败,本 Tab 会话不再自动重查(手动刷新不受限)
const btn = $('mbrg-' + gk);
if (btn) btn.classList.add('spin');
const el = $('mbal-' + gk);
if (el) el.textContent = '余额 …';
try {
const r = await req('GET', '/api/platforms/balance?pi=' + pi + '&ki=' + ki);
const b = r.balance || {};
balanceByGroup[gk] = {
total_balance: b.total_balance, currency: b.currency,
granted_balance: b.granted_balance, topped_up_balance: b.topped_up_balance,
available: b.is_available,
};
} catch (e) {
balanceByGroup[gk] = { error: e.message };
if (manual) toast('查余额失败:' + e.message); // 自动查询失败只落悬停详情,不打扰
}
if (btn) btn.classList.remove('spin');
const el2 = $('mbal-' + gk);
if (el2) { el2.textContent = balText(gk); el2.title = balTitle(gk); }
}
// 点刷新图标:无视「本轮已查过」标记,总是重新请求
function refreshBalance(ev, pi, ki) {
if (ev) ev.stopPropagation(); // 冒泡到分组头会误触折叠/展开
fetchBalance(pi + '-' + ki, pi, ki, true);
}
// 余额行刷新图标(环形箭头)
const BAL_REFRESH_SVG = '<svg viewBox="0 0 24 24"><polyline points="23 4 23 10 17 10"></polyline><path d="M20.49 15a9 9 0 1 1-2.12-9.36L23 10"></path></svg>';
function modelGroupHtml(pi, ki) {
const p = cfgPlatforms[pi] || {};
const k = (p.keys || [])[ki] || {};
const gk = pi + '-' + ki;
const models = cfgModels.filter(m => m.platform_index === pi && m.key_index === ki);
const open = !!expandedGroups[gk];
// 仅已接入余额查询的类型显示余额行(未接入的显示出来也只会是报错,不如不显示)
const hasBal = balanceTypes.indexOf(String(p.type || '')) >= 0;
return '<div class="model-group' + (open ? ' open' : '') + '" id="mgrp-' + gk + '">' +
'<div class="model-group-head" onclick="modelsUI.toggleGroup(\'' + gk + '\')">' +
'<svg class="model-group-caret" viewBox="0 0 24 24"><polyline points="9 6 15 12 9 18"></polyline></svg>' +
'<span class="model-group-name">' + esc(p.name || ('平台' + pi)) + '</span>' +
'<span class="model-group-key">' + esc(k.api_key ? maskKey(k.api_key) : '无 key') + '</span>' +
'<span class="model-group-meta">' + models.length + ' 模型</span>' +
'</div>' +
'<div class="model-group-body' + (open ? '' : ' hidden') + '">' +
(hasBal ?
'<div class="model-group-bal">' +
'<span id="mbal-' + gk + '" title="' + esc(balTitle(gk)) + '">' + balText(gk) + '</span>' +
'<button class="mbal-refresh" id="mbrg-' + gk + '" title="重新查询余额" onclick="modelsUI.refreshBalance(event,' + pi + ',' + ki + ')">' + BAL_REFRESH_SVG + '</button>' +
'</div>' : '') +
(models.length ? models.map(modelCardHtml).join('') : '<div class="model-group-empty">该 Key 下暂无模型</div>') +
'</div>' +
'</div>';
}
async function loadModelCards() {
const el = $('model-cards');
if (!el) return;
try {
const [rt, cg] = await Promise.all([req('GET', '/api/models'), req('GET', '/api/config')]);
runtimeById = {};
for (const m of rt || []) runtimeById[m.id] = m;
cfgPlatforms = (cg.effective && cg.effective.platforms) || [];
cfgModels = (cg.effective && cg.effective.models) || [];
balanceTypes = cg.balance_types || [];
if (!cfgModels.length) {
el.innerHTML = '<div class="empty-tip">尚未配置模型,点右上角 + 添加。</div>';
return;
}
let html = '';
cfgPlatforms.forEach((p, pi) => (p.keys || []).forEach((k, ki) => {
html += modelGroupHtml(pi, ki);
}));
el.innerHTML = html +
(modelsPendingRestart
? '<div class="empty-tip">已写入 config.yml,到「设置」页重启服务后生效。</div>'
: '<div class="empty-tip">token 格式为「输入 / 输出」;余额在分组首次展开时自动查询,点刷新图标可重查;改动写入 config.yml,重启服务后生效。</div>');
} catch (e) {
el.innerHTML = '<div class="empty-tip">加载失败:' + esc(e.message) + '</div>';
}
}
function idxOf(id) {
for (let i = 0; i < cfgModels.length; i++) if (cfgModels[i].id === id) return i;
return -1;
}
function afterWrite() {
modelsPendingRestart = true;
balanceByGroup = {}; // 配置变了,旧余额不再对应现有 pi/ki 槽位
balanceRequested = {};
toast('已写入 config.yml,到「设置」页重启后生效');
loadModelCards();
}
// ---------- 编辑/新增弹窗 ----------
// Key 标签:「平台名 · sk-***1234」;下拉里用它标识可挂模型的目标 Key。
function keyLabel(pi, ki) {
const p = cfgPlatforms[pi] || {};
const k = (p.keys || [])[ki] || {};
return (p.name || ('平台' + pi)) + ' · ' + (k.api_key ? maskKey(k.api_key) : '无 key');
}
function targetOptions() {
let html = '';
cfgPlatforms.forEach((p, pi) => (p.keys || []).forEach((k, ki) => {
html += '<option value="exist:' + pi + ':' + ki + '">' +
esc(keyLabel(pi, ki)) + '(' + ((k.models || []).length) + ' 模型)</option>';
}));
html += '<option value="newkey">+ 在已有平台下新增 Key</option>';
html += '<option value="newplat">+ 新增平台</option>';
return html;
}
// 切换「新增 Key / 新增平台」时显隐对应字段。
function onTargetChange() {
const t = $('moe-target').value || '';
$('moe-newkey-wrap').classList.toggle('hidden', t !== 'newkey');
$('moe-newplat-wrap').classList.toggle('hidden', t !== 'newplat');
}
function fillNewKeyPlatforms() {
$('moe-nk-plat').innerHTML = cfgPlatforms.map((p, i) =>
'<option value="' + i + '">' + esc(p.name || ('平台' + i)) + '</option>').join('');
}
function openModelEditor(rawId) {
const add = rawId == null;
moeIdx = add ? -1 : idxOf(decodeURIComponent(rawId));
if (!add && moeIdx < 0) return toast('模型不存在');
const m = add ? null : cfgModels[moeIdx];
$('moe-title').textContent = add ? '添加模型' : '编辑模型';
const idIn = $('moe-id');
idIn.value = m ? (m.mid || m.id) : '';
idIn.disabled = !add; // 编辑时禁改 id(历史会话按「平台名/模型id」绑定,改 id 等于换模型)
$('moe-name').value = m ? (m.display_name || '') : '';
$('moe-vision').checked = m ? !!m.vision : false;
const tgt = $('moe-target');
if (add) {
tgt.disabled = false;
tgt.innerHTML = targetOptions();
fillNewKeyPlatforms();
} else {
// 编辑时锁定目标为本模型所属 Key(移动模型 = 删除后重建,不支持就地挪)
tgt.innerHTML = '<option value="exist:' + m.platform_index + ':' + m.key_index + '">' + esc(keyLabel(m.platform_index, m.key_index)) + '</option>';
tgt.disabled = true;
}
tgt.onchange = onTargetChange;
onTargetChange(); // add 模式默认 exist → 两组附加字段都隐藏
$('moe-del-btn').classList.toggle('hidden', add);
$('model-edit-modal').classList.remove('hidden');
}
function closeModelEditor() { $('model-edit-modal').classList.add('hidden'); }
async function saveModelEditor() {
const id = $('moe-id').value.trim();
if (!id) return toast('请填写 id');
// 模型项本身只含 id/display_name/vision;url/key/concurrency 在平台/Key 层,这里不动。
const model = {
id,
display_name: $('moe-name').value.trim() || id,
vision: $('moe-vision').checked,
};
const add = moeIdx < 0;
let body;
if (!add) {
// 编辑:精确改到 platforms[pi].keys[ki].models[mi]
const m = cfgModels[moeIdx];
body = { path: ['platforms', m.platform_index, 'keys', m.key_index, 'models', m.model_index], value: model };
} else {
const t = $('moe-target').value;
// id 唯一性只看同平台(内部键 = 平台名/模型id);不同平台可同名。
let platName = '';
if (t === 'newkey') platName = (cfgPlatforms[parseInt($('moe-nk-plat').value, 10)] || {}).name || '';
else if (t.indexOf('exist:') === 0) platName = (cfgPlatforms[Number(t.split(':')[1])] || {}).name || '';
if (platName && cfgModels.some(x => x.platform === platName && x.mid === id)) return toast('平台「' + platName + '」下已有模型 id:' + id);
if (t === 'newplat') {
const url = $('moe-np-url').value.trim().replace(/\/+$/, '');
if (!url) return toast('请填写平台上游地址');
// append 一整个新平台:含一个新 Key + 这个模型;key 明文只在此时输入一次。
body = { op: 'append', path: ['platforms'], value: {
name: $('moe-np-name').value.trim(),
url,
type: $('moe-np-type').value.trim() || 'openai',
keys: [{ api_key: $('moe-np-key').value.trim(), concurrency: parseInt($('moe-np-con').value, 10) || 1, models: [model] }],
} };
} else if (t === 'newkey') {
const pi = parseInt($('moe-nk-plat').value, 10);
if (!(pi >= 0)) return toast('请选择平台');
// append 一个新 Key 到已有平台;模型挂在它下面。
body = { op: 'append', path: ['platforms', pi, 'keys'], value: {
api_key: $('moe-nk-key').value.trim(), concurrency: parseInt($('moe-nk-con').value, 10) || 1, models: [model] } };
} else {
// exist:pi:ki → append 模型到已有 Key 的 models 数组
const parts = t.split(':');
body = { op: 'append', path: ['platforms', Number(parts[1]), 'keys', Number(parts[2]), 'models'], value: model };
}
}
try {
await req('PATCH', '/api/config', body);
closeModelEditor();
afterWrite();
} catch (e) { toast('保存失败:' + e.message); }
}
async function delModelFromModal() {
if (moeIdx < 0) return;
const m = cfgModels[moeIdx];
closeModelEditor();
if (cfgModels.length <= 1) return toast('至少要保留一个模型');
const ok = await confirmModal('删除模型', '删除模型「' + (m.display_name || m.id) + '」?将从 platforms 中移除该模型项。', '删除', true);
if (!ok) return;
try {
// delete 到 platforms[pi].keys[ki].models[mi];YAML 数组删项会自动收紧,不影响其他行注释。
await req('PATCH', '/api/config', { path: ['platforms', m.platform_index, 'keys', m.key_index, 'models', m.model_index], op: 'delete' });
afterWrite();
} catch (e) { toast('删除失败:' + e.message); }
}
window.modelsUI = {
openAdd: function () { openModelEditor(null); },
openEdit: openModelEditor,
close: closeModelEditor,
save: saveModelEditor,
del: delModelFromModal,
onTargetChange: onTargetChange,
toggleGroup: toggleModelGroup,
refreshBalance: refreshBalance,
};
tabModules.models = {
// 每次切到模型 Tab:余额结果与「本 Tab 已自动查过」标记一并重置,
// 分组首次点开时重新自动查一次(对应需求:每次切 Tab 后只首次点开自动更新)
onShow() { balanceByGroup = {}; balanceRequested = {}; loadModelCards(); },
};