Files
agent/mcp/asr
kicer 55efb1c410 mcp/asr 构建默认换腾讯云 apt 源
node:22-slim 的 apt-get update 走官方源在国内会卡十几分钟:按 executor/Dockerfile 的做法把 deb.debian.org 替换为 mirrors.cloud.tencent.com,grep 扫 /etc/apt/ 同时兼容 sources.list 与 deb822 的 *.sources。境外构建可用 --build-arg DEBIAN_MIRROR=deb.debian.org 覆盖回官方源。

已实际构建验证:镜像内 sources 生效,ffmpeg 5.1.9 / node v22.23.3 正常。
2026-10-24 16:27:29 +08:00
..

mcp/asr — 语音识别服务

一个容器,两个入口,共用同一套转写实现:

入口 谁在用 说明
POST /transcribe agent-core 的 /api/asr/transcribe(H5 输入框) 普通 HTTP,音频二进制进、{text} 出。不经过模型、不消耗 token、1~3s
POST /mcp 模型(MCP 工具 transcribe_audio) 转写任务目录里已有的音频,参数是公网 URL(与 video_task 的 image_url 同构)
GET /health compose healthcheck {ok, model, configured}

端口 3000 只在 agent-mcp-net 内网,不映射宿主机——本服务自身没有鉴权,暴露即被白嫖。 对外唯一入口仍是 agent-core(/api/asr 走登录态鉴权)。

为什么不是「录音 → 上传附件 → 模型调工具」

那要额外一次完整模型往返(3~10s + token),识别结果落进聊天记录而不是输入框,用户还没法改错字。 输入法级别的功能必须绕开模型;/mcp 那个口只留给「转写一段已上传的录音」这种低频需求。

部署

# 1) 配上游密钥(写进仓库根 .env,已 gitignore)
#    ASR_API_KEY=你的智谱 token
# 2) 起服务
docker compose up -d --build mcp_asr
docker compose restart agent-core      # core 要在启动时读到 ASR_URL
curl -s http://127.0.0.1:8090/api/asr/status   # {"enabled":true,...}

agent-core 的环境变量 ASR_URL(compose 里固定为 http://mcp_asr:3000)是开关:置空即 不启用,/api/asr/* 回 503,前端不显示麦克风按钮。

上游

任何 OpenAI 兼容的 /audio/transcriptions 都能用;默认智谱:

变量 默认
ASR_API_BASE https://open.bigmodel.cn/api/paas/v4
ASR_API_KEY 空(空则 /transcribe 回 503)
ASR_MODEL glm-asr

常驻内存约 3540MB,CPU 基本为 0。没有本地模型可选:2 vCPU / 2GB 的机器跑不动能用的 whisper(固定 30 秒窗口,small 单次要 1530 秒),需要私有化就把这个容器放到另一台机器, 只改 core 的 ASR_URL 指向它。

HTTP 接口

# 任意格式(webm / mp4 / mp3 / wav / ogg / aac / flac),服务端用 ffmpeg 归一化
curl -s -X POST http://mcp_asr:3000/transcribe \
  -H 'Content-Type: audio/webm' \
  --data-binary @voice.webm
# → {"text":"打开今天的日报","ms":842,"model":"glm-asr"}
  • 上限 20MB;超过 ASR_MAX_CHUNK_SEC(默认 25s)的音频自动切片后逐段识别再拼接 (多数云端 ASR 单次只吃 ~30s)。
  • 同时最多 ASR_MAX_CONCURRENT(默认 2)个转写,超了回 429。

MCP 工具

# config.yml
mcp_servers:
  - name: asr
    url: "http://mcp_asr:3000/mcp"
    mode: skill        # 低频能力,别每轮都发 schema

transcribe_audio({ url }):本地文件先用内置工具 mint_public_link 换成公网短链, 再把链接传进来(和 video_task 要 image_url 是同一套路)。

环境变量速查

变量 默认 说明
ASR_API_BASE / ASR_API_KEY / ASR_MODEL 见上 上游语音识别
ASR_MAX_BYTES 20971520 单次上传上限
ASR_MAX_CHUNK_SEC 25 超长音频切片长度,0 = 不切
ASR_MAX_CONCURRENT 2 并发转写数
ASR_LOG_LEVEL info debug / info / warn / error / none

客户端怎么录音

浏览器侧只有 HTTPS 才允许开麦;Android 套壳 App 用原生录音再把 base64 交给页面, http 页面也能用。桥的契约与 Kotlin 示例见 docs/voice-input.md。