首页 / 文档中心 / 配置指南

LLM 服务商管理

元数据化与智能路由

LLM 服务商管理是 Neurova 的模型基础设施:统一管理多家 LLM 供应商,元数据驱动、自动发现、智能路由与用户隔离。

核心能力

能力说明状态
元数据化capability / series / priority / scope 元数据已实现
自动发现三级探测链(元数据→模型列表→能力探测)已实现
智能过滤按能力/系列/供应商多维度筛选已实现
候选合并幂等合并逻辑已实现
OpenCode新增 OpenCode 兼容供应商已实现
流式异步化Provider 方法 async 化已实现
用户隔离scope 级隔离,API Key 按用户管理已实现

智能路由

请求类型检测(CHAT / VISION / TTS / STT / IMAGE_GENERATION ...)
    ↓
能力匹配 → 健康检查 → 优先级排序 → 响应时间优化 → 权重评分
    ↓
最佳模型选择

API

GET  /api/v1/provider            # 服务商列表(含元数据)
POST /api/v1/provider            # 添加服务商
POST /api/v1/provider/discover   # 自动发现
GET  /api/v1/model               # 模型管理