LLM 服务商管理
元数据化与智能路由
LLM 服务商管理是 Neurova 的模型基础设施:统一管理多家 LLM 供应商,元数据驱动、自动发现、智能路由与用户隔离。
核心能力
| 能力 | 说明 | 状态 |
|---|---|---|
| 元数据化 | capability / series / priority / scope 元数据 | 已实现 |
| 自动发现 | 三级探测链(元数据→模型列表→能力探测) | 已实现 |
| 智能过滤 | 按能力/系列/供应商多维度筛选 | 已实现 |
| 候选合并 | 幂等合并逻辑 | 已实现 |
| OpenCode | 新增 OpenCode 兼容供应商 | 已实现 |
| 流式异步化 | Provider 方法 async 化 | 已实现 |
| 用户隔离 | scope 级隔离,API Key 按用户管理 | 已实现 |
智能路由
请求类型检测(CHAT / VISION / TTS / STT / IMAGE_GENERATION ...)
↓
能力匹配 → 健康检查 → 优先级排序 → 响应时间优化 → 权重评分
↓
最佳模型选择
API
GET /api/v1/provider # 服务商列表(含元数据)
POST /api/v1/provider # 添加服务商
POST /api/v1/provider/discover # 自动发现
GET /api/v1/model # 模型管理