文档目录

AI基座总览

AI基座是芒旭软件元序体系中AI消费的统一入口,通过多供应商管理、模型配置、密钥管理、预算计量、故障切换和开放能力,解决模型选择、密钥管理和成本控制三大难题。

  • AI基座是智能消费总阀门,实现路由、计量、管控一体化。
  • 多供应商统一接入,避免被单一供应商绑定。
  • API密钥集中管理,业务层不接触密钥,轮换一处更新。
  • 按租户或部门预算计量,支持额度预警和自动限流。
  • 主力模型故障时秒级切换备用模型,确保业务无感。

用智能——模型配置、密钥管理、预算计量与开放能力统一收敛,是租户有序消费智能能力的总入口。

十二基座之中,炼模"育"智能,智能"治"智能,AI 基座"用"智能。AI 基座是智能消费的"总阀门"——所有引擎、所有能力模块、所有智能体,通过 AI 基座统一消费 AI 算力。


一、为什么需要 AI 基座

1.1 AI 消费的三大管理困境

在企业 AI 消费过程中,面临三个系统性的管理困境:

困境一:模型选择困难。

同一个"文本生成"请求,应该调用哪个模型?OpenAI 的 GPT-4 效果好但贵,百度文心便宜但创作能力弱,DeepSeek 性价比高但稳定性待验证——每个场景都要手动选择模型,效率低下。

困境二:密钥管理混乱。

多个 AI 供应商的 API Key 散落在各个系统中——市场部一套、客服部一套、IT 部一套。密钥轮换时,要找遍所有系统才能更新完。

困境三:成本不可控。

AI 服务按 Token 计费,用得越多花得越多。月底收到账单——10 万元。哪个部门花了多少?哪项业务产生的?不知道。钱花了,效果看不见。

1.2 AI 基座的定位

AI 基座在元序体系中的定位:

基座职责类比
炼模基座用业务数据训练专属 AI 模型AI 兵工厂
智能基座管理 AI 模型,让 AI 受管、可审、可控AI 治理体系
AI 基座统一消费入口,预算计量、多模型路由AI 消费入口

AI 基座的价值在于:作为智能消费的"总阀门",让所有引擎、所有能力模块、所有智能体,通过 AI 基座统一消费 AI 算力——路由、计量、管控一体化。


二、核心能力详解

2.1 多供应商管理

统一接入多家 AI 供应商:OpenAI、Anthropic、百度文心、阿里通义、DeepSeek 等。

多供应商管理是 AI 基座的基础能力,它让企业不被单一供应商绑定:

  • 统一接入:一个接口接入多家 AI 供应商,不需要为每个供应商单独开发对接代码;
  • 快速接入:新模型发布后,10 分钟内完成接入;
  • 供应商切换:可以随时切换供应商,不需要修改业务代码;
  • 负载均衡:根据各供应商的负载情况,自动分配请求。

多供应商管理的价值:企业不被单一供应商绑定,可以根据需求灵活选择最合适的供应商。

2.2 模型配置

为每类任务指定最合适的模型,好钢用在刀刃上。

模型配置是 AI 基座的核心能力,它让每个任务都调用最合适的模型:

  • 任务分类:将任务分为内容生成、数据分析、代码编写、问答等类型;
  • 模型匹配:为每类任务指定最合适的模型(如内容生成用创作型模型,数据分析用推理型模型);
  • 成本优化:在满足效果要求的前提下,选择性价比最高的模型;
  • 动态调整:根据模型效果的变化,动态调整模型配置。

模型配置的价值:好钢用在刀刃上——每个任务都调用最合适的模型,既保证效果,又控制成本。

2.3 密钥管理

API Key 集中管理,业务层不接触密钥。

密钥管理是 AI 基座的关键能力,它让密钥管理变得简单安全:

  • 集中管理:所有 AI 供应商的 API Key 集中管理在一个地方;
  • 权限控制:只有管理员可以查看和修改密钥,业务层不接触密钥;
  • 密钥轮换:密钥轮换时只需在 AI 基座更新一处,不需要修改所有系统;
  • 密钥审计:密钥使用记录可审计,满足合规要求。

密钥管理的价值:密钥轮换时只需在 AI 基座更新一处——简单、安全、可控。

2.4 预算计量

每次调用记账到租户/部门/业务,支持额度管控和预警。

预算计量是 AI 基座的核心能力,它让 AI 成本首次精确到业务条目:

  • 精确计量:每次 AI 调用都记账——哪个租户、哪个部门、哪项业务;
  • 额度管控:为每个租户/部门设置月度额度,用到 80% 自动提醒,用到 100% 自动限流;
  • 成本分析:按租户/部门/业务分析 AI 成本,识别高成本场景;
  • 成本优化:通过成本分析,优化 AI 使用策略,降低总体成本。

预算计量的价值:AI 成本首次精确到业务条目——钱花了,效果看得见。

2.5 故障切换

主力模型不可用时,自动切到备用模型。

故障切换是 AI 基座的保障能力,它确保 AI 服务的高可用性:

  • 自动切换:主力模型不可用时,自动切到备用模型;
  • 秒级切换:主力 API 宕机 → 秒级切换到备用 → 业务无感;
  • 健康检查:定期检查各模型的健康状态,及时发现故障;
  • 切换策略:支持多种切换策略(如优先级切换、负载均衡切换)。

故障切换的价值:主力 API 宕机 → 秒级切换到备用 → 业务无感——确保 AI 服务高可用。

2.6 开放能力

将 AI 能力以标准 API 对外开放。

开放能力是 AI 基座的扩展能力,它让 AI 能力可以对外服务:

  • 标准 API:将 AI 能力封装为标准 API,第三方应用可以通过 API 调用平台的 AI 能力;
  • 权限控制:第三方应用调用 AI 能力需要授权,确保 AI 能力不被滥用;
  • 计量计费:第三方应用调用 AI 能力需要付费,按调用量计费;
  • 版本管理:API 版本化管理,确保向后兼容。

开放能力的价值:AI 能力可以对外服务——既满足内部需求,又创造外部价值。


三、AI 基座的核心价值

3.1 量化价值

指标传统方式AI 基座提升幅度
模型选择手动选择,效率低下自动路由,秒级切换效率提升 90%+
密钥管理散落在各系统集中管理,一处更新管理成本降低 95%+
成本可见月底一笔糊涂账按租户/部门/业务精确计量从黑盒到透明
故障恢复人工发现,手动切换自动检测,秒级切换恢复时间从小时到秒
供应商切换需要修改代码配置切换,无需改码切换时间从周到分钟

3.2 定性价值

  • 降低管理成本:集中管理密钥、模型、成本,降低管理复杂度;
  • 提升可用性:自动故障切换,确保 AI 服务高可用;
  • 优化成本:精确计量和预算预警,降低总体成本;
  • 灵活扩展:多供应商管理,不被单一供应商绑定;
  • 创造价值:AI 能力对外开放,创造外部价值。

四、数据资产沉淀

4.1 AI 基座的资产化

AI 基座的每一次使用,都在沉淀可复用的数字资产:

资产类型来源价值
模型配置模型配置模型配置的积累,可跨场景复用
成本数据预算计量AI 成本数据的积累,可用于分析优化
调用日志调用记录AI 调用记录的积累,可用于分析优化
供应商评估多供应商管理供应商评估数据的积累,可用于选择最优供应商

4.2 资产的四层沉淀

AI 消费 ──→ 配置沉淀 ──→ 成本分析 ──→ 最佳实践
   ↓            ↓            ↓            ↓
  原始积累     结构化沉淀    数据化分析    标准化复用
  • 第一层:AI 消费——每次 AI 消费产生的配置和日志;
  • 第二层:配置沉淀——将通用配置沉淀为模板;
  • 第三层:成本分析——通过成本数据分析,优化 AI 使用策略;
  • 第四层:最佳实践——行业标杆客户的 AI 消费经验。

五、AI 基座与其他基座的关系

AI 基座是元序智能体系的消费入口,与其他基座的关系:

炼模基座 ──注册模型──→ AI 基座(自训模型注册到 AI 基座统一管理)
AI 基座 ──算力供给──→ 引擎基座(表单/流程/页面通过 AI 基座调用 AI)
AI 基座 ──算力供给──→ 智能基座(智能体通过 AI 基座消费算力)
AI 基座 ──计量数据──→ 系统基座(AI 成本纳入平台统一监控)
AI 基座 ──开放 API ──→ 开放基座(AI 能力通过开放基座对外服务)

协同案例:智能客服系统

  • 炼模基座训练客服问答模型;
  • 智能基座将模型封装为"客服助手"智能体;
  • AI 基座提供统一调用入口,自动路由到最合适的模型,预算计量;
  • 引擎基座的页面引擎调用 AI 基座的接口,展示客服对话界面;
  • 开放基座将客服 AI 能力对外开放,供第三方应用调用;
  • 系统基座监控 AI 成本,纳入平台统一监控。

一个场景,六个基座协同——模型训练、智能管理、算力调度、页面展示、能力开放、成本监控。


六、实施建议

6.1 分阶段上线策略

阶段目标重点
第一阶段(1~2周)供应商接入接入主要 AI 供应商,配置密钥
第二阶段(3~4周)模型配置为各场景配置最合适的模型
第三阶段(1~2月)预算计量启用预算计量,设置额度和预警
第四阶段(持续)优化与扩展根据成本分析优化配置,扩展更多供应商

6.2 关键成功因素

  • 供应商选择:选择性价比高、稳定性好的供应商;
  • 模型配置:根据场景特点配置最合适的模型;
  • 预算管控:设置合理的额度和预警机制;
  • 持续优化:根据成本分析持续优化配置。

七、结语

AI 基座是元序的"电力调度中心"——所有智能消费都经过它路由、计量、管控。

AI 基座的价值不仅在于统一消费入口,更在于让 AI 消费变得简单、安全、可控——简单在于统一接口,安全在于密钥集中管理,可控在于预算计量和故障切换。

多供应商管理、模型配置、密钥管理、预算计量、故障切换、开放能力——六大核心能力,构成元序智能体系的"消费入口"。炼模基座训练模型,智能基座管理模型,AI 基座调度模型——三者协同,让 AI 从"租用"变为"自育",从"失控"变为"受管",从"黑盒"变为"透明"。

这就是 AI 基座的战略意义:让 AI 消费成为组织的可控资源,而不是不可控的成本。