2026 年 3 月 3 日 ——志凌海纳 SmartX 正式发布榫卯(Sunmao)AI 平台企业版,通过优化异构算力管理、推理服务高可用以及多租户治理等能力,在实现算力资源和模型的统一管理以及模型资源的统一交付的基础上,更好地满足用户在生产环境对于 MaaS 平台的多样需求。

点击观看视频:SmartX 正式发布榫卯AI平台企业版

简单、灵活、开放:应对 AI 基础设施运维新趋势

随着 AI Agent 从概念验证走向规模化落地,底层 MaaS 基础设施面临更高的要求:不仅要能快速部署和管理不同位置、不同类型、不同规格的模型,还需在有限的算力资源下支持资源的灵活调度与高效利用。榫卯 AI 平台正是以此为切入点,围绕模型管理这一核心场景,形成了“简单、灵活、开放”的核心优势:

  • 简单:不堆砌复杂功能,精准覆盖模型全生命周期所需,通过直观的可视化界面让模型部署与运维开箱即用。
  • 灵活:不依赖任何基础设施,既支持独立部署,也可与 SmartX 榫卯企业云平台无缝集成,适应多样化的落地场景。
  • 开放:广泛兼容社区主流模型与推理引擎,支持多种国产及国际主流 AI 芯片,避免厂商锁定。

核心亮点:应对模型部署与管理的四大挑战

针对​企业在 AI 落地过程中普遍面临的工程化难题​,榫卯 AI 平台通过技术创新提供了针对性的解决方案:

1. 优化初期投入成本与既有资源利用率

企业初期往往面临算力资源孤岛、无法复用既有硬件与基础设施的难题。榫卯 AI 平台支持 Nvidia、Intel、AMD 及
国产昇腾等异构 GPU 芯片的统一管理,通过整合算力资源显著提升资源利用率,使企业在最小化初期投入的情况下,利用既有资源快速验证 AI 业务价值。

2. 解决模型文件管理复杂与资源浪费问题

企业内部模型版本多样、存储分散,往往导致重复存储与管理混乱。榫卯 AI 平台内置统一的模型仓库,支持各类模型文件的统一管理,可大幅减少存储资源浪费,并实现模型文件的统一分发。

3. 提升模型交付与上线效率

传统模型部署涉及复杂的环境依赖与手工配置,交付周期往往以天为单位。榫卯 AI 平台支持可组合的插件化架构与标准化模型模板,用户只需选择模型并配置基础参数即可快速完成部署,将上线时间缩短至分钟级;同时,平台支持快速导入最新的推理引擎,以满足最新的模型交付需求。

4. 强化模型管理与观测能力

异构的模型带来运维体系割裂、缺乏统一的管理与观测手段等问题。榫卯 AI 平台支持任意位置的算力与模型统一管理,通过多租户实现资源隔离,并提供 API 密钥管理与 Token 的用量统计。同时,平台内置从底层 GPU 状态到上层推理服务的全链路监控,帮助 AI 团队实时掌握算力与模型资源的使用情况。

通过 3 个视频,了解如何使用榫卯 AI 平台的模型目录功能快速上线模型、使用 Claude Code 与已部署的模型进行对接,以及通过自定义推理引擎运行新的模型。

点击观看视频:榫卯 AI 平台操作演示:通过模型目录快速上线模型

点击观看视频:榫卯 AI 平台操作演示:使用 Claude Code 与已部署模型对接

点击观看视频:榫卯 AI 平台操作演示:通过自定义推理引擎,运行新的模型

适配多样场景,支持多种部署形态

为了适配不同规模与场景的企业需求,榫卯 AI 平台提供了极其灵活的部署方案:

  • 独立部署方案:该方案不依赖任何特定的基础设施,可直接部署在任意位置,适用于希望以最小成本快速验证 AI 模型价值的用户,能够在不改变已有基础设施(如重装操作系统)的基础上,快速构建起模型管理与推理服务能力。
  • SKS 物理机 + AI 平台方案:该方案针对中大型模型的高并发、高性能场景设计。通过在物理机上构建生产级 Kubernetes 集群
    (SKS)并配合高性能持久化存储,能够最大程度发挥硬件性能,是承载企业核心业务 AI 推理服务的理想底座。
  • 虚拟机 SKS + AI 平台方案:该方案适用于小尺寸模型、低并发或开发测试场景。通过在 SmartX 虚拟机(ELF)上部署 Kubernetes 集群(SKS),企业可以充分复用现有的虚拟化资源池,实现资源的弹性调度与生产级管理,兼顾资源利用率与运行稳定性。

生态完善与试用支持

SmartX 致力于构建开放的 AI 生态,目前已完成与白海科技 IDP、飞致云 MaxKB 等产品的联合方案验证,涵盖从模型训练、微调、AI 应用工作流编排到最终场景落地的全流程。

感兴趣的用户可联系 SmartX 区域销售代表,或添加“SmartX 用户助手”,咨询产品并申请试用。

推荐阅读:

如何基于 SmartX 超融合满足企业 DeepSeek 快速落地验证需求?

SmartX AI 基础设施新增昇腾 NPU 与 MindIE 支持能力:方案与评测

实践分享|从 0 构建企业知识库,可能没你想的那么简单

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐