2025年是中国AI Infra平台应用元年。
AI推理算力需求激增，催生了企业级智算资源管理新需求；AI应用加速向企业级场景渗透，模型工具链、运营管理组件助力降低AI应用门槛；数据隐私和安全性驱动AI应用的私有化部署，需要新一代企业数智化转型底座。
2025年1月，赛迪顾问发布《2025中国AI Infra平台市场发展研究报告》，从定义与价值、规模与竞合、生态与趋势等角度全面阐述了这一尚处早期的AI新型软件平台，报告还展现了包括东方明珠生成式人工智能媒体融合创新平台、天府绛溪实验室先进计算前沿研究中心新一代多模态泛在智能基础平台等首批AI Infra平台客户实践案例。
一、AI Infra平台定义
AI Infra平台聚焦企业级AI应用的私有化部署场景（Private AI），是支撑人工智能应用开发、部署、运行和管理的一系列基础工具和软件平台。AI Infra平台具备三大能力，可分为算力管理层、模型管理层、应用管理层：其中，算力管理层主要提供计算、存储、网络、安全等基础资源和服务；模型管理层提供模型开发和应用所需的各种基础工具和组件，主要包括数据治理、模型部署、训练、推理、精调、集成管理等；应用管理层主要提供资源管理、运营管理、运维管理等运营能力。
图1 AI Infra平台三层能力模型
资料来源：赛迪顾问，2025.01
图2 中国AI Infra平台市场生态图
资料来源：赛迪顾问，2025.01
AI Infra平台生态图中可以发现，三层能力模型均具备的企业（产品）包括：阿里云百炼专属版+飞天，百度智能云文心千帆+百舸，华为云ModelArts+昇腾云服务，京东云言犀开发计算平台+云舰，天翼云云骁+慧聚，云轴科技ZStack AIOS智塔一站式AI平台，字节跳动火山方舟+火山引擎，都来自互联网厂商和企业级云厂商。
赛迪顾问认为，一般而言，从AI Infra平台三层能力模型角度出发，互联网厂商、企业级云厂商基本具备三层能力；大模型厂商、人工智能软件厂商、大数据厂商以模型管理层为能力出发点，逐渐丰富算力管理层和应用管理层能力；初创企业从各自技术能力角度出发，逐渐积累企业级用户经验。
二、AI Infra平台价值
AI Infra平台对于企业级用户来说具备四大核心价值，在推动企业数字化转型和智能化升级中起到关键作用：
第一，聚焦AI应用全生命周期管理。AI Infra平台不仅为企业提供了技术支持，还通过多样化的工具帮助企业快速发现和开发符合业务需求的AI应用场景：简化模型管理，无论是在本地、边缘还是云端；快速部署与推理，无论是在虚拟机还是容器环境中；丰富的模型支持，可预置系统模型也可自定义模型；以及模型精调与优化、模型评估和性能测试等能力。
第二，加速企业级AI应用的落地。AI Infra平台不仅为企业提供了技术支持，还通过多样化的工具帮助企业快速发现和开发符合业务需求的AI应用场景。这包括数据驱动的场景挖掘，支持AI应用构建，包括Prompt工程、向量检索、知识库管理，可灵活接入本地或线上模型；智能场景精准推荐，不仅支持通用的AI应用，还集成多样化的AI解决方案；快速原型设计与验证，快速构建和测试AI原型；行业模板与经验支持，预构建的AI场景模板，无需从零开始，降低技术门槛。
第三，助力企业构建新型数字基础设施。AI Infra平台不仅是一个AI应用开发和管理的平台，更是企业构建新型数字基础设施的关键工具。包括弹性计算与资源调度，支持异构GPU硬件加速，提供裸金属、虚拟机和容器计算资源的弹性扩展；通过支持跨云和混合云架构和跨地域的部署，提供灵活的云资源调度能力；统一管理与自动化运维，集成智能运维工具，提供统一管理界面；具备边缘计算能力，减少云端传输延迟和带宽压力，适合高实时性业务场景；增强数据治理与合规性，帮助企业遵循行业标准与法规要求，保护数据隐私与安全。
第四，推动企业数智化战略升级。AI Infra平台通过数字化与智能化的双重支持，推动企业在提升业务效率的同时，实现AI决策和自动化运营，进而实现数智化战略升级，将AI深度融入到业务各个环节，通过加速AI推理应用，推动全方位的业务创新。
三、中国AI Infra平台市场规模
赛迪顾问表示，随着大模型在企业级市场应用场景的快速拓展，未来企业级AI推理应用从2024年起步将逐步走向阶段性爆发，预计到2025年中国生成式人工智能企业应用市场规模将达到629.0亿元。AI Infra平台作为打通底层硬件资源与上层应用的关键环节，其市场规模也呈现快速增长的态势。2023年，中国AI Infra平台市场规模为12.7亿元。在企业级AI应用场景持续拓展、AI应用私有化部署需求强劲、AI运营能力要求提升等因素的驱动下，中国AI Infra平台市场规模将保持高速增长，预计2024年、2025年将分别达到19.4亿元和36.1亿元，2025年同比增长将超过86%，2025年将是中国AI Infra平台应用元年。
图3 2023-2025年中国AI Infra平台市场规模及预测
数据来源：赛迪顾问，2024.12
四、中国AI Infra平台竞合关系
AI Infra平台发展尚处早期阶段，通过企业级AI应用实践不断完善并逐渐蓄势待发。不同类型的厂商基于自身能力已经在2024年首批入局AI Infra平台市场不同层级。中国AI Infra平台市场参与厂商来自几个领域，主要参与厂商包括互联网厂商、企业级云厂商、大模型厂商、人工智能软件厂商、大数据软件厂商和初创企业。
表1 AI Infra平台市场主要参与厂商产品及能力特点
资料来源：赛迪顾问整理，2025.1
赛迪顾问认为，AI Infra平台未来发展趋势将包括四大方向：
企业用户对算力资源高效管理需求不断提高；企业级AI应用的搭建将涉及多尺寸、多类型模型深度协同；兼容多种主流大模型的模型服务平台更受企业用户青睐；模型可观测性和资源可计量成为企业用户AI应用私有化部署重点关注的方向。
