7 月 1 日，根據 IDC 的最新報告，2024 年中國 AI 基礎設施（AI IaaS）市場份額，阿里云占比 23%，位列中國市場第一，超過第二名和第三名總和；在生成式 AI 基礎設施領域，阿里云取得模型訓練和模型推理市場的雙項冠軍。
AI IaaS 是以 GPU 等 AI 專用芯片為算力支撐的基礎設施，包括以大模型為核心的生成式 AI IaaS（GenAI IaaS）和傳統的非生成式 AI IaaS。隨著大模型加速發展，生成式 AI IaaS 成為主力。IDC 報告指出，2024 年下半年中國 GenAI IaaS 市場同比激增 165%，達 87.4 億元，首次在整體 AI IaaS 市場中占比超過七成。
報告還顯示，2024 年模型訓練消耗的生成式 AI IaaS 資源約為模型推理的 3.25 倍，隨著 " 爆款 " 大模型應用的出現，IDC 預計 AI 算力有望在 2025 年進入 " 訓推 " 拐點，推動 AI 算力需求從訓練驅動過渡到推理驅動。IDC 認為，推理場景的爆發將為國產算力未來發展帶來更多市場機會，互聯網、運營商、自動駕駛等領域的頭部算力客戶正積極驗證、測試、采購和部署國產算力以嘗試緩解云端、邊端算力缺口。
