
生成式AI与Agent的加速渗透正推动AI基础设施(AI Infra)进入高速增长期。报告指出股票配资配资配资,AI Infra作为“卖铲人”角色,其软件层——尤其是算力调度与数据类工具——已成为模型训练、推理及应用部署的关键支撑。当前AI投资遵循“算力→Infra软件→应用”的演进逻辑,而随着2024年下半年推理量激增,Infra软件的商业价值开始兑现。尤其在国内模型价格战背景下,成本敏感度提升,高效算力调度能力直接决定推理服务的毛利率。例如阿里Aegaeon通过Token级调度可减少82% GPU用量,华为Flex:ai则提升30%算力利用率,凸显调度软件的战略价值。
数据架构正经历从“分析优先”向“实时运营+分析协同”的根本性转变。这一趋势使高实时性、支持高频CRUD操作的OLTP数据库重获青睐,尤其契合Agent对毫秒级响应和动态数据交互的需求。MongoDB凭借文档型NoSQL架构、低门槛与高弹性,快速适配非结构化数据与向量检索场景,并通过收购Voyage AI补齐Embedding能力,FY26Q3核心产品增速达30%。与此同时,RAG技术企业采用率预计2025年将达68%,向量数据库作为其核心组件,成为Infra层刚需,推动传统数据库厂商纷纷集成向量功能。
面对AI带来的新负载特征,底层存储与数据库技术亦在深度重构。NVIDIA推出的SCADA方案实现GPU直连SSD,将IO延迟降至微秒级,彻底绕过CPU瓶颈。这要求向量数据库进行技术升级:采用列式存储、重写算子以适配GPU并行计算,并自主管理显存。在此背景下,Snowflake与Databricks虽以OLAP起家,但正通过全栈工具链和并购(如Databricks收购Neon)向OLTP延伸;而MongoDB等OLTP厂商则借向量能力切入AI原生应用市场,形成差异化竞争格局。
展开剩余71%以下为报告节选内容
发布于:湖北省淘配网提示:文章来自网络,不代表本站观点。