在 AI 浪潮的上半场,市场的关注点集中在‘训练’(Training)——即如何用最强大的算力喂养出最聪明的大模型。然而,随着应用端的落地,重心正迅速向‘推理’(Inference)转移。简单来说,训练是学习过程,而推理则是 AI 在实际应用中回答问题的过程。对于企业而言,推理成本的高低直接决定了 AI 产品的商业模式能否跑通。

目前,AI 推理面临的最大瓶颈之一是‘内存墙’。大模型需要巨大的内存来存储参数,而昂贵的 HBM (High Bandwidth Memory) 高带宽内存容量有限且成本极高。这意味着,为了运行超大规模模型,企业不得不购买更多数量的 GPU,从而推高了整体的硬件支出和能耗。

为了破解这一困局,英伟达 (Nvidia) 正在探讨 CXL (Compute Express Link) 技术的应用。CXL 是一种开放的工业标准互连协议,它允许 CPU、GPU 和内存设备之间实现更高效的内存共享与池化。通过 CXL,AI 系统可以将原本隔离的内存资源整合在一起,让 GPU 能够更灵活地访问更大容量的系统内存,而无需将所有数据都挤在昂贵的 HBM 中。

从经济学角度看,CXL 的引入将对 AI 硬件成本产生深远影响。如果能通过低成本的内存扩展来替代部分昂贵的 HBM 需求,单次推理的边际成本将显著下降。这不仅有助于降低企业的资本开支 (CAPEX),也能提升单个算力集群的吞吐量,让 AI 推理变得更‘便宜’且更高效。

然而,CXL 的落地并非毫无挑战。它需要硬件生态的协同,包括处理器、主板以及软件栈的全面支持。对于英伟达 (Nvidia) 而言,这不仅是一次技术升级,更是对其护城河的重新定义:通过从单点硬件供应商转变为定义整体数据中心架构的领导者,确保在 AI 基础设施的每一个环节都掌握话语权。

对于全球投资者和科技观察者来说,CXL 技术的进展是观察 AI 商业化进程的重要指标。当推理成本由于技术迭代而大幅下降时,我们可能会看到更多低门槛、高频次的 AI 应用爆发,从而真正开启 AI 经济学的规模效应。

本文内容仅供参考,不构成投资建议。