元脑服务器以CXL打破内存代际限制,助力数据中心降本增效

元脑服务器近日发布CXL内存跨代扩展方案,支持DDR5与DDR4内存在同一服务器平台协同部署。以元脑服务器NF5280为例,在配置24条本地DDR5内存的基础上,借助自研CXL内存扩展卡,单机还可增加最多16条DDR4内存;若按单条32GB计算,可新增512GB容量,整体内存容量提高约33%,同时将扩容成本降低约25%。

方案结合元脑服务器操作系统KOS池化内存技术,将本地DRAM内存与CXL扩展内存融合为统一逻辑内存空间,通过冷热数据识别、动态迁移和NUMA感知调度策略,让扩展内存达到本地内存相当性能,提升CPU利用率30%。目前,该方案已在国内某大型互联网客户完成验证并实现规模应用。

内存荒之下,服务器内存资源扩展亟需新解法

据Counterpoint Research数据,64GB DIMM内存价格在2025年第三季度至2026年第一季度期间上涨3.5倍,预计到2026年第三季度累计涨幅将达到5倍。随着AI训练和推理对高带宽内存的需求持续增长,内存厂商将更多晶圆与封装资源投入HBM,进一步挤压通用DRAM供给,数据中心内存成本与交付压力随之上升。据瑞银预测,这场DRAM内存市场的供需紧张将持续至2028年上半年。

在这一背景下,如何突破传统内存架构限制、盘活存量内存资源,成为数据中心优化资源配置的重要方向。海外一家互联网企业发现,其数据中心约40%的服务器受内存容量限制,导致CPU、存储等资源无法得到充分利用。然而,这种内存短缺并非完全源于资源不足,而是存在明显的结构性错配:服务器通常在运行3至5年后进入升级周期,但其中的DDR4内存仍具有较长的可用寿命。随着服务器退役,大量性能仍然良好的DDR4内存也被一并闲置。

造成这一资源错配的根本原因在于,传统服务器架构中,内存需要与处理器和主板平台协同设计,不同代际内存通常难以在同一服务器中混合部署。随着服务器平台由DDR4向DDR5演进,大量仍具使用价值的DDR4内存无法迁移至新一代服务器中继续使用,因而难以参与新一代基础设施建设。

对此,元脑服务器推出CXL内存异构扩展方案,创新研发CXL内存扩展设备,通过处理器I/O接口连接独立内存资源,使服务器无需更换处理器平台,即可在保留DDR5本地内存的同时接入DDR4扩展内存,实现不同代际内存资源的协同使用,充分释放存量DDR4资源价值,并降低大容量内存扩展成本。

要容量也要性能,CXL内存跨代扩展方案构建内存分层体系

元脑服务器CXL内存跨代扩展方案基于PCIe Gen5 x16接口和CXL 2.0协议,将DDR4内存转化为服务器可调用的扩展内存资源,突破传统DDR4与DDR5无法在同一平台协同工作的限制,实现不同代际内存的跨代兼容。

硬件层面,CXL内存扩展卡采用标准PCIe 5.0 x16全高半长双宽设计,支持CXL 2.0协议,PCIe 插槽可提供 75W 功耗,外接独立 12V 供电后整卡最大功耗支持 150W。搭配NF5280服务器,单张CXL扩展卡可挂载4条DDR4内存,单机最多支持4张CXL扩展卡,按照单条32GB DDR4内存计算,整机可额外扩展512GB内存容量,为服务器提供更灵活的内存扩展能力。

软件层面,元脑服务器操作系统KOS将本地DRAM与CXL扩展内存融合为统一资源池,根据Redis业务、在离线业务分离、向量数据库等不同场景需求,制定冷热数据识别、动态迁移、资源隔离和NUMA感知调度等差异化策略,将不同业务和数据分配到更适合的内存层,让本地内存与CXL扩展内存各尽其用。

场景一: 冷热分层和动态迁移,兼顾Redis业务容量与性能需求

本地内存与CXL扩展内存之间存在一定时延差异,前者约为110ns,后者约为250ns。对于Redis等需要大容量内存、同时对访问时延较为敏感的业务,若数据直接分布在不同内存层,可能影响整体响应效率。

为此,元脑KOS基于内存访问行为识别冷热数据,并在本地DRAM与CXL内存之间进行动态迁移:将访问频率较低的冷数据迁移至CXL内存,将访问频率较高的热数据保留在本地DRAM,使有限的低时延本地内存优先承载关键数据,在扩展单机内存容量的同时降低CXL时延对业务性能的影响。

在Redis大容量内存场景测试中,开启冷热迁移后,本地DRAM侧业务QPS基本保持稳定,CXL内存侧业务QPS提升约25.8%。测试结果表明,冷热分层能够在扩大可用内存容量的同时,改善扩展内存侧的数据访问效率,更好满足大容量内存业务对容量与性能的双重需求。

■ 场景二: 在线和离线业务分离,针对上层业务应用实现精细化资源隔离

除了内存的冷热分层解决CXL时延问题外,元脑KOS进一步支持用户根据不同业务应用的时延需求匹配最合适的内存资源,采用业务级资源隔离与智能调度,规避CXL 和本地内存时延差异的问题。

以搜广推场景为例,可基于CXL+DDR4构建分层内存架构:将用户画像、索引构建等对时延不敏感的任务下沉至CXL扩展的DDR4内存,将搜索请求、推荐页刷新等实时业务保留在本地DDR5内存。通过匹配不同业务时延需求与不同内存介质性能特征,在保障实时业务响应的同时,降低内存扩展成本并提升存量DDR4资源利用率。

该方案使得在线业务的性能几乎不受影响,因为它的关键路径被锁定在快速内存上;而离线业务则能充分利用扩展的、低成本DDR4内存。这最终实现了在同一物理机上“各取所需”,提升了数据中心的整体效率。

通过全新的CXL内存跨代扩展方案,可使用户内存扩容成本降低25%,CPU算力提升30%,以1000台的服务器集群计算,客户使用CXL+DDR4的内存跨代扩展方案,相较全部使用DDR5内存,能够大幅节省1.2亿元。

■ 场景三:近NUMA亲和性访问和内存交织,消除高带宽场景跨节点损耗

在科学计算、向量数据库等高带宽应用场景中,业务不仅需要更大的内存容量,也需要持续的数据吞吐能力。传统扩展方式中,新增内存往往只能解决容量问题,但不同内存资源之间的访问差异可能带来额外开销,影响整体性能表现。

针对这一问题,元脑KOS采用基于NUMA亲和性的内存加权交织策略,根据本地DDR5与CXL扩展内存的带宽能力进行数据分配,并优先选择线程所在的本地NUMA节点及对应的CXL内存节点,减少跨Socket远程访问带来的时延与带宽损耗,使不同层级内存能够协同释放带宽能力。

MLC(Memory Latency Checker)测试结果显示,开启内存交织后,不同读写比例下的峰值带宽平均提升约11.6%,最高提升13.2%。在HPC及向量数据库等典型应用场景中,DRAM+CXL组合相比仅使用DRAM,整体带宽提升约10%,让扩展内存不仅提供容量补充,也成为提升业务吞吐的重要资源。

综合来看,元脑服务器通过CXL硬件扩展能力与KOS智能内存管理技术的协同,将不同代际、不同性能层级的内存资源进行统一调度,在提升内存利用效率与业务吞吐能力的同时,也为数据中心缓解内存供给紧张、控制扩容投入提供了可落地的方案。

从长期趋势看,随着CXL 3.0在带宽和互联能力上的进一步演进,以及产业生态逐步完善,CXL与DDR4结合的跨代内存扩展模式有望持续发挥价值。未来,元脑服务器相关方案或将成为数据中心提升资源利用率、优化投资回报和推动绿色低碳运营的重要技术路径。


上一篇:金融反腐微短剧《K线成长记》第八集
下一篇:北交所退市规则之重大违法类强制退市

欢迎扫描关注我们的微信公众平台!

欢迎扫描关注我们的微信公众平台!