据华尔街见闻10月13日报道,SK海力士在2026年OCP全球峰会上发布MARS内存加速架构与HBF高带宽闪存技术。两项技术分别从内存共享和闪存容量入手,应对AI基础设施的内存瓶颈;其中,HBF计划于2028年初推出样品。
MARS的核心变化,是把内存从传统CPU、GPU服务器中解耦,构建专用的大规模共享内存池,并将这一设计扩展至机架规模。SK海力士高级副总裁Hoshik Kim指出,现有以处理器为中心的集群中,一台服务器的闲置内存难以便捷地供其他节点使用,增加内存容量又往往需要购买整台服务器,进而造成GPU过度配置和成本上升。
在多轮AI智能体推理场景中,MARS可将随对话增长的KV缓存放入共享内存系统,避免其耗尽GPU内存与存储资源。这也是此次性能数据对应的具体应用范围,而非对所有AI训练、推理任务的统一提速承诺。
报道援引TrendForce现场报道:Kim引用测试数据称,与重新计算方案相比,MARS可将多轮AI推理的首次标记时间(TTFT)表现提升3至5倍,尾延迟也有显著改善。这里的比较对象是重新计算方案,不能将这一数字直接理解为整个系统或所有任务的运行速度提高3至5倍。
另一项技术HBF则着眼于容量。按报道披露的技术指标,HBF在保持接近HBM级别带宽的同时,容量达到HBM的14倍。它与MARS的机架级内存池路线不同,重点是高带宽闪存;其已披露的产品时间节点仍是2028年初推出样品,而不是已经量产交付。
仅供信息参考,不构成投资建议。
