以ChatGPT为代表的AI大模型对高性能存储芯片的需求与日俱增,在高容量、高运算能力的需求下,CXL、HBM等新的存储技术备受市场关注。
华西证券日前研报指出,CXL带来的DRAM池化技术可以大大节约数据中心的建设成本,同时也将大大带动DRAM的用量。SK海力士副会长朴正浩也曾在演讲中透露,随着ChatGPT等应用开启AI新时代,加上相关技术演进,预计全球数据生成、储存、处理量将呈等比级数增长。在技术演进的路上,为克服主机CPU存储器容量受限问题,CXL技术相当重要。
CXL全称Compute Express Link,意为计算快速链接,是一种全新的互联技术标准。随着存储成本不断增加,传统的PCI-e技术逐渐乏力。在此背景下,基于PCI-e协议的CXL技术应运而生。
据了解,CXL能够让CPU与GPU、FPGA或其他加速器之间实现高速高效的互联,从而满足高性能异构计算的要求,并且其维护CPU内存空间和连接设备内存之间的一致性,从而解决了各设备间的存储割裂的问题,能够大大降低内存的分割导致的浪费和性能下降。
如上图所示,当下主流的计算系统通常采用高速缓存(SRAM)、主存(DRAM)、外部存储(NAND Flash)的三级存储结构。系统运作时,需要不断地在内存中来回传输信息。数据在三级存储间传输时,后级的响应时间及传输带宽都将拖累整体的性能,并且由于数据量庞大,系统需要借助外部存储并用网络IO来访问数据,致使访问速度下降几个数量级。而CXL技术的高兼容性、内存一致性等优势能够有效解决上述问题。
除了能够解决单机设备连接问题以外,从CXL2.0(迭代版本)开始,其带来的内存池化(Pooling)技术超出了单机的范畴,还能够提高内存的使用率,并降低内存的使用成本。
如上图所示,CXL2.0加入了一层Switch,在H1、H2等设备内存不足时,CXL技术能够让设备在内存池里寻找内存空间。在该框架下,跨系统设备实现共享内存池成为可能。
对此,华西证券认为,引入DRAM池化,按需分配可以大大提高内存使用效率,并节约数据中心的建设成本。CXL目前已经完全支持池化技术,如果该理念得到广泛应用,内存将成为提高服务器性能另外的重要手段之一。
目前,各大厂商均积极拥抱CXL技术浪潮:
英特尔:携手阿里巴巴、思科、戴尔EMC、Facebook、谷歌、HPE、华为以及微软等公司成立CXL开放合作联盟,旨在共同合作开发CXL开放互连技术并制定相应规范。
AMD:EPYC Genoa支持DDR5、PCle5.0以及CXL1.1接口。另一产品拥有更高的电源效率和每插槽性能,将会和Genoa采用相同的CPU接口,支持PCle5.0和DDR5以及CXL1.1。
SK海力士:于2022年10月成功开发行业首款将计算功能与CXL存储器相结合的CMS。据悉,该解决方案拟搭载于下一代服务器平台上,有望提升系统性能和能源效率。
Marvell:收购先进CXL技术领先开发商Tanzanite。事业部副总裁表示,CXL将成为实现下一代数据中心最佳资源利用的重大变革者。
Rambus:推出了CXL内存互连计划,并宣布与包括云、系统和内存企业在内的生态体系达成合作,以加快CXL内存互连解决方案的开发和落地。当年10月,Rambus发布了CXL2.0控制器。
机构进一步指出,在AI的大时代下,随着CXL的应用渗透率提升,服务器也从传统围绕CPU的设计思路转向为以DRAM为中心的架构。建议关注以澜起科技为代表的CXL技术产业链相关公司;兆易创新、江波龙等DRAM及其模组设计相关公司;通富微电、深科技、长电科技等HBM、DRAM封装产业链公司以及中微公司、北方华创、拓荆科技、微导纳米等可提供高深宽比设备的制造端厂商。