PEAK:AIO声称它正在用CXL内存解决AI推理模型GPU内存限制，而不是将KVCache内容卸载到NVMe SSD。

PEAK:AIO 声称，它利用 CXL 内存解决 AI 推理模型中 GPU 内存的局限性，而不是将 KVCache 内容卸载到 NVMe 闪存驱动器。 这家总部位于英国的 AI 与 GPU 数据基础设施专业公司表示，AI 工作负载正从 “静态提示” 发展为 “动态上下文流、模型创建流水线 以及 长运行 ...