据浪潮数据统计，智算中心60%以上的故障都出自 GPU 卡或 GPU 服务器的故障，这类故障动辄造成设备离线甚至直接的经济损失。在大模型推理服务 7×24 小时连续运行的今天，AI 基础设施的稳定性对业务至关重要。但现实痛点突出：云数据中心里 GPU ...

本文将分析大语言模型训练的GPU内存需求，主要包括三个方面：训练数十亿参数基于Transformer的LLM时，每个GPU设备需要多少GPU内存；估算内存需求的公式是什么；如果模型无法匹配内存，在实践中应采取哪些措施来减少内存需求。 我敢打赌，每个机器学习工程师 ...

纳米级超低延迟CXL控制器IP利用低成本存储介质，可扩展GPU系统内存至TB级…… 为了突破GPU内存的容量限制并维持其高性能 ...

中央处理器（英文Central Processing Unit，CPU）是一台计算机的运算核心和控制核心。CPU、内部存储器和输入/输出设备是电子 ...

近日，西安电子科技大学盛凯教授团队的论文"Cherry: Breaking the GPU Memory Wall for Large-Scale GNN Training via Micro-Batching"被高性能计算领域的国际顶级会议——2025年国际超级计算会议（2025 ACM International Conference on Supercomputing, ACM ICS ...