arXiv eess.SY 系统与控制· Yibo Huang, Yi Cui, Yukai Huang, Huaping Zhou, Jiancong Tong, Zhaoyu Wu, Gen Miao, Haoran Wei, Boyan Ding, Zhuo Jiang, Jianxi Ye, Yibo Zhu, Chuanxiong Guo, Yang Xu, Jie Wu·· 13 小时前精选AI 评分58
字节跳动部署 ByteExpress 软件通信层优化 RDMA 推理与训练
Deploying RDMA for Large-Scale Inference and Training Workloads
AI 导读
论文报告在字节跳动基于 parameter-server 的推理与训练系统中部署 ByteExpress（硬件 RDMA 之上的软件通信层）的经验，提出三条教训：RDMA 高效需要跨应用与传输层的缓冲管理、可扩展通信需协同管理连接与接收能力、服务可用性需在传输层之上做恢复。
推荐理由
论文给出 RDMA 落地生产环境的三条经验与具体机制，可迁移用于评估分布式训练通信方案。
来源：arXiv eess.SY 系统与控制 · arxiv.org