NVIDIA 开发者博客· Elizabeth Goodman·· 2 天前AI 评分43
NVIDIA:用 Green Contexts 控制 GPU 如何共享工作
Control How Your GPU Shares Work with Green Contexts
AI 导读
NVIDIA 提出 Green Contexts,让单进程内多个独立组件(如时延敏感算子与吞吐导向后台 kernel、数据预处理与模型推理)可控制地共享 GPU 资源。此前这类多组件共用单 GPU 的场景难以划分资源,Green Contexts 用于解决这一控制难题。
来源:NVIDIA 开发者博客 · developer.nvidia.com