NVIDIA 开发者博客· Tanya Lenz·· 4 天前精选AI 评分45
NVIDIA 解析 TensorRT 引擎构建中的调度决策与全局性能调优（上）
Scaling NVIDIA TensorRT Performance Optimization Beyond a Single Build Route with the Global Performance Tuner, Part 1
AI 导读
NVIDIA 开发者博客撰文说明，部署训练好的神经网络不只是把算子翻译成 GPU kernel，而是一个存在多种合法解的编译问题。以 TensorRT 构建 engine 为例，其在 graph-IR 变换、算子融合、实现选择、内存放置和量化上做出相互依赖的决策，这一过程称为调度（scheduling）。
推荐理由
原文点明 TensorRT 构建引擎时的调度决策相互耦合，为理解后续全局性能调优方案提供了必要背景。
来源：NVIDIA 开发者博客 · developer.nvidia.com