跳到正文
NVIDIA 开发者博客· Luca Spindler·· 7 天前AI 评分52

NVIDIA 发布 Do Inference Now Deploy 开源 C++ 样例集,用 TensorRT RTX 加速本地 AI 推理

Build Local AI Apps with C++ and NVIDIA TensorRT RTX Samples

AI 导读

NVIDIA 推出开源 C++ 样例集 Do Inference Now (DIN) Deploy,将 ONNX Runtime 与 NVIDIA TensorRT RTX 执行提供程序结合,帮助开发者从模型 checkpoint 走到本地原生应用。该样例集面向本地应用集成 AI 模型,提供可移植模型格式、可靠运行时与跨目标系统的加速支持。

来源:NVIDIA 开发者博客 · developer.nvidia.com