Hackster.io News· Nick Bild·· 20 小时前精选AI 评分64
Google 开源 GPU 推理加速引擎 ML Drift
Run AI Faster on Almost Any GPU with ML Drift
AI 导读
Google AI Edge 团队发布开源 GPU 计算引擎 ML Drift,用于加速从智能手机到桌面端的 AI 推理,采用 Apache 2.0 许可,是 TensorFlow Lite GPU delegate 的继任者,现作为 LiteRT 框架的 GPU 加速引擎,也可通过 C++ API 独立使用。
推荐理由
文章解释了 ML Drift 用统一计算架构和张量虚拟化屏蔽各平台 GPU 接口差异的思路,做跨平台端侧部署的开发者可据此评估迁移成本。
来源:Hackster.io News · hackster.io