跳到正文
雷锋网·· 1 天前精选AI 评分64

DeepSeek 开源推理框架 DeepInfer,AI 编写的 ForgeKernel 同周登顶算子评测榜

DeepSeek 开源看家算子的同一周,AI 超过了它

AI 导读

DeepSeek 近日全面开源推理框架 DeepInfer,继模型权重和 FlashMLA、DeepGEMM 等算子库之后开放了模型运行链路,其中 FlashMLA 经工程师逐行手调,算子性能达到硬件极限的 90% 以上。

推荐理由

原文对比了人工手调算子与AI自主编写算子的性能差距,可帮助读者理解算子优化竞争的新格局。

来源:雷锋网 · leiphone.com