雷锋网·· 1 天前精选AI 评分64
DeepSeek 开源推理框架 DeepInfer,AI 编写的 ForgeKernel 同周登顶算子评测榜
DeepSeek 开源看家算子的同一周,AI 超过了它
AI 导读
DeepSeek 近日全面开源推理框架 DeepInfer,继模型权重和 FlashMLA、DeepGEMM 等算子库之后开放了模型运行链路,其中 FlashMLA 经工程师逐行手调,算子性能达到硬件极限的 90% 以上。
推荐理由
原文对比了人工手调算子与AI自主编写算子的性能差距,可帮助读者理解算子优化竞争的新格局。
来源:雷锋网 · leiphone.com