电子发烧友·· 1 天前精选AI 评分56
RK3572 端侧部署 Qwen2.5-0.5B 大模型实测教程
端侧大模型落地参考：RK3572-LLM大语言模型应用
AI 导读
文章以RK3572核心板为例，演示将Qwen2.5-0.5B-Instruct大模型部署到端侧的完整流程。RK3572搭载2核Cortex-A73与6核Cortex-A53，内置NPU提供最高4TOPS算力，支持INT4/INT8/INT16/FP16混合精度，配套RKN3工具链完成模型转换与量化。
推荐理由
完整给出Qwen2.5-0.5B从ONNX到RKNN再到板端运行的命令链，可直接照做复现端侧LLM部署。
来源：电子发烧友 · elecfans.com