树莓派5本地AI助手评测：延迟最高94秒

评测者公布了799美元手工组装的树莓派5本地AI助手的响应延迟：预热后回答中位数为19秒出第一个词、28秒出完整答案，一段对话中首次未缓存的提问分别耗时87秒和94秒，更长回答或模型重载可能超过一分钟。 该设备以8GB内存树莓派5为大脑，本地聊天由Gemma 3 4B驱动，内存吃紧时回落到Llama 3.2 3B，每个回答标注生成模型。产品以799美元一次性买断发售，Private模式下模型、记忆检索与语音功能全部本地运行、断网可用。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。