端侧 AI 算力升级热潮：RK3588 主板搭配 Hailo-8 算力卡，推理帧率大幅提升

边缘视觉 AI 项目经常遇到一个痛点：主板定型之后，多路摄像头、高分辨率、多模型并发带来算力缺口，重新改板、认证周期长、成本高。RK3588 + Hailo-8 M.2 算力卡这套异构方案，凭借低功耗、即插式扩容、高推理吞吐，正在成为工业视觉、智慧安防、工地监管、明厨亮灶等场景的热门升级路线。

RK3588 原生内置 6TOPS INT8 NPU，本身可以承载 1–2 路常规目标检测；通过板载 M.2 Key M、PCIe 3.0 x4 接口接入 Hailo-8 加速卡后，整机综合算力可达 32TOPS。Hailo-8 为数据流架构，片上集成存储、无需外挂 DRAM，典型功耗仅 2.5W，非常适合对功耗、体积敏感的端侧设备。

实测性能参考

算力卡承担 CNN 推理负载，RK3588 主控专注视频解码、RGA 图像预处理、业务逻辑、网络传输、录像存储，算力分工清晰，不会因为 AI 推理抢占系统资源。

方案优势

硬件不改版，算力平滑扩容：原有 RK3588 主板、外壳、电源、结构不变，仅增加 M.2 算力卡，项目不用重新走硬件认证，缩短交付周期。

低功耗高能效：Hailo-8 仅 2.5W，整套端侧整机功耗可控，适合无风扇工控盒、户外低功耗网关。

多路视频并发能力强：支持多流、多模型并行推理，适配 8–16 路 IPC 视频分析、工业缺陷检测、多目标跟踪、分割任务。

工业宽温：Hailo-8 工业版本支持 -40℃~+85℃，满足车间、户外机柜等恶劣环境部署。

局限与部署要点

1. 模型需要使用 Hailo 编译工具链转成 HEF 格式，不能直接跑 RKNN 模型，两套推理栈独立。

2. 依赖适配好的内核、PCIe 驱动、HailoRT 运行时，部分主板镜像需要单独适配调试。

3. 更擅长 CNN 视觉模型，不适合大 LLM 生成类任务，大模型场景一般优先选择其他加速方案。

典型落地场景

智慧工地、安防 NVR 多路分析、明厨亮灶、产线视觉质检、园区周界、车载环视、零售客流统计、养殖智能监测。

方案对比小结

家具美容培训

家具维修培训