RK3588 内置 NPU 为6TOPS INT8,适合轻量目标检测、少量视频流分析;一旦跑多路视频(8 路以上 1080P)、3B‑7B LLM/VLM 多模
一、架构分工转变(核心逻辑)传统用法:RK3588 整机独立完成系统运行 + 视频解码 + AI 推理,依靠内置 6TOPS NPU 承载全部模型运算,多路视频
重要前置说明1. RKNN3 / RKLLM3 官方原生不支持多卡张量并行跑 27B 稠密大模型,没有开箱即用多卡 demo;整套多卡分片协同推理需要上层自研调
✅ 核心结论1. 硬件层面具备扩展潜力:RK3588 作为主控,通过 PCIe 扩展多张 RK1828(单卡 5GB HBM、20TOPS@INT8),理论上依
RK3588 无独立显存,系统、视频缓存、AI 模型全部共用运行内存,内存是决定稳定性、路数、模型上限的核心瓶颈。预算有限不是单纯选最便宜,而是匹配业务场景,避
一、核心硬件基础差距(纸面参数打底)参数项RK3588RK3576差距说明CPU 架构4A76@2.4G + 4A55@1.8G(8nm)4A72@2.2G +
*