不是 “翻倍”,而是 “翻好几倍”——RK3588+RK1828 组合,边缘 AI 推理算力从 6 TOPS → 26 TOPS,实际大模型性能提升3~4 倍。

一、单芯片算力
RK3588(主 SoC)
NPU:6 TOPS(INT8)
适合:视频编解码、系统调度、轻量 AI(检测 / 分类)
RK1828(AI 协处理器)
NPU:20 TOPS(INT8)
片上高带宽 DRAM:5GB
专为:7B 参数大模型推理(如 Llama 2、Qwen)
二、组合后算力
总 AI 算力:6 + 20 = 26 TOPS(INT8)
分工:
RK3588:系统、视频、数据预处理、调度
RK1828:专职大模型推理,PCIe 高速互联,延迟 < 0.1s
三、实际效果(大模型)
仅 RK3588:
跑 7B 模型:勉强、慢、易卡顿,约 10~20 token/s
RK3588+RK1828:
7B 模型:80+ token/s,流畅对话
3B 模型:100+ token/s
延迟:<0.1s
四、为什么不是简单 “翻倍”
单 RK3588:6 TOPS
组合:26 TOPS → 算力是原来的4.3 倍
大模型推理性能:3~4 倍提升(远不止翻倍)
五、一句话总结
RK3588+RK1828 = 边缘算力从 6T→26T,大模型性能翻 3~4 倍,本地跑 7B 模型流畅可用。
需求留言: