RK3588 只有PCIe3.0,没有 PCIe4.0;LQ50 是 PCIe4.0,向下兼容运行在 PCIe3.0 带宽下,性能会被总线限制。RK1820/RK1828 是瑞芯原生协卡,RKNN3 深度适配,软硬生态打通。
核心参数简表
项目
| 力擎 LQ50(M.2-M,后摩 M50) | ||
AI 算力 | 20TOPS INT8 | 20TOPS INT8 | 160TOPS 弹性 INT8,BF16 100TFLOPS |
片上内存 | 2.5GB 3D 堆叠 DRAM | 5GB 3D 堆叠 DRAM | 24GB LPDDR5X |
接口 | M.2 KeyM PCIe3.0 | M.2 KeyM PCIe3.0 | M.2 KeyM PCIe4.0(跑在 RK3588 上降为 PCIe3.0) |
典型功耗 | 45W | 56W | 1218W(功耗高,需要强散热) |
SDK 生态 | RKNN3 原生,RKLLM,开箱跑 RK 系模型 | RKNN3 原生,RKLLM,7B/8B 大模型优化 | 后摩自研 SDK,不兼容 RKNN,需要模型重新转换编译 |
模型上限 | LLM ≤3B;VLM 轻量多模态 | LLM 37B,部分 8B;VLM 多模态稳定跑 | 理论支持更大模型,但 RK3588 PCIe 带宽成为瓶颈 |
适用主控 | RK3588/RK3576 即插即用 | RK3588/RK3576 即插即用 | 任何带 M.2 KeyM PCIe 的主板,ARM 平台适配工作量大 |
开发难度 | 低,文档案例多 | 低,文档案例多 | 高,不能复用 RKNN 模型,算子适配工作量大 |
三张卡分别适合什么场景
1️⃣ RK1820 —— 性价比首选
✅适合:
只跑 0.5B‑3B 大模型、轻量 VLM、多路 YOLO 视觉检测
成本敏感、批量工业设备、机器人、边缘网关
7×24 小时工业运行,功耗控制严格
❌不适合:7B 及以上大模型,多模态重载场景,内存容易爆。
实测 Qwen2.5‑3B 可以跑到 100+ token/s;3B 以上模型就会 OOM,只能做分片,体验很差。
2️⃣ RK1828 ——RK3588 平台最优原生方案(最推荐大多数项目)
✅适合:
本地 7B / 部分 8B LLM、多模态 VLM,RAG 本地知识库
机器人、AI 盒子、行业边缘一体机,需要稳定量产
希望复用 RKNN 生态,少做二次开发,快速落地
功耗中等 5‑6W,散热压力不大,很多开发板直接带散热器即可用
RK3588+RK1828 是瑞芯官方异构方案,模型转换、demo、bug 修复都最完善,3D 堆叠 DRAM 带宽极高,不会被 PCIe 拖后腿,大模型延迟表现最好。
❌不适合:预算极度紧张、只跑小模型的场景(这时选 RK1820)。
3️⃣ LQ50(后摩 M50)—— 慎用于 RK3588!
关键点:LQ50 算力很强,但 RK3588 只有 PCIe3.0 x2/x4,带宽瓶颈会吃掉绝大部分性能增益,而且完全不能用 RKNN 模型,全部重新转后摩算子,ARM 平台适配工作量很大。
✅适合:
你的主控是 X86 PC / 服务器(PCIe4.0),充分发挥 160TOPS+24GB 大显存
需要跑 13B、34B 超大模型,大量并发推理
❌不推荐用在 RK3588 嵌入式平台:
1. PCIe3.0 带宽限制,LQ50 强大算力发挥不出来;
2. SDK 完全不同,之前 RKNN 训练好的模型全部作废;
3. 功耗 12‑18W,RK3588 小主板供电、散热压力巨大;
4. ARM 环境案例少,排错成本高。
快速决策一句话
1. 只跑 3B 以内模型、控成本:RK1820
2. RK3588 做 7B 本地大模型、多模态,要量产落地:RK1828(优先选)
3. 如果你是 RK3588 嵌入式板子,尽量不要上 LQ50,硬件带宽 + 软件生态双重吃亏;LQ50 更适合 X86 主机。
额外踩坑提醒
1. 主板必须引出完整 M.2 Key‑M PCIe 通道;部分 RK3588 底板 M.2 只接 SATA,不能跑算力卡,买板前确认是 PCIe 信号。
2. RK1820/RK1828 需要底板给 M.2 插槽足够供电,部分底板需要外接 4Pin 辅助供电。
3. RK1828 跑 7B 模型建议 INT4 量化,内存压力最小,token 速度 50‑70 左右,满足边缘交互。
需求留言: