RK1828 M.2 卡+RK3588 盒子：边缘端7B大模型/多模态性价比方案指南

RK1828 M.2 卡 + RK3588 主控盒子是当前边缘端跑 7B 大模型 / 多模态 性价比最高的组合；预算紧可用 RK3568 盒子做入门，追求工业稳定选 RK3588 工业盒。下面从卡、盒子、整机方案三部分给你可直接采购的清单。

一、RK1828 M.2 算力卡（必选）

核心参数（一眼看懂）

型号：RK1828 M.2 2280 Key-M（PCIe）

NPU：20 TOPS INT8，支持 INT4/FP8/FP16

内存：5GB 3D 堆叠 DRAM，带宽 1024GB/s（碾压 Orin NX 的 68GB/s）

功耗：~5W，被动散热即可

模型：稳定跑 7B LLM/VLM（Llama2-7B、Qwen2-7B、Omni-7B），80–120 token/s

选型要点

必须 M.2 Key-M（NVMe 插槽），不要 SO-DIMM 版（贵、兼容性差）

优先 万物纵横/ Firefly / 天启 / 研智 原厂卡，驱动与 SDK 最完善

二、边缘盒子主控（高性价比三档）

1）旗舰性价比：RK3588 开发盒（推荐：万物纵横DA600大模型一体机）

主控：RK3588（8 核 A76+A55），NPU 6 TOPS，8K VPU

插槽：M.2 Key-M ×1（直插 RK1828），PCIe 2.0 高速互联

内存：8GB LPDDR4X + 64GB eMMC

接口：双千兆网、USB3.0×2、HDMI2.1、MIPI-CSI×4

系统：Ubuntu 22.04 / Debian 12，RKNN 驱动原生支持 RK1828

适合：7B 模型推理、多模态、4K 视频分析、机器人

2）入门省钱：RK3568 盒子（预算 < 1000）

主控：RK3568（4 核 A55），NPU 1 TOPS，1080p VPU

插槽：M.2 Key-M ×1，可插 RK1828（PCIe 2.0）

内存：4GB DDR4 + 32GB eMMC

接口：双千兆、USB3.0×2、HDMI、RS485

适合：轻量 7B 推理、单路 1080p 分析、低功耗场景

3）工业稳定：RK3588 工业盒（长期项目）

代表：万物纵横DA060RJ大模型一体机、研智 SA0240、Firefly AIBOX PRO

强化：全金属无风扇、宽温 -40℃~85℃、防雷 / 防静电、多串口 / 隔离

接口：双千兆、USB3.0×2、RS232/485、CAN、DI/DO

适合：工业质检、车载、电力、安防 7×24 小时运行

三、三套高性价比完整方案（可直接落地）

✅ 方案 A：极致性价比

算力卡：RK1828 M.2

主控盒：RK3568 开源盒

电源：12V/2A

性能：7B 模型 60–80 token/s，单路 1080p 视频分析，功耗 <8W

适用：中小项目、轻量 AI、预算敏感场景

✅ 方案 B：性能均衡

算力卡：RK1828 M.2

主控盒：RK3588 开发盒（8G+64G）

电源：12V/3A

散热：被动散热片

性能：7B 模型 100–120 token/s，8K 编解码、多路 4K 分析，NPU 协同算力 26 TOPS

适用：多模态、AI 对话、视频结构化、机器人，兼顾性能与成本

✅ 方案 C：工业级

算力卡：RK1828 M.2

主控盒：RK3588 工业盒

电源：工业 12V/5A

性能：同方案 B，但无风扇、宽温、高可靠

适用：工业现场、车载、户外、长期部署

四、为什么不选其他方案？

❌ RK1820：仅 2.5GB 内存，跑 7B 容易爆显存，3B 专用，不推荐

❌ Jetson Orin NX：价格 2500+，带宽仅 68GB/s，7B 推理比 RK1828 慢，性价比低

❌ Hailo-8：无板载内存，依赖主控带宽，7B 场景弱，视觉 CNN 专用

五、采购与落地建议

1. 优先 万物纵横/ Firefly / 天启 / 研智 原厂套件，驱动与 RKNN 工具链最成熟，开箱即用

2. 系统用 Ubuntu 22.04，避免旧系统兼容性问题

3. 模型优先 Qwen2-7B、Llama2-7B、Omni-7B，RK1828 优化最好

4. 散热：RK1828 5W 被动足够，RK3588 建议加小散热片（无风扇）

总结

RK1828 M.2 + RK3588 盒子是 2026 年边缘端 7B 大模型 / 多模态 的性价比天花板；预算紧上 RK3568，工业场景上 RK3588 工业盒。

家具维修培训