RK1828 是 PCIe 主控托管式级联,靠主控做流水线切分;LQ50 DUO 自带 HM-LINK 片间高速直连,卡与卡之间可以绕过主控做数据交换,更适合超大模型、超长上下文、高吞吐 Agent 网关。
一、硬件互联与级联拓扑

互联介质:PCIe 2.0 x4,M.2 Key-M 形态,卡与卡之间没有专用片间互联通道,所有卡间数据必须经过主控(RK3588/RK3576)转发
拓扑:星型拓扑,所有 RK1828 挂载在主控 PCIe 根端口下;双卡/四卡级联都由主控统一调度、切分模型段(prefill/decode 流水线并行)
单卡规格:单卡 20TOPS@INT8,5GB 3D 堆叠 DRAM,单卡功耗约 10W;四卡满配≈40W,散热压力小
扩展上限:主流网关方案为最大 4 卡,受限于主控 PCIe 通道数量;增加卡数会放大 PCIe 带宽瓶颈、主控调度开销上涨明显

互联介质:PCIe 4.0 + 独立 HM-LINK 高速 C2C 链路,HM-LINK 为 FPC 板间直连,单向 4GB/s,双向合计 16GB/s,卡间数据可以直接点对点传输,不经过主控
拓扑:支持链状/网状直连拓扑;LQ50 DUO 本身是双 M50 芯片封装在一张 M.2 卡内,卡内双芯已经板载互联;多卡之间通过 FPC 线缆交叉对接 C1/C2 口实现级联,主控只下发任务、不做中间转发
单卡规格:单 DUO 卡内置双 M50,合计 320TOPS@INT8,存算一体架构,天然高访存带宽;单卡功耗显著高于 RK1828,网关整机散热、供电设计要求更高
扩展上限:理论可多卡链式堆叠;适合网关里 2 卡、4 卡高密度大模型集群,超长上下文 KV Cache 交换效率远高于纯 PCIe 转发方案
二、软件调度与并行方式
RK1828:主控驱动的流水线并行(RKNN3 + RKLLM)
并行范式:模型分片 + 主控流水线调度,把 LLM 切分成多个 segment,每个 segment 跑在一张 RK1828;prefill、decode 阶段的 KV 缓存、中间张量全部走 PCIe 回传给主控,再转发给下一张卡
工具链:RKNN3、RKLLM,生态成熟、模型适配简单,YOLO、OCR、Qwen、DeepSeek 等视觉+大模型统一一套工具链;对熟悉 RK3588 的工程师上手成本低
瓶颈点:主控 PCIe 带宽是天花板,卡越多、token 吞吐越高,PCIe 往返延迟、拷贝开销越明显;适合中等参数稠密模型(9B~27B)、KV 缓存不大、并发数适中的网关场景
优势:调度简单、驱动稳定、BUG 少;网关主控同时兼顾视频编解码、工业 IO、RS485/CAN、视频结构化,算力和业务解耦,适合工业网关、明厨亮灶、工地监控这类多路视频+轻 RAG+本地问答场景
LQ50 DUO:卡间直连的张量并行(后摩大道平台)
并行范式:原生支持张量并行 + 流水线并行混合,卡之间通过 HM-LINK 直接交换张量、KV Cache,主控只负责任务分发、结果回传,不做张量中转;超长上下文(128K/256K)场景下 KV 交换延迟优势巨大
工具链:后摩大道自研栈,偏向大模型、Agent、MoE、超长上下文;传统 CNN 视觉模型适配生态弱于 RKNN3
瓶颈点:HM-LINK 是专用链路,硬件需要额外 FPC 走线、结构避让;对网关 PCB、结构、供电、散热设计要求高,量产集成门槛更高
优势:大模型 token 吞吐、首包延迟、长上下文推理性能更强;适合私有化大模型网关、边缘 Agent、多轮长对话、本地知识库、低空安防大模型研判网关
三、边缘网关部署关键差异(落地视角)
对比项 | RK1828 | LQ50 DUO |
级联依赖 | 强依赖主控 PCIe 与主控算力调度 | HM-LINK 卡间直连,主控仅做任务管理 |
网关硬件改造 | 仅需要标准 M.2 插槽,普通 PCIe Switch 即可扩展 | 需要预留 HM-LINK FPC 连接器、结构避让、更强供电散热 |
功耗&散热 | 低功耗,4 卡满载≈40W,无强散热要求 | 单卡功耗高,多卡级联网关必须强化风道、散热片 |
适配业务 | 多路视频结构化、工业质检、轻量 VLM、RAG 问答、常规安防网关 | 超大参数模型、超长上下文、Agent 智能体、高并发私有化大模型网关 |
并发形态 | 多模型独立并发(视觉+大模型混跑友好) | 单一大模型高吞吐、长对话并发优势明显 |
迁移门槛 | RK 生态复用,原有 RK3588 网关可以直接扩展 | 独立工具链,视觉模型适配成本更高 |
模型上限 | 主流 4 卡跑 27B 稠密模型 | 同卡数下支持更大参数、更长上下文 |
四、选型建议(边缘网关场景)
1. 优先选 RK1828:工业网关、智慧工地、明厨亮灶、园区安防,需要多路摄像头解码+视觉检测+本地 7B/9B 问答、原有 RK3588 主控升级、项目预算有限、希望快速量产、散热空间紧张。
2. 优先选 LQ50 DUO:私有化行业大模型网关、边缘 Agent、长对话知识库、低空安防研判,需要跑 14B/32B 级模型、256K 上下文、高 token 吞吐,愿意承担更高硬件集成成本。
五、典型网关部署方案示例
RK1828 网关:RK3588 主控 + 2~4×RK1828,主控负责 8K 编解码、多路视频接入、RS485/DI/DO、网口转发;RK1828 集群跑 VLM+LLM,流水线由 RKLLM 调度,适合标准化 AI 盒子批量出货。
LQ50 DUO 网关:RK3588/其他 ARM 主控 + 2×LQ50 DUO,M.2 插槽挂载,卡之间 HM-LINK 直连;主控只做业务网关、网络转发、存储,大模型张量并行全部在卡间直连完成,面向私有化、高价值行业推理网关。
需求留言: