RK182X 系列是瑞芯微推出的高性能端侧 AI 协处理器芯片,包含 RK1820、RK1828 两款型号,主打 M.2 形态的算力扩展卡,专为边缘端大语言模型(LLM)、多模态模型(VLM)推理设计,可独立输出算力、不占用主控资源,广泛适配瑞芯微全系主控及通用工控平台。

一、RK1828 核心规格
1. 核心架构与算力
CPU 内核:集成 3 颗独立 64 位 RISC-V 内核,每核配备 32KB 指令缓存、32KB 数据缓存与 128KB 二级缓存,负责算力调度与模型后处理,运行逻辑完全独立于主控 CPU。
NPU 算力:INT8 精度下峰值算力达 20 TOPS,支持 INT4/INT8/INT16/FP8/FP16/BF16 混合精度运算,兼容 TensorFlow、PyTorch、Caffe、ONNX 等主流深度学习框架,可通过 RKNN 工具链完成模型转换与部署。
2. 存储配置
RK1828 的核心硬件差异在于内置高带宽 DRAM,采用 3D 堆叠片上集成设计,大幅降低内存访问延迟:
内置 5GB 高带宽 DRAM(同系列 RK1820 为 2.5GB),可独立承载大模型权重,无需共享主控内存;
配备 512KB 系统 SRAM,支持 SPI、eMMC、SD/MMC 等多种启动方式,支持 PCIe、USB、UART 等接口离线烧录与系统启动。
3. 接口与产品形态
高速互联接口:集成 2 路 PCIe 2.0 / USB 3.0 combo PHY,支持与主控通过 PCIe 或 USB3.0 高速通信,实现低延迟数据交互;
通用外设:配备 I2C、UART、SPI、RGMII 等接口,适配各类嵌入式外设对接需求;
算力卡形态:标准 M.2 2280 M-Key 规格,可直接插入工控机、边缘网关、嵌入式主板的 M.2 插槽,即插即用扩展 AI 算力。
4. 多媒体与图像处理
集成 RGA 2D 图形加速引擎,支持 ARGB、RGB、YUV 等全格式图像缩放、裁剪、格式转换;
支持 4K 分辨率 JPEG 解码,最大源分辨率可达 8192×8192,满足视觉 AI 场景的图像前处理需求。
RK1820 vs RK1828 核心参数对比
参数项 | RK1820 | RK1828 |
INT8 峰值算力 | 20 TOPS | 20 TOPS |
内置 DRAM 容量 | 2.5 GB | 5 GB |
典型支持模型量级 | 0.5B~3B 级 LLM/VLM | 0.5B~8B 级 LLM/VLM |
目标场景 | 轻量端侧推理、小模型部署 | 中大型端侧大模型、多模态交互 |
二、RK1828 核心升级亮点
1. 内存翻倍,突破大模型部署上限
相较于同系列 RK1820,RK1828 将内置高带宽 DRAM 从 2.5GB 升级至 5GB,是其最核心的硬件升级:
可完整加载 8B 参数级大语言模型(如 Qwen3-8B)并稳定运行,无需依赖主控内存共享;
3B 级多模态模型可保留充足运行内存,实现音视频 + 文本的全模态流畅推理,避免内存瓶颈导致的性能下降。
2. 推理性能跃升,端侧交互达到商用流畅度
搭配官方 RKNN3 SDK V1.0.0 后,RK1828 的大模型推理效率实现全面软件优化升级:
LLM 解码性能整体提升超 15%,Qwen2.5-3B 模型解码速度突破 102 TPS,实现端侧实时流畅对话;
8B 级大模型 Qwen3-8B 稳定运行,解码速度达 61.11 TPS;0.5B 轻量模型解码超 215 TPS,首字延迟(TTFT)低至 21.89ms;
支持数据传输与推理并行执行,多核多模型可同时推理,适配高并发边缘场景。
3. 全模态能力覆盖,适配复杂 AI 场景
RK1828 突破传统纯文本大模型限制,实现完整的多模态推理能力:
支持 Qwen2.5-Omni-3B 等全模态模型,解码速度超 100 TPS,覆盖文本、图像、音频输入输出;
集成视觉前处理能力,可直接对接摄像头、麦克风等外设,完成“感知-推理-反馈”全链路端侧处理,无需主控参与数据预处理。
4. 灵活扩展与级联能力,满足私有化算力需求
主控适配广泛:可通过 PCIe/USB 灵活搭配 RK3568、RK3576、RK3588 等瑞芯微主控,也可对接通用 x86/ARM 平台,作为独立算力单元扩展;
多卡级联:支持双卡、四卡级联扩展算力,多卡组合可支撑最高 27B 稠密模型流畅推理,满足中小私有化部署需求;
低功耗设计,风冷被动散热即可稳定运行,适配边缘无风扇设备场景。
5. 全栈软件生态,大幅降低开发门槛
瑞芯微为 RK182X 系列配套 RKNN3 全栈开发工具链,实现软件层面的全面升级:
支持 mRoPE 位置编码、Function Call 工具调用等主流大模型特性,兼容市面主流开源大模型;
提供 Python API 轻量化工具包、连板精度分析工具,支持协处理器自定义模型后处理;
rkllm3 server 新增 Embedding 模型支持,可快速搭建本地向量数据库、知识库问答系统;
兼容 Linux、Android 双系统,覆盖工控、智能座舱、消费电子等多系统场景。
三、典型落地场景
智能座舱:搭配车规级 RK3576M 主控,实现离线语音交互、多模态座舱助理、车辆知识库问答,数据全本地处理保障隐私;
本地 AI 办公:离线会议转写纪要、本地智能体办公、私有知识库问答,核心数据不出设备;
边缘 AI NAS:本地存储 + AI 算力结合,实现照片视频智能归档、多模态内容检索;
工业与机器人:巡检机器人多模态感知、工业质检推理、边缘安防分析等离线 AI 场景。
需求留言: