产品咨询:18116674131(王小姐)  17340067106(毛先生)
软件算法咨询:18982151213(刘先生)

联系我们
产品咨询

瑞芯微 RK1828 M.2 算力卡 20TOPS INT8 5GB 显存 支持多卡级联

作者:万物纵横
发布时间:2026-11-18 10:14
阅读量:

瑞芯微 RK1828 M.2 算力卡是面向边缘端侧的标准形态 AI 加速模组,主打离线大模型本地推理与嵌入式算力扩容,以 M.2 2280 通用形态实现即插即用的 AI 能力升级。核心配置为 20 TOPS INT8 峰值算力 + 5GB 3D 堆叠片内高带宽 DRAM,并支持多卡级联实现算力与显存的弹性扩展。


一、核心硬件规格


参数项

详细规格

核心芯片

RK1828 AI 协处理器(三核 64 位独立 RISC-V 架构,算力调度互不抢占)

NPU 峰值算力

20 TOPS @ INT8

计算精度

INT4 / INT8 / INT16 / FP8 / FP16 / BF16 全混合精度支持

内存配置

5GB 3D 堆叠片内 DRAM,最高带宽可达 1TB/s

物理形态

M.2 2280 标准尺寸,支持 M-Key / B-M Key 接口定义

通信总线

PCIe 2.1 ×1 Lane

适配主控

RK3568、RK3572、RK3576、RK3588 等瑞芯微全系主流主控

功耗水平

典型工作约 13.6W,7B 模型负载下峰值约 29.4W

环境规格

工业级工作温度 -25℃ ~ 85℃,支持 7×24 小时稳定运行

支持系统

Linux、Android 全驱动适配


二、内存架构核心优势


RK1828 采用 3D 堆叠式片内 DRAM 设计,是其区别于传统外挂显存算力卡的核心特点:


内存与 AI 处理器直接封装集成,大幅降低访存延迟;相比同级别外挂 DRAM 方案,大模型推理性能提升接近一个量级,解决了端侧大模型部署的内存带宽瓶颈。


5GB 显存为独立算力内存,不占用主控系统运行内存,可完整承载 7B 参数量级的大语言模型、多模态视觉模型(如 Qwen、LLaMA2 系列)完全离线运行,保障端侧数据隐私与低延迟响应。


三、多卡级联扩展能力


针对更大参数模型与高算力需求,RK1828 支持基于 PCIe 总线的多卡级联方案,通过主控统一调度多颗 NPU 的算力与显存,采用模型分段 + 流水线并行技术实现协同推理:


单卡:独立支撑 7B~8B 参数量级模型高效本地推理,生成速度最高可达 100 tokens/s。


双卡级联:显存容量扩展至约 10GB,可稳定运行 12B 参数量级模型,同时支持多模型并发部署。


四卡级联:可承载 27B 参数量级大模型本地部署,适配私有化知识库、端侧 Agent 等复杂业务场景。


目前行业已有成熟落地方案,例如基于 RK3588 主控搭配 2~4 张 RK1828 算力卡,可灵活组成边缘 AI 盒子、1U 机架式端侧大模型服务器等产品,广泛应用于工业质检、智能安防等数据不出域场景。


四、软件生态与部署支持


工具链:原生适配瑞芯微 RKNN3、RKLLM3 工具链,支持模型量化、编译与部署全流程,兼容 TensorFlow、PyTorch、Caffe、ONNX 等主流 AI 框架。


模型覆盖:支持视觉检测、语音识别、时序预测、大语言模型、多模态模型等全类型 AI 任务,覆盖 OCR、ASR、TTS、本地智能助手、文档总结等落地场景。


落地门槛:提供完整的系统驱动与部署示例,搭配瑞芯微主控平台可实现即插即用,大幅降低嵌入式设备的 AI 算力扩容开发成本。


五、典型应用场景


嵌入式智能终端:工业质检设备、服务机器人、智能工控机、边缘计算网关。


端侧大模型部署:本地智能助手、企业私有知识库 RAG、离线多模态交互终端。


安防与视频分析:多路视频结构化、周界行为识别、智慧工地 / 明厨亮灶监管。


行业专用设备:医疗辅助诊断终端、车载智能计算单元、自助政务 / 零售终端。

- END -

家具美容培训

家具维修培训

分享:
留言 留言 试用申请
产品咨询 产品咨询 产品咨询
18116674131(王小姐)
17340067106(毛先生)
技术咨询 技术咨询 软件算法咨询
18982151213(刘先生)
微信在线客服 微信在线客服 在线客服
返回官网顶部 返回官网顶部 回到顶部
关闭窗口
产品订购
  • *

  • *

  • *

  • *

  • *