瑞芯微 RK1828 M.2 算力卡是面向边缘端侧的标准形态 AI 加速模组,主打离线大模型本地推理与嵌入式算力扩容,以 M.2 2280 通用形态实现即插即用的 AI 能力升级。核心配置为 20 TOPS INT8 峰值算力 + 5GB 3D 堆叠片内高带宽 DRAM,并支持多卡级联实现算力与显存的弹性扩展。
一、核心硬件规格
参数项 | 详细规格 |
核心芯片 | RK1828 AI 协处理器(三核 64 位独立 RISC-V 架构,算力调度互不抢占) |
NPU 峰值算力 | 20 TOPS @ INT8 |
计算精度 | INT4 / INT8 / INT16 / FP8 / FP16 / BF16 全混合精度支持 |
内存配置 | 5GB 3D 堆叠片内 DRAM,最高带宽可达 1TB/s |
物理形态 | M.2 2280 标准尺寸,支持 M-Key / B-M Key 接口定义 |
通信总线 | PCIe 2.1 ×1 Lane |
适配主控 | RK3568、RK3572、RK3576、RK3588 等瑞芯微全系主流主控 |
功耗水平 | 典型工作约 13.6W,7B 模型负载下峰值约 29.4W |
环境规格 | 工业级工作温度 -25℃ ~ 85℃,支持 7×24 小时稳定运行 |
支持系统 | Linux、Android 全驱动适配 |
二、内存架构核心优势
RK1828 采用 3D 堆叠式片内 DRAM 设计,是其区别于传统外挂显存算力卡的核心特点:
内存与 AI 处理器直接封装集成,大幅降低访存延迟;相比同级别外挂 DRAM 方案,大模型推理性能提升接近一个量级,解决了端侧大模型部署的内存带宽瓶颈。
5GB 显存为独立算力内存,不占用主控系统运行内存,可完整承载 7B 参数量级的大语言模型、多模态视觉模型(如 Qwen、LLaMA2 系列)完全离线运行,保障端侧数据隐私与低延迟响应。
三、多卡级联扩展能力
针对更大参数模型与高算力需求,RK1828 支持基于 PCIe 总线的多卡级联方案,通过主控统一调度多颗 NPU 的算力与显存,采用模型分段 + 流水线并行技术实现协同推理:
单卡:独立支撑 7B~8B 参数量级模型高效本地推理,生成速度最高可达 100 tokens/s。
双卡级联:显存容量扩展至约 10GB,可稳定运行 12B 参数量级模型,同时支持多模型并发部署。
四卡级联:可承载 27B 参数量级大模型本地部署,适配私有化知识库、端侧 Agent 等复杂业务场景。
目前行业已有成熟落地方案,例如基于 RK3588 主控搭配 2~4 张 RK1828 算力卡,可灵活组成边缘 AI 盒子、1U 机架式端侧大模型服务器等产品,广泛应用于工业质检、智能安防等数据不出域场景。
四、软件生态与部署支持
工具链:原生适配瑞芯微 RKNN3、RKLLM3 工具链,支持模型量化、编译与部署全流程,兼容 TensorFlow、PyTorch、Caffe、ONNX 等主流 AI 框架。
模型覆盖:支持视觉检测、语音识别、时序预测、大语言模型、多模态模型等全类型 AI 任务,覆盖 OCR、ASR、TTS、本地智能助手、文档总结等落地场景。
落地门槛:提供完整的系统驱动与部署示例,搭配瑞芯微主控平台可实现即插即用,大幅降低嵌入式设备的 AI 算力扩容开发成本。
五、典型应用场景
嵌入式智能终端:工业质检设备、服务机器人、智能工控机、边缘计算网关。
端侧大模型部署:本地智能助手、企业私有知识库 RAG、离线多模态交互终端。
安防与视频分析:多路视频结构化、周界行为识别、智慧工地 / 明厨亮灶监管。
行业专用设备:医疗辅助诊断终端、车载智能计算单元、自助政务 / 零售终端。
需求留言: