2026 云栖大会于 9 月 22 日至 24 日在杭州国际博览中心开展,瑞芯微以 “双芯架构,加速端侧 AI 落地” 为参展主题,带来芯片、大模型部署、行业应用在内的全套端侧 AI 解决方案。在众多生态硬件当中,万物纵横端侧大模型服务器(DS-35R/DS-35RJ),凭借 1U 机架式四卡集成设计,成为工业边缘私有化部署赛道的重点展品。

当下工业质检、智能安防等领域,对数据安全管控要求极高,业务数据禁止向外上传云端,端侧本地运行大模型成为刚需。但高参数大模型对内存、算力的需求较高,普通单卡硬件很难满足业务运行条件,多卡级联技术就此成为解决本地大模型部署的关键。
基于瑞芯微 RK182X 系列算力芯片强大的扩展特性,万物纵横端侧大模型服务器(DS-35R/DS-35RJ)把四路 RK182X 算力模组整合进标准 1U 机架机身。该设备充分运用流水线并行、混合量化技术,释放四卡协同算力,达成 20GB 量级可用内存,可实现 27B 级大模型本地完整运行,完美匹配工业质检、智能安防等数据不出域的落地诉求。对比 Firefly AIBOX Pro、飞凌嵌入式的多卡方案,万物纵横这款产品定位机房集中部署场景,标准机架形态适配企业和工业机房基础设施,适合大规模项目落地使用。

本次展会上,瑞芯微生态有多款多卡级联硬件同步亮相。Firefly AIBOX Pro 采用 RK3588 搭配双 RK1828 组合,偏向端侧 Agent 应用;飞凌嵌入式 RK3588 加四片 RK1828 的方案,主打 AI 编程、私有知识库与 RAG 问答场景。朗国 RK1828 AIBOX 可以外接 Windows 电脑,实现现有 PC 本地 AI 能力升级;树莓派 HAT 算力卡则服务创客教育领域,赋能开源硬件。从开发板、外接盒子,再到万物纵横的 1U 机架服务器,构建起覆盖个人、中小企业到工业级场景的算力梯度。
整套多卡硬件生态依托 RKNN3 工具链做底层支撑,能够根据业务需要灵活调度不同规格参数的大模型。面向未来,瑞芯微还将推出 RK1860 芯片,进一步提升算力与级联性能,持续夯实端侧大模型硬件基础。
展会现场除工业算力硬件外,瑞芯微还展示了 VLA 机器人动作策略大模型、离线办公会议方案、VioLoop 个人 AI 助手、Cabay AI BOX 家庭算力中枢、路链 “驭极 +”AI 路由器等丰富成果,覆盖机器人、办公、家庭、跨境办公等多元场景。而万物纵横端侧大模型服务器的推出,填补了机架式端侧私有化算力的产品空位。无需依赖公有云,在本地机房即可完成大模型推理运算,为工业、安防行业的数据安全化 AI 转型提供有力硬件支撑。
需求留言: