产品咨询:17340067106(毛经理)
软件算法咨询:18982151213(刘经理)

联系我们
产品咨询

2026 云栖大会:万物纵横端侧大模型服务器DS-35R/DS-35RJ亮相,构建数据不出域算力底座

作者:万物纵横
发布时间:2026-09-23 08:58
阅读量:

2026 年 9 月 22‑24 日,2026 云栖大会于杭州国际博览中心举办,瑞芯微以 “双芯架构,加速端侧 AI 落地” 为主题,在 2 号馆 2C07 展位展出多卡级联、机器人 VLA 大模型、多场景 AI 终端等一系列端侧 AI 成果,其中万物纵横端侧大模型服务器(DS-35R/DS-35RJ)作为多卡级联方案的代表性硬件,面向工业级私有化端侧部署,成为本次展会工业边缘算力领域的一大亮点。


2026 云栖大会:万物纵横端侧大模型服务器DS-35R/DS-35RJ亮相,构建数据不出域算力底座(图1)


随着大模型向工业场景下沉,很多业务对数据安全提出严苛要求,不希望业务数据上传云端,需要在本地完成大模型推理、分析工作。单张算力卡难以承载大参数模型,多卡级联就成为端侧扩容的重要路径。依托瑞芯微 RK182X 协处理器的多卡扩展能力,万物纵横打造端侧大模型服务器,将四路 RK182X 算力模组集成在标准 1U 机架设备之内,适配机房标准机架部署形态,面向工业质检、智能安防等数据不出域业务场景,提供私有化本地大模型算力支撑。


2026 云栖大会:万物纵横端侧大模型服务器DS-35R/DS-35RJ亮相,构建数据不出域算力底座(图2)


瑞芯微 RK182X 支持双卡、四卡算力扩展,配合流水线并行、混合量化技术,可以充分释放多卡协同算力。从算力规格来看,单张 RK182X 算力卡可通过 PCIe 为设备提供 20TOPS 独立算力,适配 7B‑8B 模型部署;双卡级联扩展约 10GB 内存,承载 9B 模型,支持多模型并发;四卡级联方案可用内存可达 20GB 量级,能够完整本地运行 27B 级大模型。万物纵横 1U 机架服务器(DS-35R/DS-35RJ)集成四路 RK182X 模组,直接把四卡级联的完整能力封装进机架式硬件,省去开发者自行组装调试的成本,开箱即可实现大参数模型本地运行,落地 RAG 知识库检索、AI 推理分析等业务。


2026 云栖大会:万物纵横端侧大模型服务器DS-35R/DS-35RJ亮相,构建数据不出域算力底座(图3)


同场展出还有 Firefly AIBOX Pro、飞凌嵌入式多卡设备等同类多卡级联产品:Firefly AIBOX Pro 采用 RK3588 搭配两片 RK1828,用于端侧 Agent 部署;飞凌嵌入式方案采用 RK3588 搭载四片 RK1828,服务 AI 编程、RAG 问答、私有知识库场景。和二者相比,万物纵横端侧大模型服务器采用标准 1U 机架形态,更适配工业机房、企业机房的规模化部署,面向工业质检、安防这类高并发、需要机柜集中管理的行业场景。


除了机架式服务器,瑞芯微 RK1828 算力硬件拥有丰富产品形态:朗国 RK1828 AIBOX 可通过 USB、网口外接 Windows 电脑,为现有 PC 补充本地 AI 算力;树莓派 HAT 算力卡面向创客、教育市场,给开源硬件增加大模型推理能力。不同硬件覆盖从个人电脑、开源开发板,到盒子设备、1U 机架服务器的完整梯度,形成从个人、家庭办公,再到企业工业级的完整端侧算力产品矩阵。


在软件层面,整套多卡方案依托 RKNN3 工具链,结合流水线并行、混合量化等技术手段,支持不同参数规模大模型灵活调度运行。瑞芯微同时规划下一代 RK1860 芯片,将进一步提升单卡算力,强化多卡级联能力,持续迭代端侧大模型硬件底座。


在本次云栖大会,除万物纵横的工业服务器之外,瑞芯微还展出离线 AI 办公智能体、VLA 机器人动作策略方案、VioLoop 个人 AI 助手、Cabay AI BOX 家庭算力中枢、路链 AI 路由器等产品,覆盖办公、家庭、机器人、跨境办公、工业边缘多赛道。而万物纵横端侧大模型服务器,补齐了工业机房场景下 “数据不出域” 的机架式端侧算力缺口,让大模型能力不用上云,直接在企业本地完成推理运算,助力工业、安防行业 AI 私有化落地。

- END -

家具美容培训

家具维修培训

分享:
留言 留言 试用申请
产品咨询 产品咨询 产品咨询
17340067106(毛经理)
技术咨询 技术咨询 软件算法咨询
18982151213(刘经理)
微信在线客服 微信在线客服 在线客服
返回官网顶部 返回官网顶部 回到顶部
关闭窗口
产品订购
  • *

  • *

  • *

  • *

  • *