产品咨询:17340067106(毛经理)
软件算法咨询:18982151213(刘经理)

联系我们
产品咨询

算力模组赋能|万物纵横M.2异构算力方案,让边缘大模型落地不再昂贵

作者:万物纵横
发布时间:2026-10-19 09:41
阅读量:

边缘部署大模型,长期面临两大痛点:硬件固定算力,模型升级就要更换整机;定制开发成本高昂,碎片化行业需求难以落地。万物纵横基于RK3588硬件平台,推出RK182X、HM50、DL20三款差异化M.2算力模组,采用"通用主控+专用AI算力"的弹性架构,实现算力按需选配,让边缘大模型部署轻量化、低成本化。


算力模组赋能|万物纵横M.2异构算力方案,让边缘大模型落地不再昂贵(图1)


三款算力模组定位清晰,覆盖从轻量多模态到高参数量大模型全谱系:


RK182X模组(20TOPS INT8),高性价比协处理器,5GB高速DRAM,延迟低至0.1s,适配3-7B参数量LLM/VLM模型,例如Qwen2.5-3B、DeepSeek-R1-Distill-7B,适合同声传译、轻量化多模态识别场景,功耗低至6-15W,驱动同源适配,几乎零二次开发成本。


HM50模组(160TOPS INT8),第二代天璇IPU存算一体架构,显存最高48GB,能效比可达16T/W,适配7B-30B大参数量模型,支持Qwen3、ChatGLM、Llama2等主流大模型,作为边缘大模型主力推理引擎,支持多模组扩容,适配多系统环境,面向油田、交通等中大模型业务场景。


DL20模组(60TOPS INT8),Minsky™异构计算平台,支持INT4/BF16多精度运算,可实现32路视频解码,工业级宽温能力,7×24小时不间断稳定运行,适配7B-13B多模态大模型,适合工业现场7*24不间断视频分析业务。


算力模组直接通过设备M.2 PCIe接口即插即用,DA060R支持单模组扩展;DA600支持双模组并行;DS-35R机架服务器最高支持4张模组同时工作,整机算力最高646TOPS@INT8。无需更换主机,根据业务迭代升级算力,极大保护用户硬件投资。


硬件之外,算力模组深度适配Qwen系列、Llama2、Gemma、DeepSeek、InternVL等主流开源大模型,支持文本、图像、视频端到端多模态推理,端到端最低0.1s推理延迟。配合万物纵横AI算法平台,实现大模型10秒生成新算法,摆脱传统百万样本数据标注、数月开发周期,碎片化长尾需求不再需要高昂定制开发费用,把原来十万级的定制开发成本降至近乎零成本,解决非标设备、稀缺样本场景AI落地难题。


这套异构算力方案把大模型真正带到工业现场,兼顾功耗、算力、成本,为智慧工厂、能源、交通、安防提供可落地的边缘生成式AI底座。

- END -

家具美容培训

家具维修培训

分享:
留言 留言 试用申请
产品咨询 产品咨询 产品咨询
17340067106(毛经理)
技术咨询 技术咨询 软件算法咨询
18982151213(刘经理)
微信在线客服 微信在线客服 在线客服
返回官网顶部 返回官网顶部 回到顶部
关闭窗口
产品订购
  • *

  • *

  • *

  • *

  • *