LQ50算力卡赋能AI边缘计算盒子｜本地跑大模型 + 多路视频分析

方案架构：RK3588 主控 + LQ50 存算一体算力卡（异构分工）

RK3588 主控：负责系统调度、多路视频硬解码、图像预处理、摄像头接入、业务接口输出。自带 VPU，支持多路 1080P/4K 视频流同时解码，做目标检测、安全帽、烟火、周界等轻量视觉推理。

LQ50 算力卡（M.2 2280，PCIe4.0×4）：专职大模型 / 多模态 VLM 推理，存算一体 M50 芯片，单卡160TOPS INT8，24GB LPDDR5、153.6GB/s 高带宽，典型功耗≤13W；双 LQ50（Duo）最高 320TOPS。

分工逻辑：主控把视频帧送入 LQ50，由 VLM 完成画面理解、事件摘要、自然语言描述；轻量检测任务主控 NPU 分担，算力互不抢占，实现多路视频分析 + 大模型语义解读并行跑。

核心能力

✅ 本地离线大模型推理

单 LQ50：流畅跑 7B/8B 大模型，推理＞25 tokens/s；支持 Qwen、Llama、Gemma 等主流 LLM/VLM 多模态模型

双 LQ50 满配：可部署27B~35B大模型，可同时运行 2 个 35B 模型；Qwen3.5 35B 实测首 token 延迟约 738ms，适合工业场景离线问答、事件文本生成、本地 RAG 知识库

全程本地推理，不上传原始视频、业务数据，满足工厂、工地、明厨亮灶、园区等数据保密需求

✅ 多路视频并行分析（视觉 + 大模型语义联动）

1. RK3588 硬解多路 IPC 摄像头，同时做目标检测、行为识别、越界、烟火等实时告警；

2. 截取告警帧送入 LQ50 上的 VLM 多模态模型，自动描述画面、生成事件摘要、判断风险等级；

3. 输出结构化文字告警，支持本地存储录像 + 事件文本，断网状态下持续分析。

典型规格：单盒支持十几路 1080P 摄像头接入；双 LQ50 方案可支撑更多路视频的大模型语义二次分析。

软件栈：后摩大道 ® 平台

支持模型量化、编译、算子适配，兼容 GGUF，可直接用 llama.cpp 部署，降低大模型移植成本；

提供视频流推理 SDK，轻松打通 RTSP 摄像头→帧预处理→VLM/LLM 推理→告警输出全链路；

支持 Ubuntu、Android，适配主流边缘盒子固件，即插式 M.2 扩展，算力弹性升级，单卡 / 双卡按需选配，不用整机更换。

典型落地场景

1. 智慧工地：多路摄像头安全帽 / 反光衣检测，VLM 识别违规行为，本地大模型生成巡检报告、事件描述；

2. 明厨亮灶：后厨多路视频，识别未戴口罩、违规操作，离线生成监管日志；

3. 光伏 / 电力巡检：摄像头画面缺陷识别，大模型对缺陷做分级、文字描述；

4. 园区安防：周界入侵、遗留物检测，自动事件摘要，私有化本地存储；

5. 无人环卫、厂区机器人：实时视觉感知 + 本地 LLM 做任务交互、语义决策。

方案优势总结

1. 低功耗小体积：M.2 卡片形态，13W 低功耗，无风扇边缘盒子也可适配；

2. 算力弹性扩展：基础盒 RK3588 自带 6TOPS，插 LQ50 直接叠加大模型算力；

3. 异构并行不抢资源：主控硬解视频，LQ50 专做大模型，多路视频 + LLM 同时稳定跑；

4. 数据本地闭环：全部视频、推理、大模型对话留在盒子，无需公网，隐私合规；

5. 国产存算一体：后摩 M50 存算架构，高显存带宽，大模型 KV Cache 吞吐优于传统边缘 NPU。

家具美容培训

家具维修培训