更新要点
LQ50 DUO 双 IPU 共享 PCIe 通道,多任务同时收发张量、KV 缓存搬运时,容易出现带宽争抢,引发单路推理吞吐波动、token 速率忽高忽低、偶发传输超时,在大并发多实例部署场景尤为明显。新版固件重构 PCIe 仲裁调度策略:

1. 动态带宽分配:双芯传输带宽做动态权重分配,避免单芯独占通道,保障两路推理任务带宽公平性。
2. 批量 burst 调度优化:优化批量张量传输的 burst 调度,减少 PCIe 事务包冲突,降低传输延迟抖动。
3. 拥塞退避机制:增加带宽限流与拥塞退避机制,高负载下防止 PCIe 链路饱和导致任务卡死。
4. 多实例稳定性提升:底层同步逻辑优化,多实例并行跑大模型(LLM、多模态)时,吞吐稳定性显著提升。
适用信息
适用型号:力擎 LQ50 DUO(双芯 M.2 算力卡)
升级工具:HmUpdateTool / hm_upgrade_cli(双芯专用固件包,不可使用 LQ50 单芯固件刷写)
升级操作(Linux)
# 查看当前固件版本
hm_smi -a
# 烧录双芯固件(0、1 两个设备)
sudo hm_upgrade_cli burn-image -d 0 1 -i firmware.img
# 设备重启生效
sudo hm_upgrade_cli reboot-device -d 0
升级后再次执行 hm_smi -a 校验固件版本,确认两颗芯片固件均更新成功。
推荐验证用例
双芯同时启动独立 LLM 推理实例,持续压测 token 吞吐,观察延迟抖动。
大 KV 缓存场景,频繁主机 ↔ 卡间张量迁移,复现高 PCIe 负载。
长时间 7×24 小时稳定性烤机,观测是否出现传输超时、任务掉线。
注意事项
升级全程禁止断电,断电可能导致固件损坏,需要走恢复流程。
固件、驱动、SDK 版本建议配套对齐,推荐同步更新对应版本的 SDK。
Windows / Android 平台升级参考 HMDML 文档,使用对应平台升级工具。
若使用 PCIe Switch 扩展多卡,建议同步复测多卡 + 双芯混合带宽场景。
需求留言: