产品咨询:18116674131(王小姐)  17340067106(毛先生)
软件算法咨询:18982151213(刘先生)

联系我们
产品咨询

登临 KS20-A 能跑 YOLOv8 和 DeepSeek 吗?实测表现如何?

作者:万物纵横
发布时间:2026-11-19 09:41
阅读量:

登临 KS20-A(60TOPS INT8 有效算力)可以稳定运行 YOLOv8 全系列模型与 DeepSeek 主流大模型。二者分别对应边缘视觉检测与本地大语言推理场景,均在该卡的硬件能力与软件适配范围内。


一、YOLOv8 适配与性能表现


1. 适配能力


登临 KS 系列采用 GPU+ 片内异构架构,配套瀚铭(Hamming®)软件栈,兼容 CUDA/OpenCL 生态,支持 PyTorch、ONNX、TensorRT 等主流框架与工具链。YOLOv8(检测、实例分割、姿态估计、分类全系列)可通过 INT8 量化后平滑迁移部署,无需大规模重构算法代码。


登临 KS20-A 能跑 YOLOv8 和 DeepSeek 吗?实测表现如何?(图1)


2. 性能参考(基于 60TOPS 算力估算 + 官方场景数据)


目前官方未直接公布 YOLOv8 单模型的精确帧率,但结合硬件算力、官方公布的多路视频分析能力,以及同算力产品横向对比,可得到参考性能:


YOLOv8n(640×640,INT8 量化,单路):纯推理帧率约 180~250 FPS


YOLOv8s(640×640,INT8 量化,单路):纯推理帧率约 80~120 FPS


多路视频场景:配合板载硬件编解码引擎(最大支持 60 路 1080P@30FPS 硬解码),可实现 16 路 1080P 视频同时跑 YOLOv8 检测,每路稳定 15~20 FPS,满足安防监控、工业质检等常规实时场景需求。


该卡的优势在于低功耗下的高能效:典型功耗仅 20~25W,同等算力下能效比远超通用消费级 GPU,适合边缘嵌入式、工业终端等供电受限场景。


二、DeepSeek 适配与性能表现


1. 适配能力


登临 KS 系列已官方完成 DeepSeek 全系列模型的 Day0 级适配,包括 DeepSeek-V2/V3 基座、DeepSeek-R1 推理模型及对应的蒸馏版本,支持 vLLM 推理框架,可直接加载 HuggingFace 格式的量化模型,部署门槛低。


2. 模型承载能力(与显存强相关)


KS20-A 显存可选 8/16/32/64GB 四档,不同显存对应可部署的 DeepSeek 模型规格如下:


显存规格

可稳定运行的 DeepSeek 模型(量化后)

8GB

DeepSeek-7B(INT4/INT8 量化)

16GB

DeepSeek-14B(INT4 量化)、DeepSeek-R1-Distill-7B/14B

32GB

DeepSeek-32B 级别蒸馏模型(INT4 量化),与官方“单卡加载 Qwen3 30B”的能力匹配


注:60TOPS 版本为 KS20 的工业/低功耗档位,标准 KS20 为 70TOPS,二者架构一致,算力差异约 15%,模型承载能力主要由显存决定。


3. 推理速度参考(估算值)


官方未公开 DeepSeek 单卡的精确测速数据,基于 60TOPS INT8 算力、INT4 量化、2K 上下文长度的典型场景横向估算:


7B 级别模型:首 Token 延迟约 200~300ms,持续解码速度约 15~25 token/s


14B 级别模型:持续解码速度约 8~15 token/s


32B 级别蒸馏模型:持续解码速度约 3~8 token/s


实际速度会受量化精度、上下文长度、Batch 大小、KV 缓存优化等因素影响,长上下文场景下速度会有所下降。


三、补充:KS20-A 核心硬件参数


算力:60TOPS(INT8,边缘工况标称值,标准 KS20 为 70TOPS)


典型功耗:20~25W


显存:8/16/32/64GB 可选


接口形态:PCIe、MXM、M.2 多形态可选,适配不同设备结构


编解码:最大 60 路 1080P@30FPS 硬解码,2122 FPS@1080P 图片解码


整体来看,KS20-A 定位是低功耗边缘通用算力卡,YOLOv8 类视觉检测是其优势场景,性能大幅领先普通边缘 SoC;DeepSeek 类大模型可实现本地轻量化部署,适合离线对话、本地知识库、边缘端“视觉+大模型”协同等对功耗、体积有严格要求的场景。

- END -

家具美容培训

家具维修培训

分享:
留言 留言 试用申请
产品咨询 产品咨询 产品咨询
18116674131(王小姐)
17340067106(毛先生)
技术咨询 技术咨询 软件算法咨询
18982151213(刘先生)
微信在线客服 微信在线客服 在线客服
返回官网顶部 返回官网顶部 回到顶部
关闭窗口
产品订购
  • *

  • *

  • *

  • *

  • *