替代 Jetson!国产化土星云边缘设备 YOLOv8 部署完整实操
一、前言
在工业边缘视觉、智能安防、视频分析等场景中,NVIDIA Jetson 系列设备长期占据主流地位,但在国产化替代、供应链自主可控、工业宽温适配、成本管控等需求下,国产边缘计算设备迎来了广阔的应用空间。
土星云 SE110S 系列是国科环宇推出的全国产化工业级边缘计算设备,搭载自研 AI 芯片,无风扇密闭设计、支持宽温运行,算力梯度覆盖轻量化到多并发场景,完美适配 YOLO 系列目标检测模型,可全面替代传统 Jetson 设备用于边缘 AI 推理。
本文将基于土星云 SE110S 三款主力机型,手把手完成 YOLOv8 完整部署实操,包含环境配置、项目克隆、原生运行、Docker 部署、参数调优、模型适配等全流程,同时项目还兼容 YOLOv9、YOLO11、YOLO12 等主流模型,兼顾 Python/C++ 双推理、Gradio 可视化界面,适合工业落地、算法调试与二次开发。
二、硬件介绍:土星云 SE110S 全系列选型
本次部署使用土星云 SE110S 三款边缘计算设备,三款机型搭载不同国产 AI 芯片,算力、路数、定位区分明确,可根据业务场景按需选择,全系支持 FP32/FP16/INT8 混合精度推理,工业级防护适配户外、车间、楼宇等复杂环境。
|
设备型号 |
核心芯片 |
INT8 峰值算力 |
内存 / 存储 |
最大视频解码路数 |
适用场景 |
|
SE110S-WA32 |
BM1684X |
32 TOPS |
16GB + 64GB eMMC |
32路1080P |
大型园区、厂区多算法并发、多路视频并行检测 |
|
SE110S-WB16 |
BM1688 |
16 TOPS |
8GB + 32GB eMMC |
16路 1080P |
中小型厂房、楼宇安防、常规人员 / 车辆识别 |
|
SE110S-WC08 |
CV186AH |
7.2 TOPS |
8GB + 32GB eMMC |
8路1080P |
边缘末梢节点、单体建筑、小型点位轻量化检测 |
设备共性优势:
- 工业级设计:IP40 防尘、-20℃~60℃宽温运行,DC12V 供电,支持壁挂 / 机柜安装,7×24 小时无人值守运行;
- 国产化自主可控:核心 AI 芯片全国产,摆脱海外硬件依赖;
- 算法生态完善:原生适配 YOLOv8/YOLOv9/YOLO11/YOLO12,支持图片、视频双数据源推理;
- 部署灵活:原生 Python 运行 + Docker 容器化部署双方案,降低运维难度。
三、项目整体说明
3.1 项目地址
开源项目专门针对土星云 SE110S 系列设备适配 YOLOv8 推理,代码托管于 Gitee:
|
https://gitee.com/saturn-cloud/yolov8.git |
3.2 项目核心特性
- 精度兼容:支持 FP32、FP16、INT8 三种主流模型精度推理,适配模型量化落地;
- 多语言推理:同时支持 C++、Python 两种开发语言,满足不同开发习惯;
- 多数据源:兼容静态图片、本地视频流测试,适配视频监控场景;
- 可视化界面:内置 Gradio Web UI,浏览器直接查看检测效果,无需额外开发前端;
- 模型兼容:除 YOLOv8 外,向下 / 向上兼容 YOLOv9、YOLO11、YOLO12 全系列模型;
- 容器化支持:提供一键 Docker 启动脚本,环境开箱即用,解决依赖冲突问题。
3.3 项目目录结构
克隆项目后,目录结构清晰,分工明确,便于二次开发与功能修改:
|
├── main.py # Gradio Web UI 主程序(网页可视化入口) ├── yolov8_opencv.py # YOLOv8 推理核心代码(业务逻辑主体) ├── postprocess_numpy.py # 模型后处理算法(解码检测框、置信度、类别) ├── utils.py # 通用工具函数(路径处理、图像预处理等) ├── start_docker.sh # Docker 一键部署启动脚本 ├── models/ # 模型文件夹,存放 .bmodel 格式推理模型 │ └── *.bmodel └── images/ # 测试图片文件夹,存放测试样本 |
3.4 环境依赖
部署前需确保设备安装以下基础依赖库(原生运行必备,Docker 部署可自动补齐):
- sophon-sail:国产芯片推理核心 SDK,SE110S 设备必备推理引擎
- opencv-python:图像处理、视频解码依赖
- gradio:Web 可视化界面框架
- numpy:数值计算、后处理数组运算
四、前置准备:模型准备
本项目不直接使用原生 PyTorch .pt 模型,需使用 .bmodel 格式模型(SE110S 设备专属推理格式),支持两种主流模型输出格式,模型导出请参考对应芯片官方文档完成转换:
- 单输出格式:Concat 统一输出结构,适配常规 YOLO 导出方式;
- 三输出格式:检测框 (det)、置信度 (conf)、原型分支 (proto) 分离,适配分割类模型与高精度场景。
将转换完成的 .bmodel 模型文件放入项目 models/ 目录下,后续推理脚本会自动加载。
五、完整部署实操
前置条件:土星云 SE110S 设备正常开机、联网,已配置好系统基础环境,设备与操作电脑处于同一局域网(保证浏览器可访问 Web 界面)。
Docker 方案一键启动,自动适配设备型号、加载对应模型,无需手动配置依赖,杜绝环境冲突,是工业生产、批量上线的首选方案。
步骤 1:进入项目目录
|
cd yolov8 |
步骤 2:执行一键启动脚本
项目内置 start_docker.sh 启动脚本,直接运行即可:
|
sh start_docker.sh |
脚本执行逻辑:
1、自动识别当前 SE110S 设备型号(WA32/WB16/WC08);
2、拉取对应镜像、自动加载适配的 .bmodel 模型;
3、后台启动容器服务,监听 5000 端口。
步骤 3:访问 Web 检测界面
容器启动完成后,局域网浏览器访问:
|
http://{设备IP}:5000 |
功能与原生运行完全一致,支持图片、视频推理,容器化模式下服务稳定性更强,适合 7×24 小时运行。
六、运行参数详解(自定义推理配置)
项目支持命令行传参,可灵活修改数据源、模型路径、置信度阈值、NMS 阈值、设备 ID 等核心参数,适配不同业务需求。所有参数说明如下:
|
参数名 |
作用 |
默认值 |
使用示例 |
|
--input |
测试数据路径(单张图片 / 图片文件夹 / 视频文件) |
无 |
--input ./images/test.jpg |
|
--bmodel |
推理使用的 .bmodel 模型文件路径 |
无 |
--bmodel ./models/yolov8.bmodel |
|
--dev_id |
TPU 推理设备 ID(多卡设备使用) |
0 |
--dev_id 0 |
|
--conf_thresh |
目标检测置信度阈值(低于阈值的框会被过滤) |
0.25 |
--conf_thresh 0.5 |
|
--nms_thresh |
非极大值抑制 NMS 阈值(去除重复检测框) |
0.7 |
--nms_thresh 0.45 |
带参启动示例
|
# 自定义置信度 0.5、NMS 0.45,指定模型与测试图片 python3 main.py --input ./images/demo.jpg --bmodel ./models/yolov8.bmodel --conf_thresh 0.5 --nms_thresh 0.45 |
七、常见问题排查
1. 浏览器无法访问 5000 端口
- 排查方向:设备防火墙是否放行 5000 端口,执行 sudo ufw allow 5000 开放端口;
- 确认设备与电脑在同一局域网,关闭电脑 VPN、虚拟网卡;
- 核对设备 IP 地址,可通过 ifconfig/ip addr 查看设备真实 IP。
2. 启动提示 sophon-sail 库缺失
- 原因:SE110S 设备未预装官方推理 SDK;
- 解决:参考土星云官方文档安装 sophon-sail 对应版本,Docker 部署一般不会出现该问题。
3. 模型加载失败
- 检查 models/ 目录下是否存在 .bmodel 文件;
- 确认模型格式为项目支持的单输出 / 三输出格式,模型导出需匹配芯片型号;
- 核对 --bmodel 参数路径是否正确。
4. 推理速度慢
- 优先使用 INT8 量化模型,大幅提升边缘设备推理速度;
- 调低置信度阈值、精简检测类别;
- 高并发场景优先选择 WA32/WB16 高算力机型。
八、总结与拓展
8.1 方案优势总结
- 国产化替代落地:土星云 SE110S 系列全国产硬件,性能对标 Jetson,满足信创、工业国产化场景要求;
- 部署极简:支持原生 Python + Docker 双方案,从调试到生产无缝衔接;
- 生态全面:一套代码兼容 YOLOv8/YOLOv9/YOLO11/YOLO12,支持多精度量化、多语言开发;
- 工业适配:工业级硬件 + 容器化服务,适配户外安防、工业检测、智慧园区等真实业务场景。
8.2 拓展方向
- 模型迭代:基于自有数据集训练 YOLOv8 模型后,转换为 .bmodel 格式部署至设备;
- 功能二次开发:修改 yolov8_opencv.py 增加抓拍、报警、数据上传等业务逻辑;
- 多模型并发:利用 SE110S 高算力特性,同时运行目标检测、实例分割、行为分析多算法;
- 视频流接入:对接 RTSP 监控视频流,实现 7×24 小时实时视频智能分析。
目前国产边缘 AI 硬件生态日趋完善,土星云 SE110S 系列搭配 YOLO 系列模型,已经可以完全替代传统海外边缘设备,成为工业边缘视觉落地的高性价比选择。本文整套部署流程经过真机实测,可直接复刻用于项目落地。
AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。
更多推荐



所有评论(0)