一、前言

在工业边缘视觉、智能安防、视频分析等场景中,NVIDIA Jetson 系列设备长期占据主流地位,但在国产化替代、供应链自主可控、工业宽温适配、成本管控等需求下,国产边缘计算设备迎来了广阔的应用空间。

土星云 SE110S 系列是国科环宇推出的全国产化工业级边缘计算设备,搭载自研 AI 芯片,无风扇密闭设计、支持宽温运行,算力梯度覆盖轻量化到多并发场景,完美适配 YOLO 系列目标检测模型,可全面替代传统 Jetson 设备用于边缘 AI 推理。

本文将基于土星云 SE110S 三款主力机型,手把手完成 YOLOv8 完整部署实操,包含环境配置、项目克隆、原生运行、Docker 部署、参数调优、模型适配等全流程,同时项目还兼容 YOLOv9、YOLO11、YOLO12 等主流模型,兼顾 Python/C++ 双推理、Gradio 可视化界面,适合工业落地、算法调试与二次开发。

二、硬件介绍:土星云 SE110S 全系列选型

本次部署使用土星云 SE110S 三款边缘计算设备,三款机型搭载不同国产 AI 芯片,算力、路数、定位区分明确,可根据业务场景按需选择,全系支持 FP32/FP16/INT8 混合精度推理,工业级防护适配户外、车间、楼宇等复杂环境。

设备型号

核心芯片

INT8 峰值算力

内存 / 存储

最大视频解码路数

适用场景

SE110S-WA32

BM1684X

32 TOPS

16GB + 64GB eMMC

32路1080P

大型园区、厂区多算法并发、多路视频并行检测

SE110S-WB16

BM1688

16 TOPS

8GB + 32GB eMMC

16路 1080P

中小型厂房、楼宇安防、常规人员 / 车辆识别

SE110S-WC08

CV186AH

7.2 TOPS

8GB + 32GB eMMC

8路1080P

边缘末梢节点、单体建筑、小型点位轻量化检测

设备共性优势:

  1. 工业级设计:IP40 防尘、-20℃~60℃宽温运行,DC12V 供电,支持壁挂 / 机柜安装,7×24 小时无人值守运行;
  2. 国产化自主可控:核心 AI 芯片全国产,摆脱海外硬件依赖;
  3. 算法生态完善:原生适配 YOLOv8/YOLOv9/YOLO11/YOLO12,支持图片、视频双数据源推理;
  4. 部署灵活:原生 Python 运行 + Docker 容器化部署双方案,降低运维难度。

三、项目整体说明

3.1 项目地址

开源项目专门针对土星云 SE110S 系列设备适配 YOLOv8 推理,代码托管于 Gitee:

https://gitee.com/saturn-cloud/yolov8.git

3.2 项目核心特性

  1. 精度兼容:支持 FP32、FP16、INT8 三种主流模型精度推理,适配模型量化落地;
  2. 多语言推理:同时支持 C++、Python 两种开发语言,满足不同开发习惯;
  3. 多数据源:兼容静态图片、本地视频流测试,适配视频监控场景;
  4. 可视化界面:内置 Gradio Web UI,浏览器直接查看检测效果,无需额外开发前端;
  5. 模型兼容:除 YOLOv8 外,向下 / 向上兼容 YOLOv9、YOLO11、YOLO12 全系列模型;
  6. 容器化支持:提供一键 Docker 启动脚本,环境开箱即用,解决依赖冲突问题。

3.3 项目目录结构

克隆项目后,目录结构清晰,分工明确,便于二次开发与功能修改:

├── main.py # Gradio Web UI 主程序(网页可视化入口)

├── yolov8_opencv.py # YOLOv8 推理核心代码(业务逻辑主体)

├── postprocess_numpy.py # 模型后处理算法(解码检测框、置信度、类别)

├── utils.py # 通用工具函数(路径处理、图像预处理等)

├── start_docker.sh # Docker 一键部署启动脚本

├── models/ # 模型文件夹,存放 .bmodel 格式推理模型

│ └── *.bmodel

└── images/ # 测试图片文件夹,存放测试样本

3.4 环境依赖

部署前需确保设备安装以下基础依赖库(原生运行必备,Docker 部署可自动补齐):

  1. sophon-sail:国产芯片推理核心 SDK,SE110S 设备必备推理引擎
  2. opencv-python:图像处理、视频解码依赖
  3. gradio:Web 可视化界面框架
  4. numpy:数值计算、后处理数组运算

四、前置准备:模型准备

本项目不直接使用原生 PyTorch .pt 模型,需使用 .bmodel 格式模型(SE110S 设备专属推理格式),支持两种主流模型输出格式,模型导出请参考对应芯片官方文档完成转换:

  1. 单输出格式:Concat 统一输出结构,适配常规 YOLO 导出方式;
  2. 三输出格式:检测框 (det)、置信度 (conf)、原型分支 (proto) 分离,适配分割类模型与高精度场景。

将转换完成的 .bmodel 模型文件放入项目 models/ 目录下,后续推理脚本会自动加载。

五、完整部署实操

前置条件:土星云 SE110S 设备正常开机、联网,已配置好系统基础环境,设备与操作电脑处于同一局域网(保证浏览器可访问 Web 界面)。

Docker 方案一键启动,自动适配设备型号、加载对应模型,无需手动配置依赖,杜绝环境冲突,是工业生产、批量上线的首选方案。

步骤 1:进入项目目录

cd yolov8

步骤 2:执行一键启动脚本

项目内置 start_docker.sh 启动脚本,直接运行即可:

sh start_docker.sh

脚本执行逻辑:

1、自动识别当前 SE110S 设备型号(WA32/WB16/WC08);

2、拉取对应镜像、自动加载适配的 .bmodel 模型;

3、后台启动容器服务,监听 5000 端口。

步骤 3:访问 Web 检测界面

容器启动完成后,局域网浏览器访问:

http://{设备IP}:5000

功能与原生运行完全一致,支持图片、视频推理,容器化模式下服务稳定性更强,适合 7×24 小时运行。

六、运行参数详解(自定义推理配置)

项目支持命令行传参,可灵活修改数据源、模型路径、置信度阈值、NMS 阈值、设备 ID 等核心参数,适配不同业务需求。所有参数说明如下:

参数名

作用

默认值

使用示例

--input

测试数据路径(单张图片 / 图片文件夹 / 视频文件)

--input ./images/test.jpg

--bmodel

推理使用的 .bmodel 模型文件路径

--bmodel ./models/yolov8.bmodel

--dev_id

TPU 推理设备 ID(多卡设备使用)

0

--dev_id 0

--conf_thresh

目标检测置信度阈值(低于阈值的框会被过滤)

0.25

--conf_thresh 0.5

--nms_thresh

非极大值抑制 NMS 阈值(去除重复检测框)

0.7

--nms_thresh 0.45

带参启动示例

# 自定义置信度 0.5、NMS 0.45,指定模型与测试图片

python3 main.py --input ./images/demo.jpg --bmodel ./models/yolov8.bmodel --conf_thresh 0.5 --nms_thresh 0.45

七、常见问题排查

1. 浏览器无法访问 5000 端口

  1. 排查方向:设备防火墙是否放行 5000 端口,执行 sudo ufw allow 5000 开放端口;
  2. 确认设备与电脑在同一局域网,关闭电脑 VPN、虚拟网卡;
  3. 核对设备 IP 地址,可通过 ifconfig/ip addr 查看设备真实 IP。

2. 启动提示 sophon-sail 库缺失

  1. 原因:SE110S 设备未预装官方推理 SDK;
  2. 解决:参考土星云官方文档安装 sophon-sail 对应版本,Docker 部署一般不会出现该问题。

3. 模型加载失败

  1. 检查 models/ 目录下是否存在 .bmodel 文件;
  2. 确认模型格式为项目支持的单输出 / 三输出格式,模型导出需匹配芯片型号;
  3. 核对 --bmodel 参数路径是否正确。

4. 推理速度慢

  1. 优先使用 INT8 量化模型,大幅提升边缘设备推理速度;
  2. 调低置信度阈值、精简检测类别;
  3. 高并发场景优先选择 WA32/WB16 高算力机型。

八、总结与拓展

8.1 方案优势总结

  1. 国产化替代落地:土星云 SE110S 系列全国产硬件,性能对标 Jetson,满足信创、工业国产化场景要求;
  2. 部署极简:支持原生 Python + Docker 双方案,从调试到生产无缝衔接;
  3. 生态全面:一套代码兼容 YOLOv8/YOLOv9/YOLO11/YOLO12,支持多精度量化、多语言开发;
  4. 工业适配:工业级硬件 + 容器化服务,适配户外安防、工业检测、智慧园区等真实业务场景。

8.2 拓展方向

  1. 模型迭代:基于自有数据集训练 YOLOv8 模型后,转换为 .bmodel 格式部署至设备;
  2. 功能二次开发:修改 yolov8_opencv.py 增加抓拍、报警、数据上传等业务逻辑;
  3. 多模型并发:利用 SE110S 高算力特性,同时运行目标检测、实例分割、行为分析多算法;
  4. 视频流接入:对接 RTSP 监控视频流,实现 7×24 小时实时视频智能分析。

目前国产边缘 AI 硬件生态日趋完善,土星云 SE110S 系列搭配 YOLO 系列模型,已经可以完全替代传统海外边缘设备,成为工业边缘视觉落地的高性价比选择。本文整套部署流程经过真机实测,可直接复刻用于项目落地。

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐