摘要

本文基于YOLOv8目标检测算法构建了一个高精度的石头剪刀布手势识别系统。系统采用三类别检测框架(Paper、Rock、Scissors),共使用包含7365张图像的数据集进行训练与验证。训练结果显示,模型在576张验证集上取得了0.962的mAP50和0.79的mAP50-95,总体精确率达0.966,召回率达0.93。推理速度仅为3.8ms/图像(NVIDIA RTX 3080 Ti),满足实时检测需求。该模型参数量仅11.1M,适合部署于边缘计算设备,在人机交互、智能控制等场景具有实际应用价值。

关键词:YOLOv8;石头剪刀布检测;目标检测;手势识别;实时检测

引言

手势识别作为人机交互的重要分支,长期面临光照变化、手势多样性、实时性要求高等挑战。传统方法依赖手工特征(如HOG、SIFT)与分类器(SVM、决策树),在复杂背景下鲁棒性不足,且难以兼顾精度与速度。石头剪刀布手势虽类别简单,但存在类内差异(如手的旋转、遮挡)和类间相似性(如Paper与Rock的手形),对检测系统提出一定要求。

近年来,以YOLO系列为代表的一阶段目标检测算法凭借端到端的回归框架实现了精度与速度的平衡。YOLOv8进一步优化了网络结构(C2f模块)、损失函数(DFL损失)和数据增强策略,在COCO等通用数据集上表现优异。然而,针对具体手势检测任务,仍需根据应用场景进行针对性的训练与评估。本研究旨在构建一个轻量化、高精度的石头剪刀布检测系统,验证YOLOv8在该特定任务上的可行性,并通过详尽的指标分析(精确率、召回率、混淆矩阵、F1曲线、PR曲线)揭示模型的优势与不足,为后续部署提供依据。

目录

  摘要

引言

功能模块

1、用户管理模块

2、界面与交互模块

3、检测源管理模块

4、检测参数配置模块

5、YOLO检测核心模块

6、结果显示模块

7、结果保存模块

8、工具栏功能

9、辅助功能

10、数据校验模块

背景

数据集介绍

1. 数据来源与类别

2. 数据集划分

训练过程

训练结果

总体评价​编辑

各类别详细表现​编辑​编辑

混淆矩阵分析(关键发现)

原因推测:

归一化混淆矩阵​编辑

F1-置信度曲线​编辑

PR曲线​编辑

训练损失曲线(results.png)​编辑


功能模块

用户登录注册:支持密码检测,密码加密。

注册

登录

✅ 图片检测:可对图片进行检测,返回检测框及类别信息。

参数实时调节(置信度和IoU阈值)

✅ 支持选择检测目标:可以选择一个或者多个类目的目标进行检测

✅ 视频检测:支持视频文件输入,检测视频中每一帧的情况。

✅ 摄像头实时检测:连接USB 摄像头,实现实时监测。

日志记录:日志标签页记录操作和错误信息,带时间戳

结果保存模块:支持图片/视频/摄像头检测结果保存

1、用户管理模块

功能 描述
用户注册 用户名、密码、确认密码、邮箱(选填)注册,密码SHA256加密存储
用户登录 用户名密码验证,自动跳转主界面
用户数据存储 JSON文件存储用户信息(密码加密、注册时间、邮箱)
登录状态 主界面显示当前登录用户名

2、界面与交互模块

功能 描述
玻璃效果界面 半透明毛玻璃背景,圆角边框,现代化视觉风格
无边框窗口 自定义标题栏,支持窗口拖动、最小化、最大化、关闭
响应式布局 主窗口三栏布局(左侧控制区、中央显示区、右侧信息区)
状态栏 显示设备信息、模型状态、当前用户、实时时间

3、检测源管理模块

功能 描述
图片检测 支持JPG/JPEG/PNG/BMP格式图片载入
视频检测 支持MP4/AVI/MOV/MKV格式视频载入
摄像头检测 实时调用摄像头(默认ID 0)进行检测
检测源切换 下拉菜单切换三种检测模式,自动更新界面状态

4、检测参数配置模块

功能 描述
置信度阈值 滑动条调节(0-100%,步长1%),实时显示当前值
IoU阈值 滑动条调节(0-100%,步长1%),实时显示当前值
类别选择 动态生成检测类别复选框,支持全选/取消全选
参数同步 参数实时同步到检测器核心

5、YOLO检测核心模块

功能 描述
模型加载 加载best.pt模型文件,自动检测GPU可用性,支持CPU/GPU切换
多模式检测 图片检测、视频检测、摄像头实时检测
检测线程 基于QThread的多线程处理,避免界面卡顿
检测结果 返回目标类别、置信度、边界框坐标
FPS计算 实时计算处理帧率
进度反馈 视频处理进度条实时更新

6、结果显示模块

功能 描述
实时画面 中央区域显示检测结果图像(带标注框)
统计信息 检测状态、目标数量、FPS、处理帧数实时更新
检测列表 右侧列表显示当前帧所有检测到的目标(类别+置信度)
日志记录 日志标签页记录操作和错误信息,带时间戳
占位显示 未选择检测源时显示系统LOGO和提示文字

7、结果保存模块

功能 描述
保存开关 复选框控制是否保存检测结果
路径选择 自定义保存路径,支持图片/视频格式自动识别
自动命名 保存文件自动添加时间戳(detection_result_20240101_120000.jpg
视频保存 支持检测结果视频录制(MP4格式)
手动保存 工具栏保存按钮可随时保存当前画面
保存反馈 保存成功弹窗提示,日志记录保存路径

8、工具栏功能

功能 描述
图片按钮 快速切换到图片检测模式并打开文件选择器
视频按钮 快速切换到视频检测模式并打开文件选择器
摄像头按钮 快速切换到摄像头检测模式
保存按钮 手动保存当前显示画面

9、辅助功能

功能 描述
错误处理 统一错误弹窗提示,日志记录错误详情
资源清理 检测停止时自动释放摄像头、视频文件、视频写入器资源
时间显示 状态栏实时显示系统时间
模型状态 状态栏显示模型加载状态和当前设备(CPU/GPU)

10、数据校验模块

功能 描述
注册验证 用户名长度≥3,密码长度≥6,密码一致性检查,邮箱格式验证
协议确认 注册前需勾选同意用户协议
文件校验 模型文件存在性检查,文件大小验证(≥6MB)
输入非空 登录/注册时必填项非空检查

背景

石头剪刀布手势检测属于细粒度目标检测任务,其难点在于:第一,手势区域在图像中通常占比较小,且手部形变(握拳、伸展)导致边界框形状不稳定;第二,皮肤颜色与背景可能混淆,尤其当背景包含类肤色区域(木质桌面、浅色墙壁)时,易产生误检;第三,实时交互场景要求检测延迟低于人眼感知阈值(通常<30ms),这对模型计算效率提出约束。

传统机器学习方案往往需要人工设计特征提取器,并独立训练分类器与边界框回归器,流程复杂且泛化能力弱。深度学习时代,Faster R-CNN等两阶段检测器虽精度高,但速度难以满足实时需求;SSD和YOLO系列将检测建模为回归问题,实现单次前向传播完成预测。其中YOLOv8相较前代(YOLOv5、YOLOv7)引入了无锚框检测、TaskAligned分配策略和更高效的特征金字塔,在小目标与重叠目标场景下提升显著。因此,本研究选择YOLOv8作为基础架构,旨在探索其在三分类手势检测中的性能边界,并为类似小型目标检测任务提供参考范式。

数据集介绍

1. 数据来源与类别

本研究所用数据集为自建石头剪刀布手势图像库,共包含 3 个类别

  • Paper(布)

  • Rock(石头)

  • Scissors(剪刀)

2. 数据集划分

总图像数量为 7,735 张,按以下比例划分:

数据集 数量 用途
训练集 6,455 张 模型参数学习
验证集 576 张 超参数调优与中间评估
测试集 304 张 最终性能验证

训练过程

训练结果

总体评价

指标 评价
mAP50 0.962 极高
mAP50-95 0.79 良好(对小型手势检测很不错)
精确率 (P) 0.966 误检极少
召回率 (R) 0.93 漏检较少
参数量 11.1M 轻量
推理速度 3.8ms/图 实时可用

结论:模型训练成功,已具备实际部署能力。


各类别详细表现

类别 精确率 召回率 mAP50 mAP50-95
Paper 0.956 0.936 0.959 0.802
Rock 0.964 0.938 0.958 0.779
Scissors 0.979 0.917 0.969 0.788
  • Scissors 精确率最高(0.979),但召回率稍低(0.917),说明有少量剪刀被漏检。

  • Rock 性能最均衡。

  • Paper 稍弱,但仍在优秀范围。


混淆矩阵分析(关键发现)

从 confusion_matrix.png

  • Paper → Paper:131

  • Rock → Rock:135

  • Scissors → Scissors:111

真实类别 误检为 次数
Rock 背景 80 
Paper 背景 3
Scissors 背景 4
原因推测:
  • Rock 手势可能与背景相似(肤色 + 握拳)

  • 训练图像中 Rock 的边界框标注可能不一致

  • 数据增强导致 Rock 特征模糊


归一化混淆矩阵

  • Paper → Paper:0.94

  • Rock → Rock:0.96

  • Scissors → Scissors:0.92

  • Background 误检为 Paper:0.05(较低)


F1-置信度曲线

  • 最佳 F1 = 0.95 @ 置信度阈值 0.715

  • 推荐部署时使用 conf_thres = 0.7


PR曲线

  • 三类 PR 曲线接近右上角

  • mAP50 均在 0.96 以上

  • 类别均衡性好


训练损失曲线(results.png)

损失 趋势 评价
train/box_loss 持续下降 正常收敛
train/cls_loss 下降稳定
val/box_loss 平缓下降 无过拟合
val/cls_loss 稳定

没有明显过拟合,训练与验证损失同步下降。

假设您现在准备好进行标注。有几种开源工具可以帮助简化数据标注流程。以下是一些有用的开放标注工具:

Label Studio:一个灵活的工具,支持各种标注任务,并包含用于管理项目和质量控制的功能。 CVAT:一个强大的工具,支持各种标注格式和可定制的工作流程,使其适用于复杂的项目。 Labelme:一个简单易用的工具,可以快速标注带有多边形的图像,非常适合简单的任务。 LabelImg: 一款易于使用的图形图像标注工具,特别适合以 YOLO 格式创建边界框标注。

用于实例分割的 LabelMe 标注工具

这些开源工具经济实惠,并提供一系列功能来满足不同的标注需求。

界面核心代码:

Logo

AtomGit 是由开放原子开源基金会联合 CSDN 等生态伙伴共同推出的新一代开源与人工智能协作平台。平台坚持“开放、中立、公益”的理念,把代码托管、模型共享、数据集托管、智能体开发体验和算力服务整合在一起,为开发者提供从开发、训练到部署的一站式体验。

更多推荐