摘要

本文基于YOLO26目标检测算法，构建了一套石头剪刀布手势识别检测系统。该系统针对“布”、“石头”、“剪刀”三类手势进行实时检测与分类。实验采用包含7359张图像的数据集（训练集6455张、验证集576张、测试集304张），经过充分训练后，模型在验证集上取得了优异的性能表现：整体mAP50达到0.965，精确率为0.945，召回率为0.932。其中“布”的识别效果最佳（mAP50=0.971），“剪刀”相对略低（mAP50=0.960）。混淆矩阵分析显示，三类手势之间的相互误判率低于4%，表明模型具有良好的类间区分能力。整体而言，该系统在受控环境下具备可靠的实时部署能力，推理速度达0.8ms/张，可满足实际应用需求。

详细功能展示视频

https://www.bilibili.com/video/BV1WzopB5Egf/

目录

  摘要

详细功能展示视频

功能模块

1、用户管理模块

2、界面与交互模块

3、检测源管理模块

4、检测参数配置模块

5、YOLO检测核心模块

6、结果显示模块

7、结果保存模块

8、工具栏功能

9、辅助功能

10、数据校验模块

引言

背景

数据集介绍

训练结果

总体评价：表现优秀​编辑

各类别性能分析

关键发现：

混淆矩阵分析（关键问题）​编辑​编辑

主要问题：

训练曲线分析​编辑

PR曲线分析​编辑

Ultralytics YOLO26

概述

主要功能

常用标注工具

详细功能展示视频

---

功能模块

✅ 用户登录注册：支持密码检测，密码加密。

注册

登录

✅ 图片检测：可对图片进行检测，返回检测框及类别信息。

✅ 参数实时调节（置信度和IoU阈值）

✅ 视频检测：支持视频文件输入，检测视频中每一帧的情况。

✅ 摄像头实时检测：连接USB 摄像头，实现实时监测。

✅日志记录：日志标签页记录操作和错误信息，带时间戳

✅结果保存模块：支持图片/视频/摄像头检测结果保存

1、用户管理模块

功能	描述
用户注册	用户名、密码、确认密码、邮箱（选填）注册，密码SHA256加密存储
用户登录	用户名密码验证，自动跳转主界面
用户数据存储	JSON文件存储用户信息（密码加密、注册时间、邮箱）
登录状态	主界面显示当前登录用户名

2、界面与交互模块

功能	描述
玻璃效果界面	半透明毛玻璃背景，圆角边框，现代化视觉风格
无边框窗口	自定义标题栏，支持窗口拖动、最小化、最大化、关闭
响应式布局	主窗口三栏布局（左侧控制区、中央显示区、右侧信息区）
状态栏	显示设备信息、模型状态、当前用户、实时时间

3、检测源管理模块

功能	描述
图片检测	支持JPG/JPEG/PNG/BMP格式图片载入
视频检测	支持MP4/AVI/MOV/MKV格式视频载入
摄像头检测	实时调用摄像头（默认ID 0）进行检测
检测源切换	下拉菜单切换三种检测模式，自动更新界面状态

4、检测参数配置模块

功能	描述
置信度阈值	滑动条调节（0-100%，步长1%），实时显示当前值
IoU阈值	滑动条调节（0-100%，步长1%），实时显示当前值
类别选择	动态生成检测类别复选框，支持全选/取消全选
参数同步	参数实时同步到检测器核心

5、YOLO检测核心模块

功能	描述
模型加载	加载best.pt模型文件，自动检测GPU可用性，支持CPU/GPU切换
多模式检测	图片检测、视频检测、摄像头实时检测
检测线程	基于QThread的多线程处理，避免界面卡顿
检测结果	返回目标类别、置信度、边界框坐标
FPS计算	实时计算处理帧率
进度反馈	视频处理进度条实时更新

6、结果显示模块

功能	描述
实时画面	中央区域显示检测结果图像（带标注框）
统计信息	检测状态、目标数量、FPS、处理帧数实时更新
检测列表	右侧列表显示当前帧所有检测到的目标（类别+置信度）
日志记录	日志标签页记录操作和错误信息，带时间戳
占位显示	未选择检测源时显示系统LOGO和提示文字

7、结果保存模块

功能	描述
保存开关	复选框控制是否保存检测结果
路径选择	自定义保存路径，支持图片/视频格式自动识别
自动命名	保存文件自动添加时间戳（detection_result_20240101_120000.jpg）
视频保存	支持检测结果视频录制（MP4格式）
手动保存	工具栏保存按钮可随时保存当前画面
保存反馈	保存成功弹窗提示，日志记录保存路径

8、工具栏功能

功能	描述
图片按钮	快速切换到图片检测模式并打开文件选择器
视频按钮	快速切换到视频检测模式并打开文件选择器
摄像头按钮	快速切换到摄像头检测模式
保存按钮	手动保存当前显示画面

9、辅助功能

功能	描述
错误处理	统一错误弹窗提示，日志记录错误详情
资源清理	检测停止时自动释放摄像头、视频文件、视频写入器资源
时间显示	状态栏实时显示系统时间
模型状态	状态栏显示模型加载状态和当前设备（CPU/GPU）

10、数据校验模块

功能	描述
注册验证	用户名长度≥3，密码长度≥6，密码一致性检查，邮箱格式验证
协议确认	注册前需勾选同意用户协议
文件校验	模型文件存在性检查，文件大小验证（≥6MB）
输入非空	登录/注册时必填项非空检查

引言

石头剪刀布作为一种简单且广泛流行的手势游戏，在人机交互、机器人控制、儿童教育娱乐等领域具有潜在的应用价值。传统的基于视觉的手势识别方法多依赖于手工设计的特征（如HOG、SIFT）或传统机器学习分类器（如SVM），在复杂背景、光照变化及手部姿态多样化的场景下泛化能力有限。近年来，以YOLO系列为代表的深度学习目标检测算法凭借其端到端的预测机制、高精度与实时性的平衡优势，成为手势识别任务的主流技术路径。

本研究旨在开发一套基于YOLO26架构的石头剪刀布手势检测系统，实现对三类手势的快速、准确定位与分类。通过对模型的训练过程、损失曲线、精确率-召回率曲线及混淆矩阵等指标的全面分析，评估其在真实场景下的可用性，并识别当前模型存在的关键瓶颈（如背景误检问题）。本文的研究成果可为轻量级手势交互系统的工程化部署提供参考依据。

背景

石头剪刀布手势识别作为计算机视觉与人机交互领域的一个典型分类与检测任务，虽看似简单，实则涵盖了目标检测中的多项核心挑战。首先，手部作为非刚性物体，其形态在不同个体之间以及同一个体不同姿态下呈现出显著差异——同样是“剪刀”手势，不同人的手指开合角度、手掌朝向、指尖间距等特征各不相同；而“布”手势中手指的舒展程度、“石头”手势中拳头的紧握形态也因人而异。这种类内方差使得模型需要具备较强的特征抽象能力。

其次，手势识别面临的环境干扰因素极为复杂。光照条件的变化会直接影响手部区域的纹理和边缘信息；复杂背景中可能存在与手势纹理或形状相似的非目标物体（如圆形图案误判为石头、条状物体误判为剪刀）；手部与背景之间的低对比度情况也会加大检测难度。此外，手势检测系统往往要求低延迟响应（尤其是在实时交互场景中），这对模型的推理效率提出了明确约束。

传统方法在应对上述挑战时各有局限。基于肤色分割的方法易受光照和肤色差异影响；基于模板匹配的方法对尺度与旋转变化敏感；基于HOG+SVM的级联分类器在复杂背景下虚警率偏高。深度学习方法的引入，尤其是YOLO系列算法，通过将检测问题统一为回归问题，实现了从图像像素到边界框与类别的端到端映射，显著提升了手势识别的鲁棒性与实时性。

在此背景下，本研究选择YOLO26架构构建石头剪刀布手势检测系统，旨在探索深度学习模型在简单手势识别任务上的性能边界，并通过详尽的指标分析揭示模型的优势与不足，为后续优化提供数据支撑。同时，该研究也可作为目标检测入门级应用案例，服务于手势交互、智能教育及机器人控制等实际场景。

数据集介绍

本研究使用自建或公开的石头剪刀布手势检测数据集，数据集中共包含三类手势：布（Paper）、石头（Rock）、剪刀（Scissors）。数据集按照训练、验证、测试三部分进行划分，具体数量分布如下：

数据集划分	图像数量	用途说明
训练集	6455张	用于模型参数学习与特征提取
验证集	576张	用于训练过程中的超参数调优与性能监控
测试集	304张	用于最终模型性能的独立评估（本分析中未展示测试结果）

在验证集的576张图像中，共包含400个手势实例（Instances）。各类别的具体样本分布为：

• 布（Paper）：132张图像中包含139个实例

• 石头（Rock）：121张图像中包含141个实例

• 剪刀（Scissors）：116张图像中包含120个实例

训练结果

总体评价：表现优秀

模型整体识别效果很好，mAP50达到0.965，精确率0.945，召回率0.932，说明模型已经成功学习到了三类手势的特征。

---

各类别性能分析

类别	样本数	精确率(P)	召回率(R)	mAP50	mAP50-95	评价
布	139	0.970	0.935	0.971	0.827	最佳
石头	141	0.955	0.936	0.963	0.791	良好
剪刀	120	0.910	0.926	0.960	0.794	略低

关键发现：

• “布”识别最准：精确率0.97，mAP最高

• “剪刀”相对较弱：精确率0.91，比“布”低6个百分点，容易被误判

---

混淆矩阵分析（关键问题）

从归一化混淆矩阵看出：

真实\预测	布	石头	剪刀	background
布	0.94	0.03	0.01	0.27
石头	0.01	0.93	0.03	0.40
剪刀	0.01	0.04	0.93	0.33

主要问题：

1. 背景误检严重：大量背景被错误识别为手势

   • 27%的背景被识别为“布”

   • 40%的背景被识别为“石头”

   • 33%的背景被识别为“剪刀”

2. 类别间混淆较小：布↔石头↔剪刀的相互误判率仅1-4%，说明手势区分度好

---

训练曲线分析

从results.png看：

指标	状态	说明
train/box_loss	✅ 稳定下降	从1.45→0.00，收敛良好
train/cls_loss	✅ 稳定下降	从3.0→0.3，学习充分
精确率	✅ 上升	0.225→0.98
召回率	✅ 上升	0.90→0.955
val/box_loss	✅ 稳定	收敛无过拟合
mAP50	✅ 上升	0.22→0.926
mAP50-95	✅ 上升	0.04→0.89

训练健康度：优秀，无过拟合迹象，损失函数平滑下降。

---

PR曲线分析

• 布：AP = 0.971（曲线最饱满）

• 石头：AP = 0.963

• 剪刀：AP = 0.960

PR曲线面积大，说明模型在不同置信度阈值下都保持良好性能。

Ultralytics YOLO26

概述

Ultralytics  YOLO26 是 YOLO 系列实时对象检测器的最新演进，从头开始专为边缘和低功耗设备而设计。它引入了简化的设计，消除了不必要的复杂性，同时集成了有针对性的创新，以实现更快、更轻、更易于访问的部署。

YOLO26 的架构遵循三个核心原则：

• 简洁性: YOLO26是一个原生的端到端模型，直接生成预测结果，无需非极大值抑制（NMS）。通过消除这一后处理步骤，推理变得更快、更轻量，并且更容易部署到实际系统中。这种突破性方法最初由清华大学的王傲在YOLOv10中开创，并在YOLO26中得到了进一步发展。
• 部署效率： 端到端设计消除了管道的整个阶段，从而大大简化了集成，减少了延迟，并使部署在各种环境中更加稳健。
• 训练创新：YOLO26 引入了MuSGD 优化器，它是SGD 和MUON的混合体——灵感来源于 Moonshot AI 在 LLM 训练中Kimi K2的突破。该优化器带来了增强的稳定性和更快的收敛，将语言模型中的优化进展转移到计算机视觉领域。
• 任务特定优化：YOLO26 针对专业任务引入了有针对性的改进，包括用于 Segmentation 的语义分割损失和多尺度原型模块，用于高精度 姿势估计 的残差对数似然估计 (RLE)，以及通过角度损失优化解码以解决 旋转框检测 中的边界问题。

这些创新共同提供了一个模型系列，该模型系列在小对象上实现了更高的精度，提供了无缝部署，并且在 CPU 上的运行速度提高了 43% — 使 YOLO26 成为迄今为止资源受限环境中最实用和可部署的 YOLO 模型之一。

主要功能

• DFL 移除
  分布式焦点损失（DFL）模块虽然有效，但常常使导出复杂化并限制了硬件兼容性。YOLO26 完全移除了 DFL，简化了推理过程，并拓宽了对边缘和低功耗设备的支持。

• 端到端无NMS推理
  与依赖NMS作为独立后处理步骤的传统检测器不同，YOLO26是原生端到端的。预测结果直接生成，减少了延迟，并使集成到生产系统更快、更轻量、更可靠。

• ProgLoss + STAL
  改进的损失函数提高了检测精度，在小目标识别方面有显著改进，这是物联网、机器人、航空影像和其他边缘应用的关键要求。

• MuSGD Optimizer
  一种新型混合优化器，结合了SGD和Muon。灵感来自 Moonshot AI 的Kimi K2，MuSGD 将 LLM 训练中的先进优化方法引入计算机视觉，从而实现更稳定的训练和更快的收敛。

• CPU推理速度提升高达43%
  YOLO26专为边缘计算优化，提供显著更快的CPU推理，确保在没有GPU的设备上实现实时性能。

• 实例分割增强
  引入语义分割损失以改善模型收敛，以及升级的原型模块，该模块利用多尺度信息以获得卓越的掩膜质量。

• 精确姿势估计
  集​成残差对数似然估计​(RLE)，以实现更精确的关键点定位，并优化解码过程以提高推理速度。

• 优化旋转框检测解码
  引入专门的角度损失以提高方形物体的检测精度，并优化旋转框检测解码以解决边界不连续性问题。

常用标注工具

假设您现在准备好进行标注。有几种开源工具可以帮助简化数据标注流程。以下是一些有用的开放标注工具：

Label Studio：一个灵活的工具，支持各种标注任务，并包含用于管理项目和质量控制的功能。 CVAT：一个强大的工具，支持各种标注格式和可定制的工作流程，使其适用于复杂的项目。 Labelme：一个简单易用的工具，可以快速标注带有多边形的图像，非常适合简单的任务。 LabelImg: 一款易于使用的图形图像标注工具，特别适合以 YOLO 格式创建边界框标注。

这些开源工具经济实惠，并提供一系列功能来满足不同的标注需求。

界面核心代码：

详细功能展示视频