官方教程：

https://github.com/ultralytics/yolov5/wiki/Train-Custom-Data

VOC格式数据

1.在yolov5目录下创建VOC2007文件夹，有

VOC2007
	…Annotations # 存放图片对应的xml文件
	…JPEGImages # 存放图片
	…ImageSets/Main #之后会在Main文件夹内自动生成train.txt，val.txt，test.txt和trainval.txt四个文件，存放训练集、验证集、测试集图片的名字（无后缀.jpg）

注意：建议将JPEGImages名字改为images，因为我后面训练报错了，不改也行，可以改一下代码即可。

生成train.txt，val.txt，test.txt和trainval.txt四个文件：
在VOC2007目录下创建split_train_val.py文件：

# coding:utf-8

import os
import random
import argparse

parser = argparse.ArgumentParser()
#xml文件的地址，根据自己的数据进行修改 xml一般存放在Annotations下
parser.add_argument('--xml_path', default='Annotations', type=str, help='input xml label path')
#数据集的划分，地址选择自己数据下的ImageSets/Main
parser.add_argument('--txt_path', default='ImageSets/Main', type=str, help='output txt label path')
opt = parser.parse_args()

trainval_percent = 1.0
train_percent = 0.9
xmlfilepath = opt.xml_path
txtsavepath = opt.txt_path
total_xml = os.listdir(xmlfilepath)
if not os.path.exists(txtsavepath):
    os.makedirs(txtsavepath)

num = len(total_xml)
list_index = range(num)
tv = int(num * trainval_percent)
tr = int(tv * train_percent)
trainval = random.sample(list_index, tv)
train = random.sample(trainval, tr)

file_trainval = open(txtsavepath + '/trainval.txt', 'w')
file_test = open(txtsavepath + '/test.txt', 'w')
file_train = open(txtsavepath + '/train.txt', 'w')
file_val = open(txtsavepath + '/val.txt', 'w')

for i in list_index:
    name = total_xml[i][:-4] + '\n'
    if i in trainval:
        file_trainval.write(name)
        if i in train:
            file_train.write(name)
        else:
            file_val.write(name)
    else:
        file_test.write(name)

file_trainval.close()
file_train.close()
file_val.close()
file_test.close()

2、准备labels数据，把数据集格式转换成yolo_txt格式，即将每个xml标注提取bbox信息为txt格式（这种数据集格式成为yolo_txt格式），每个图像对应一个txt文件，文件每一行为一个目标的信息，包括类别、 xmin、 xmax、 ymin 、ymax。格式如下：

VOC2007目录下创建voc_label.py文件，将训练集、验证集、测试集生成label标签（训练中要用到），同时将数据集路径导入txt文件中，代码内容如下：

# -*- coding: utf-8 -*-
import xml.etree.ElementTree as ET
import os

sets = ['train', 'val', 'test']
# classes = ["a", "b"]   # 改成自己的类别
classes = ["aeroplane", 'bicycle', 'bird', 'boat', 'bottle', 'bus', 'car', 'cat', 'chair', 'cow', 'diningtable', 'dog',
           'horse', 'motorbike', 'person', 'pottedplant', 'sheep', 'sofa', 'train', 'tvmonitor']  # class names
abs_path = os.getcwd()


def convert(size, box):
    dw = 1. / (size[0])
    dh = 1. / (size[1])
    x = (box[0] + box[1]) / 2.0 - 1
    y = (box[2] + box[3]) / 2.0 - 1
    w = box[1] - box[0]
    h = box[3] - box[2]
    x = x * dw
    w = w * dw
    y = y * dh
    h = h * dh
    return x, y, w, h


def convert_annotation(image_id):
    in_file = open(abs_path + '/Annotations/%s.xml' % (image_id), encoding='UTF-8')
    out_file = open(abs_path + '/labels/%s.txt' % (image_id), 'w')
    tree = ET.parse(in_file)
    root = tree.getroot()
    size = root.find('size')
    w = int(size.find('width').text)
    h = int(size.find('height').text)
    for obj in root.iter('object'):
        difficult = obj.find('difficult').text
        # difficult = obj.find('Difficult').text
        cls = obj.find('name').text
        if cls not in classes or int(difficult) == 1:
            continue
        cls_id = classes.index(cls)
        xmlbox = obj.find('bndbox')
        b = (float(xmlbox.find('xmin').text), float(xmlbox.find('xmax').text), float(xmlbox.find('ymin').text),
             float(xmlbox.find('ymax').text))
        b1, b2, b3, b4 = b
        # 标注越界修正
        if b2 > w:
            b2 = w
        if b4 > h:
            b4 = h
        b = (b1, b2, b3, b4)
        bb = convert((w, h), b)
        out_file.write(str(cls_id) + " " + " ".join([str(a) for a in bb]) + '\n')


for image_set in sets:
    if not os.path.exists(abs_path + '/labels/'):
        os.makedirs(abs_path + '/labels/')

    image_ids = open(abs_path + '/ImageSets/Main/%s.txt' % (image_set)).read().strip().split()
    list_file = open(abs_path + '/%s.txt' % (image_set), 'w')
    for image_id in image_ids:
        list_file.write(abs_path + '/JPEGImages/%s.jpg\n' % (image_id))
        convert_annotation(image_id)
    list_file.close()

txt文件内容如下：

3、配置数据集文件
在yolov5目录下的data或VOC2007文件夹下，新建一个voc2007.yaml文件（我是在VOC2007下建立的，和原码区别一下，和coco128.yaml很相似），用来存放训练集和验证集的划分文件（train.txt和val.txt），目标的类别数目和具体类别列表，内容如下：

4、修改models目录下的yolov5s.yaml文件。这里可以根据自己选择的模型大小修改对应文件。（按自己需要改，追求轻量化，可以不要该）

nc: 20   #nc：类别数，你的类别有多少就填写多少。从1开始算起，不是0-14这样算。
#顺便一提， 下面两个参数可控制网络结构，不需修改，与模型大小已经对应。
depth_multiple: 0.33  # 控制模型的深度，假设yolov5l中有三个Bottleneck，那yolov5s中就只有一个Bottleneck。
width_multiple: 0.50  # 控制卷积核的个数设置为0.5，Focus就变成[32, 3]，Conv就变成[64, 3, 2]。以此类推，卷积核的个数都变成了设置的一半。

训练

在train.py进行修改，跑个50轮，batch_size看显存：

以上参数解释如下：
epochs：指的就是训练过程中整个数据集将被迭代多少次,显卡不行你就调小点。
batch-size：一次看完多少张图片才进行权重更新，梯度下降的mini-batch,显卡不行你就调小点。
cfg：存储模型结构的配置文件
data：存储训练、测试数据的文件
img-size：输入图片宽高,显卡不行你就调小点。
rect：进行矩形训练
resume：恢复最近保存的模型开始训练
nosave：仅保存最终checkpoint
notest：仅测试最后的epoch
evolve：进化超参数
bucket：gsutil bucket
cache-images：缓存图像以加快训练速度
weights：权重文件路径
name： 重命名results.txt to results_name.txt
device：cuda device, i.e. 0 or 0,1,2,3 or cpu
adam：使用adam优化
multi-scale：多尺度训练，img-size +/- 50%
single-cls：单类别的训练集

python train.py --img 640 --batch 16 --epoch 50 --data my_data/VOC2007/voc2007.yaml --cfg models/yolov5s.yaml --weights weights/yolov5s.pt --device '0'     # 0号GPU

报错：
AssertionError: train: No labels in 2007_train.cache. Can not train without labels
解决：
打开dataset.py文件

按照正常的VOC标注之后图片应该时保存在JPEGImages文件夹下的，但是根据源码则是读取的images里的图片，因此需要将images改为JPEGImages，这样就能正常读取了

训练过程可视化

利用tensorboard打开即可查看训练日志，我只跑了50轮，默认300，效果应该更好

tensorboard --logdir = uns/train/exp3

测试

# 选用训练的权重
parser.add_argument('--weights', nargs='+', type=str, default='runs/train/exp/weights/best.pt', help='model.pt path(s)')
# source=0表示摄像头实时检测，也可输入视频路径
parser.add_argument('--source', type=str, default='inference/videos/jyz.mp4', help='source') 
# 网络输入图片大小
parser.add_argument('--view-img', action='store_true', help='display results')
# 是否将检测的框坐标以txt文件形式保存，默认False，当需要报存时，可修改路径default="inference/output"
parser.add_argument('--save-txt', action='store_true', help='save results to *.txt')
# 设置只保留某一部分类别，添加语句default=[0,1,2]等id。
parser.add_argument('--classes', nargs='+', type=int, help='filter by class: --class 0, or --class 0 2 3')

python val.py  --data my_data/VOC2007/voc2007.yaml --weights runs/train/exp3/weights/best.pt --augment

模型推理

模型在没有标注的数据集上进行推理，在detect.py文件中指定测试图片和测试模型的路径，其他参数（img_size、置信度object confidence threshold、IOU threshold for NMS）可自行修改，如下

python detect.py --source data/images --weights weights/yolov5s.pt

(该命令中save_txt选项用于生成结果的txt标注文件，不指定则只会生成结果图像)

每个txt会生成一行一个目标的信息，信息包括类别序号、xcenter ycenter w h，后面四个为bbox位置，均为归一化数值，如下图：

在进行模型推理时，无论是加载模型的速度还是对测试图片的推理速度，都能明显感觉到YOLOv5比YOLOv3速度快，尤其是加载模型的速度，因为同样的数据集训练出来的模型YOLOv5更加轻量级，模型大小减小为YOLOv3的将近四分之一。

至此YOLOv5训练自己的数据集整个过程：制作数据集----模型训练----模型测试----模型推理阶段已全部完成。

参考：
YOLOv5训练自己的数据集（超详细完整版）
YOLOV5测试及训练自己的数据集

yolov5训练自己数据集