第T10周：数据增强

Zzzzzzzz1013

188人浏览 · 2026-06-12 15:54:35

Zzzzzzzz1013 · 2026-06-12 15:54:35 发布

🍨 本文为🔗365天深度学习训练营中的学习记录博客
🍖 原作者：K同学啊

一、前期准备工作

1.设置GPU

CPU因此跳过这一步

import matplotlib.pyplot as plt
import numpy as np
#隐藏警告
import warnings
warnings.filterwarnings('ignore')

from tensorflow.keras import layers
import tensorflow as tf
gpus = tf.config.list_physical_devices("GPU")

if gpus:
    tf.config.experimental.set_memory_growth(gpus[0], True)  #设置GPU显存用量按需使用
    tf.config.set_visible_devices([gpus[0]],"GPU")

# 打印显卡信息，确认GPU可用
print(gpus)

2.加载数据

data_dir   = "./34-data/"
img_height = 224
img_width  = 224
batch_size = 32

train_ds = tf.keras.preprocessing.image_dataset_from_directory(
    data_dir,
    validation_split=0.3,
    subset="training",
    seed=12,
    image_size=(img_height, img_width),
    batch_size=batch_size)

val_ds = tf.keras.preprocessing.image_dataset_from_directory(
    data_dir,
    validation_split=0.3,
    subset="validation",
    seed=12,
    image_size=(img_height, img_width),
    batch_size=batch_size)

val_batches = tf.data.experimental.cardinality(val_ds)
test_ds     = val_ds.take(val_batches // 5)
val_ds      = val_ds.skip(val_batches // 5)

print('Number of validation batches: %d' % tf.data.experimental.cardinality(val_ds))
print('Number of test batches: %d' % tf.data.experimental.cardinality(test_ds))

class_names = train_ds.class_names
print(class_names)

AUTOTUNE = tf.data.AUTOTUNE

def preprocess_image(image,label):
    return (image/255.0,label)

# 归一化处理
train_ds = train_ds.map(preprocess_image, num_parallel_calls=AUTOTUNE)
val_ds   = val_ds.map(preprocess_image, num_parallel_calls=AUTOTUNE)
test_ds  = test_ds.map(preprocess_image, num_parallel_calls=AUTOTUNE)

train_ds = train_ds.cache().prefetch(buffer_size=AUTOTUNE)
val_ds   = val_ds.cache().prefetch(buffer_size=AUTOTUNE)

plt.figure(figsize=(15, 10))  # 图形的宽为15高为10

for images, labels in train_ds.take(1):
    for i in range(8):
        
        ax = plt.subplot(5, 8, i + 1) 
        plt.imshow(images[i])
        plt.title(class_names[labels[i]])
        
        plt.axis("off")

二、数据增强

data_augmentation = tf.keras.Sequential([
  tf.keras.layers.experimental.preprocessing.RandomFlip("horizontal_and_vertical"),
  tf.keras.layers.experimental.preprocessing.RandomRotation(0.2),
])

# Add the image to a batch.
image = tf.expand_dims(images[i], 0)

plt.figure(figsize=(8, 8))
for i in range(9):
    augmented_image = data_augmentation(image)
    ax = plt.subplot(3, 3, i + 1)
    plt.imshow(augmented_image[0])
    plt.axis("off")

三、增强方式

方法一：将其嵌入model中

model = tf.keras.Sequential([
  data_augmentation,
  layers.Conv2D(16, 3, padding='same', activation='relu'),
  layers.MaxPooling2D(),
])

方法二：在Dataset数据集中进行数据增强

batch_size = 32
AUTOTUNE = tf.data.AUTOTUNE

def prepare(ds):
    ds = ds.map(lambda x, y: (data_augmentation(x, training=True), y), num_parallel_calls=AUTOTUNE)
    return ds

四、训练模型

model = tf.keras.Sequential([
  layers.Conv2D(16, 3, padding='same', activation='relu'),
  layers.MaxPooling2D(),
  layers.Conv2D(32, 3, padding='same', activation='relu'),
  layers.MaxPooling2D(),
  layers.Conv2D(64, 3, padding='same', activation='relu'),
  layers.MaxPooling2D(),
  layers.Flatten(),
  layers.Dense(128, activation='relu'),
  layers.Dense(len(class_names))
])

model.compile(optimizer='adam',
              loss=tf.keras.losses.SparseCategoricalCrossentropy(from_logits=True),
              metrics=['accuracy'])

epochs=20
history = model.fit(
  train_ds,
  validation_data=val_ds,
  epochs=epochs
)

loss, acc = model.evaluate(test_ds)
print("Accuracy", acc)

五、自定义增强函数

import random
# 这是大家可以自由发挥的一个地方
def aug_img(image):
    seed = (random.randint(0,9), 0)
    # 随机改变图像对比度
    stateless_random_brightness = tf.image.stateless_random_contrast(image, lower=0.1, upper=1.0, seed=seed)
    return stateless_random_brightness

image = tf.expand_dims(images[3]*255, 0)
print("Min and max pixel values:", image.numpy().min(), image.numpy().max())

plt.figure(figsize=(8, 8))
for i in range(9):
    augmented_image = aug_img(image)
    ax = plt.subplot(3, 3, i + 1)
    plt.imshow(augmented_image[0].numpy().astype("uint8"))

    plt.axis("off")

六、个人总结

1. 数据增强的两种核心应用方式
方式一：直接嵌入 Keras 模型中
将定义好的增强流程（如 ⁠data_augmentation⁠）作为第一层加入 ⁠tf.keras.Sequential⁠。
优势：如果配置了 GPU，增强操作会直接在 GPU 上运行，获得算力加速。
注意：这种内置的增强操作是“智能”的，它仅在训练阶段（⁠Model.fit⁠）生效；在评估（⁠evaluate⁠）和预测（⁠predict⁠）时会自动关闭，确保测试结果的客观性。
方式二：在 Dataset 数据管道中处理
利用 ⁠tf.data⁠ API，通过 ⁠ds.map⁠ 将增强操作应用到数据集的每个批次上。
优势：可以通过设置 ⁠num_parallel_calls=tf.data.AUTOTUNE⁠ 来实现 CPU 的多线程异步处理，防止数据加载成为训练的性能瓶颈。
2. 模型的构建、编译与训练
网络架构搭建：
经典的卷积神经网络（CNN）结构：交替使用卷积层（⁠Conv2D⁠）提取特征和池化层（⁠MaxPooling2D⁠）降维，最后通过展平（⁠Flatten⁠）接入全连接层（⁠Dense⁠）输出分类结果。
模型编译配置 (⁠compile⁠)
在调用 ⁠fit⁠ 训练之前，必须配置三大核心要素：
优化器 (Optimizer)：决定模型如何根据梯度更新权重（如 ⁠adam⁠）。
损失函数 (Loss)：衡量模型预测偏差的标准（如多分类常用的 ⁠SparseCategoricalCrossentropy⁠）。
评价指标 (Metrics)：直观监控训练效果的标尺（如 ⁠accuracy⁠ 准确率）。
训练与评估流程：
使用 ⁠model.fit()⁠ 传入训练集和验证集，并指定训练轮数（⁠epochs⁠）。训练结束后，使用 ⁠model.evaluate()⁠ 在独立的测试集上检验模型的最终泛化能力。
3. 自定义数据增强功能
灵活扩展：当内置的增强层（如随机翻转、旋转）无法满足需求时，可以编写自定义函数。
实现原理：利用底层的 ⁠tf.image⁠ 接口（例如 ⁠tf.image.stateless_random_contrast⁠ 随机改变对比度）。为了确保结果可复现或符合预期，这类无状态（stateless）函数需要配合随机种子 (seed) 使用。
接入管道：将编写好的自定义函数（如 ⁠aug_img⁠）封装进数据预处理模块中，通过 ⁠map⁠ 操作应用到你的 Dataset 上即可无缝衔接。