Key Concept: ทำไมต้องมี Dataset และ DataLoader?
ใน Machine Learning การจัดการข้อมูลมักจะมีความซับซ้อนและเขียนโค้ดยาก PyTorch จึงออกแบบให้เรา แยกโค้ดส่วนเตรียมข้อมูล (Data Handling) ออกจากโค้ดส่วนฝึกสอนโมเดล (Model Training) เพื่อให้อ่านง่ายและนำไปใช้ซ้ำได้ โดยใช้ 2 หัวใจหลัก:
1. Dataset (คลังข้อมูล)
ทำหน้าที่เก็บตัวอย่างข้อมูล (Features) และคำตอบ (Labels) โดย Dataset จะรู้วิธีดึงข้อมูลออกมา "ทีละ 1 รายการ"
2. DataLoader (พนักงานส่งข้อมูล)
รับข้อมูลมาจาก Dataset แล้วนำมา "มัดรวมเป็นกลุ่ม (Batch)", ทำการสับเปลี่ยน (Shuffle), และโหลดแบบคู่ขนาน (Multiprocessing) เพื่อป้อนให้โมเดลแบบรวดเร็ว
การโหลด Dataset ตัวอย่าง
PyTorch มีไลบรารีเฉพาะทางมากมาย เช่น TorchVision, TorchText, และ TorchAudio ที่มาพร้อมกับ Dataset มาตรฐานให้เราลองใช้
ในตัวอย่างนี้เราจะโหลด Fashion-MNIST ซึ่งเป็นชุดข้อมูลภาพเสื้อผ้าขาวดำขนาด 28x28 พิกเซล
import torch
from torch.utils.data import Dataset
from torchvision import datasets
from torchvision.transforms import ToTensor
import matplotlib.pyplot as plt
# ดาวน์โหลดข้อมูลสำหรับ Training
training_data = datasets.FashionMNIST(
root="data",
train=True,
download=True,
transform=ToTensor()
)
# ดาวน์โหลดข้อมูลสำหรับ Testing
test_data = datasets.FashionMNIST(
root="data",
train=False,
download=True,
transform=ToTensor()
)
Downloading http://fashion-mnist.s3-website.eu-central-1.amazonaws.com/train-images-idx3-ubyte.gz ... Extracting data/FashionMNIST/raw/t10k-labels-idx1-ubyte.gz to data/FashionMNIST/raw
การวนลูป (Iterating) และแสดงผล Dataset
เราสามารถดึงข้อมูลจาก Dataset ออกมาดูทีละภาพได้เหมือนการเข้าถึง List ใน Python (เช่น training_data[index])
labels_map = {
0: "T-Shirt", 1: "Trouser", 2: "Pullover", 3: "Dress", 4: "Coat",
5: "Sandal", 6: "Shirt", 7: "Sneaker", 8: "Bag", 9: "Ankle Boot",
}
figure = plt.figure(figsize=(8, 8))
cols, rows = 3, 3
for i in range(1, cols * rows + 1):
sample_idx = torch.randint(len(training_data), size=(1,)).item()
img, label = training_data[sample_idx]
figure.add_subplot(rows, cols, i)
plt.title(labels_map[label])
plt.axis("off")
plt.imshow(img.squeeze(), cmap="gray")
plt.show()
* ผลลัพธ์ที่ได้จะเป็นหน้าต่างกราฟฟิกของ matplotlib แสดงรูปภาพเสื้อผ้าแบบสุ่ม 9 รูปพร้อมชื่อ
การสร้าง Dataset ของตัวเอง (Custom Dataset)
ในความเป็นจริง เรามักจะมีข้อมูลของเราเอง คลาส Dataset แบบกำหนดเอง (Custom Dataset class) จำเป็นต้องมีฟังก์ชันหลัก 3 ตัวนี้เสมอ (__init__, __len__, และ __getitem__):
import os
import pandas as pd
from torchvision.io import read_image
class CustomImageDataset(Dataset):
# 1. ทำงานครั้งแรกตอนสร้าง Object (ตั้งค่าต่างๆ)
def __init__(self, annotations_file, img_dir, transform=None, target_transform=None):
self.img_labels = pd.read_csv(annotations_file)
self.img_dir = img_dir
self.transform = transform
self.target_transform = target_transform
# 2. คืนค่าจำนวนตัวอย่างทั้งหมดใน Dataset
def __len__(self):
return len(self.img_labels)
# 3. โหลดและคืนค่า ข้อมูล (image) และ คำตอบ (label) ณ ตำแหน่ง idx
def __getitem__(self, idx):
img_path = os.path.join(self.img_dir, self.img_labels.iloc[idx, 0])
image = read_image(img_path)
label = self.img_labels.iloc[idx, 1]
if self.transform: image = self.transform(image)
if self.target_transform: label = self.target_transform(label)
return image, label
การเตรียมข้อมูลสำหรับสอนด้วย DataLoader
Dataset ดึงข้อมูลให้เราได้ครั้งละ 1 รายการ แต่เวลาเราสอนโมเดล (Train Model) เราต้องการดึงข้อมูล เป็นกลุ่มย่อย (Minibatches)
และต้องการ สับเปลี่ยนข้อมูล (Shuffle) ในทุกๆ รอบ (Epoch) เพื่อไม่ให้โมเดลจำข้อสอบ
DataLoader คือ API ที่จัดการเรื่องน่าปวดหัวเหล่านี้ให้เราง่ายๆ ในบรรทัดเดียว
from torch.utils.data import DataLoader
# สร้าง DataLoader
# batch_size=64 หมายถึงดึงข้อมูลมาทีละ 64 ภาพต่อ 1 ครั้ง
train_dataloader = DataLoader(training_data, batch_size=64, shuffle=True)
test_dataloader = DataLoader(test_data, batch_size=64, shuffle=True)
# ลองวนลูปเพื่อดูข้อมูล 1 Batch
train_features, train_labels = next(iter(train_dataloader))
print(f"Feature batch shape: {train_features.size()}")
print(f"Labels batch shape: {train_labels.size()}")
img = train_features[0].squeeze()
label = train_labels[0]
print(f"Label: {label}")
Feature batch shape: torch.Size([64, 1, 28, 28]) Labels batch shape: torch.Size([64]) Label: 5
ในผลลัพธ์ [64, 1, 28, 28] หมายความว่า: 64 ภาพ, 1 Channel (ขาวดำ), สูง 28, กว้าง 28 พิกเซล