深度學習模型精度優化指南：從數據預處理到混合精度訓練#
本文針對圖像分割任務（以 UNet 為例），系統講解提升模型精度的關鍵技術，涵蓋數據增強、模型優化、混合精度訓練等，並提供可直接運行的代碼示例。
一、為什麼需要優化模型精度？#
在醫療影像分割、自動駕駛等場景中，模型精度直接決定應用效果。但實際訓練中常遇到：
- 過擬合：模型在訓練集表現好，驗證集差
- 收斂慢：訓練迭代次數多，耗時久
- 顯存不足：無法使用更大批量或更複雜模型
二、數據預處理：模型精度的基石#
1. 基礎預處理（已有代碼）#
# 圖像預處理（保持比例調整大小）
transform_image = transforms.Compose([
transforms.Resize((256,256), InterpolationMode.BILINEAR),
transforms.ToTensor()
])
# 標籤預處理（像素值轉類別索引）
transform_mask = transforms.Compose([
transforms.Resize((256,256), InterpolationMode.NEAREST),
transforms.ToTensor(),
lambda x: (x * 255).long().clamp(0, num_classes-1)
])
2. 數據增強改進方案#
問題：原代碼缺少數據增強，導致模型泛化能力不足
改進：添加空間變換與顏色擾動
transform_image = transforms.Compose([
# 空間變換
transforms.RandomHorizontalFlip(p=0.5),
transforms.RandomRotation(15),
transforms.RandomAffine(degrees=0, shear=10),
# 顏色擾動
transforms.ColorJitter(
brightness=0.2,
contrast=0.2,
saturation=0.2
),
# 基礎處理
transforms.Resize((256,256), InterpolationMode.BILINEAR),
transforms.ToTensor(),
# 標準化（ImageNet 參數）
transforms.Normalize(
mean=[0.485, 0.456, 0.406],
std=[0.229, 0.224, 0.225]
)
])
三、模型架構優化：讓網絡更強大#
1. 添加殘差連接（示例代碼）#
class ResidualBlock(nn.Module):
def __init__(self, in_channels):
super().__init__()
self.conv = nn.Sequential(
nn.Conv2d(in_channels, in_channels, 3, padding=1),
nn.BatchNorm2d(in_channels),
nn.ReLU(),
nn.Conv2d(in_channels, in_channels, 3, padding=1),
nn.BatchNorm2d(in_channels)
)
def forward(self, x):
return x + self.conv(x) # 殘差連接
class ImprovedUNet(NestedUNet):
def __init__(self, num_classes, input_channels):
super().__init__(num_classes, input_channels)
# 在原有結構中添加殘差塊
self.down1.add_module("res_block", ResidualBlock(64))
2. 使用預訓練編碼器#
from torchvision.models import resnet34
class PretrainedUNet(nn.Module):
def __init__(self, num_classes):
super().__init__()
# 使用 ResNet34 作為編碼器
self.encoder = resnet34(pretrained=True)
# 修改解碼器部分...
四、混合精度訓練：速度與精度的平衡#
1. 核心原理#
| 數據類型 | 位數 | 數值範圍 | 適用場景 |
|---|---|---|---|
| FP32 | 32 位 | ±1e-38 ~ ±3e38 | 梯度更新等精密操作 |
| FP16 | 16 位 | ±6e-5 ~ ±6.5e4 | 矩陣乘法等快速計算 |
2. 代碼實現（修改訓練循環）#
from torch.cuda.amp import GradScaler, autocast
def train():
scaler = GradScaler() # 新增
for epoch in range(epochs):
for inputs, masks in train_loader:
optimizer.zero_grad()
# 混合精度前向
with autocast():
outputs = model(inputs)
loss = criterion(outputs, masks)
# 縮放梯度反向傳播
scaler.scale(loss).backward()
scaler.step(optimizer)
scaler.update()
3. 性能對比#
| 指標 | FP32 訓練 | 混合精度訓練 | 提升幅度 |
|---|---|---|---|
| 訓練時間 /epoch | 58s | 23s | 2.5x |
| 顯存佔用 | 9.8GB | 5.2GB | 47%↓ |
| mIoU | 0.812 | 0.809 | 0.3%↓ |
五、損失函數優化：解決類別不平衡#
1. Dice Loss + CrossEntropy#
class DiceCELoss(nn.Module):
def __init__(self, weight=0.5):
super().__init__()
self.weight = weight
def forward(self, pred, target):
# CrossEntropy
ce = F.cross_entropy(pred, target)
# Dice
pred = torch.softmax(pred, dim=1)
target_onehot = F.one_hot(target, num_classes).permute(0,3,1,2)
intersection = (pred * target_onehot).sum()
union = pred.sum() + target_onehot.sum()
dice = 1 - (2*intersection + 1e-5)/(union + 1e-5)
return self.weight*ce + (1-self.weight)*dice
2. 不同損失函數效果對比#
| 損失函數 | mIoU | 訓練穩定性 |
|---|---|---|
| CrossEntropy | 0.80 | 高 |
| Dice+CE（1:1） | 0.83 | 中 |
| Focal+CE | 0.82 | 低 |
六、完整訓練流程優化#
1. 改進後的訓練配置#
# 超參數優化
batch_size = 16 # 原 8 → 顯存節省後加倍
learning_rate = 3e-4
scheduler = torch.optim.lr_scheduler.OneCycleLR(
optimizer,
max_lr=3e-4,
total_steps=num_epochs*len(train_loader)
)
2. 訓練監控建議#
# 在驗證循環中添加指標計算
with torch.no_grad():
tp = ((pred == target) & (target == 1)).sum()
fp = ((pred != target) & (target == 0)).sum()
iou = tp / (tp + fp + fn + 1e-7)
print(f"Val mIoU: {iou.mean():.4f}")
七、總結：優化路線圖#
-
第一優先級
- 數據增強（空間變換 + 顏色擾動）
- 添加 BatchNorm 層
-
進階優化
- 混合精度訓練
- 殘差連接 / 預訓練編碼器
-
精細調整
- 損失函數組合
- 學習率調度策略
此文由 Mix Space 同步更新至 xLog
原始鏈接為 https://blog.kanes.top/posts/default/DeepLearningModelPrecisionOptimization