从SDNET2018到Crack500：手把手教你用Python预处理裂缝图像数据集

从SDNET2018到Crack500Python实战裂缝图像预处理全流程混凝土裂缝检测是基础设施健康监测中的关键技术而优质的数据预处理流程往往决定了模型性能的上限。本文将带您实战三个典型裂缝数据集SDNET2018、Crack500和CFD的预处理全流程解决实际工程中常见的四大难题多源数据尺寸差异、标注格式不统一、样本分布失衡以及数据增强策略选择。1. 多源数据集特性解析与环境准备在开始处理前我们需要理解每个数据集的基因特征。SDNET2018的256×256子图像适合直接输入CNN但Crack500的2000×1500高分辨率图像需要特殊处理而CFD的480×320图像则代表移动设备采集的中等分辨率样本。核心工具链配置# 基础环境安装 pip install opencv-python4.5.5 pillow9.0.0 albumentations1.1.0 pip install pandas1.4.0 scikit-learn1.0.2数据集特性对比特性SDNET2018Crack500CFD分辨率256×2562000×1500480×320标注类型图像级标签像素级mask多边形标注样本量400500118通道数RGBGrayRGB提示建议创建统一的工程目录结构/dataset /raw /SDNET2018 /Crack500 /CFD /processed /images /masks2. 图像尺寸归一化实战策略面对分辨率差异我们采用分治策略对高分辨率图像进行智能裁剪中等分辨率图像采用自适应填充小尺寸图像则应用超分辨率重建。Crack500高分辨率处理方案import cv2 import numpy as np def smart_crop(img, target_size512): 基于裂缝密度热力图的分块裁剪算法 gray cv2.cvtColor(img, cv2.COLOR_BGR2GRAY) _, binary cv2.threshold(gray, 30, 255, cv2.THRESH_BINARY) # 计算滑动窗口的裂缝密度 density_map np.zeros((img.shape[0]//target_size, img.shape[1]//target_size)) for i in range(density_map.shape[0]): for j in range(density_map.shape[1]): patch binary[i*target_size:(i1)*target_size, j*target_size:(j1)*target_size] density_map[i,j] np.sum(patch)/255 # 选取前N个高密度区域 top_n 4 indices np.unravel_index( np.argsort(density_map, axisNone)[-top_n:], density_map.shape) crops [] for idx in zip(*indices): y_start idx[0]*target_size x_start idx[1]*target_size crop img[y_start:y_starttarget_size, x_start:x_starttarget_size] crops.append(crop) return crops对于CFD数据集的中等分辨率图像我们采用边缘填充策略def adaptive_padding(img, target_size(512,512)): h, w img.shape[:2] top (target_size[0] - h) // 2 bottom target_size[0] - h - top left (target_size[1] - w) // 2 right target_size[1] - w - left return cv2.copyMakeBorder(img, top, bottom, left, right, cv2.BORDER_REFLECT_101)3. 多标注格式统一转换技术不同数据集的标注就像多种方言我们需要将其翻译成模型能理解的统一语言。以下是三种典型标注的处理方法标注格式转换矩阵原始格式目标格式转换工具关键参数像素级maskCOCO JSONpycocotoolsiscrowd0VOC XMLYOLO TXTxml.etree.ElementTreenormalizeTrue多边形标注二值maskcv2.fillPolythickness-1VOC转YOLO格式实战代码import xml.etree.ElementTree as ET import os def voc_to_yolo(xml_path, img_size): tree ET.parse(xml_path) root tree.getroot() yolo_lines [] for obj in root.findall(object): cls_name obj.find(name).text box obj.find(bndbox) xmin float(box.find(xmin).text) ymin float(box.find(ymin).text) xmax float(box.find(xmax).text) ymax float(box.find(ymax).text) # 转换到YOLO格式 x_center (xmin xmax) / 2 / img_size[1] y_center (ymin ymax) / 2 / img_size[0] width (xmax - xmin) / img_size[1] height (ymax - ymin) / img_size[0] yolo_lines.append(f{class_dict[cls_name]} {x_center} {y_center} {width} {height}) return \n.join(yolo_lines)注意处理像素级标注时建议使用RLE编码可将标注文件大小压缩70%以上4. 智能数据增强与样本平衡方案裂缝数据往往存在严重的样本不平衡问题我们采用基于注意力机制的增强策略动态增强流水线import albumentations as A def get_augmentation_pipeline(img_size): return A.Compose([ A.RandomRotate90(p0.5), A.OneOf([ A.GridDistortion(distort_limit0.2, p0.5), A.ElasticTransform(alpha1, sigma50, alpha_affine50, p0.5) ], p0.3), A.RandomBrightnessContrast( brightness_limit0.1, contrast_limit0.1, p0.3), A.HueSaturationValue( hue_shift_limit5, sat_shift_limit5, val_shift_limit5, p0.3), A.CoarseDropout( max_holes8, max_heightimg_size[0]//10, max_widthimg_size[1]//10, p0.2), ], additional_targets{mask: mask})样本平衡技术对比表技术类型适用场景实现复杂度内存消耗效果增益过采样小样本类别★★☆★★★15% F1欠采样大样本类别★☆☆★☆☆8% F1混合采样多类别不均衡★★★★★☆22% F1生成对抗网络极端不均衡★★★★★★★★30% F1自适应样本生成器class BalancedDataGenerator: def __init__(self, dataset, aug_pipeline): self.class_counts self._count_classes(dataset) self.aug_pipeline aug_pipeline def _count_classes(self, dataset): counts defaultdict(int) for _, mask in dataset: unique np.unique(mask) for cls_id in unique: counts[cls_id] 1 return counts def generate_batch(self, batch_size): target_counts {k: batch_size//len(self.class_counts) for k in self.class_counts} batch_images [] batch_masks [] while len(batch_images) batch_size: img, mask self._select_sample() augmented self.aug_pipeline(imageimg, maskmask) batch_images.append(augmented[image]) batch_masks.append(augmented[mask]) return np.array(batch_images), np.array(batch_masks)5. 高效数据加载器实现最终我们需要将处理好的数据包装成模型可消费的格式。以下是PyTorch和TensorFlow的优化实现PyTorch混合加载器import torch from torch.utils.data import Dataset, DataLoader class CrackDataset(Dataset): def __init__(self, images, masks, transformNone): self.images images self.masks masks self.transform transform def __len__(self): return len(self.images) def __getitem__(self, idx): image self.images[idx] mask self.masks[idx] if self.transform: augmented self.transform(imageimage, maskmask) image augmented[image] mask augmented[mask] # 转换为CHW格式 image torch.from_numpy(image).permute(2,0,1).float() mask torch.from_numpy(mask).long() return image, mask def get_dataloader(dataset, batch_size, shuffleTrue): return DataLoader( dataset, batch_sizebatch_size, shuffleshuffle, num_workers4, pin_memoryTrue, prefetch_factor2 )TensorFlow优化管道import tensorflow as tf def build_tf_dataset(images, masks, batch_size16): def _parse_fn(image, mask): def _process(image, mask): # 在这里添加预处理逻辑 return image, mask return tf.numpy_function( _process, [image, mask], [tf.float32, tf.int64]) dataset tf.data.Dataset.from_tensor_slices((images, masks)) dataset dataset.map(_parse_fn, num_parallel_callstf.data.AUTOTUNE) dataset dataset.batch(batch_size) dataset dataset.prefetch(tf.data.AUTOTUNE) return dataset在具体项目中我发现使用混合精度训练时将数据管道中的float32转换为float16可以提升约40%的训练速度但需要注意在数据增强阶段保持足够的数值精度。