BBAug: 一个用于PyTorch的物体检测包围框数据增强包

像许多神经网络模型一样，目标检测模型在训练大量数据时效果最好。通常情况下，可用的数据有限，世界各地的许多研究人员正在研究增强策略，以增加可用的数据量。谷歌的大脑团队进行了一项这样的研究，并发表在了一篇论文中，名为Learning Data Augmentation Strategies for Object Detection。在这篇论文中，作者确定了一组增强称为策略，它对目标检测问题表现良好。该策略通过增强搜索获得，提高了通用模型的性能。

作者将增强策略定义为一组子策略。在模型进行训练时，随机选择其中一个子策略用于增强图像。在每个子策略中都有要依次应用于图像的增强。每个转换也有两个超参数：概率和幅度。概率表示该增强将被应用的可能性，而幅度表示该增强的程度。下面的代码显示了本文中使用的策略： 

policy = [        
  [('TranslateX_BBox', 0.6, 4), ('Equalize', 0.8, 10)],    
  [('TranslateY_Only_BBoxes', 0.2, 2), ('Cutout', 0.8, 8)],    
  [('Sharpness', 0.0, 8), ('ShearX_BBox', 0.4, 0)],       
  [('ShearY_BBox', 1.0, 2), ('TranslateY_Only_BBoxes', 0.6, 6)],  
  [('Rotate_BBox', 0.6, 10), ('Color', 1.0, 6)], 
] 

在这个策略中有5个子策略，如果我们取第一个子策略，它就包含了TranslateX_BBox和Equalize增强。TranslateX_BBox操作在x轴上转换图像的幅度为4。在本例中，大小并不直接转换为像素，而是根据大小缩放为像素值。该增强的概率也为0.6，这意味着如果该增强被选中，则应用该增强的概率为60%。随着每个增强都有一个相关的概率，引入了一个随机的概念，给训练增加了一定程度的随机性。总的来说，Brain Team已经提出了4个策略: v0, v1, v2和v3。本文中显示了v0策略，其他三个策略包含更多的子策略，这些子策略具有几种不同的转换。总的来说，增加分为三类，作者定义为：

颜色操作: 扭曲颜色通道，不影响边界框的位置。

几何操作：几何扭曲图像，这相应地改变了边界框的位置和大小。

包围框操作：只会扭曲包围框中包含的像素内容。

BBAug

那么BBAug)在这方面有什么贡献呢？BBAug是一个python包，它实现了谷歌Brain Team的所有策略。这个包是一个包装器，可以更容易地使用这些策略。实际的扩展是由优秀的imgaug包完成的。

上面显示的策略应用于一个示例图像，如下所示。每一行是一个不同的子策略，每一列是该子策略的不同运行。

正如你所看到的，在子策略的运行之间有一定程度的变化，因此给训练增加了一定程度的随机性。这只是BBAug实施的4个策略之一。要查看所有4个策略的完整可视化，请查看包的GitHub页面：https://github.com/harpalsahota/bbaug。该包还提供了一些有用的功能，比如定制策略的可能性，以及位于图像外部的边界框，如果它们部分位于图像外部，则会被自动删除或剪切。例如，在下面的图像中，应用了平移增强，将边界框部分推到图像外部。你可以看到新的边界框已经缩小以适应这一点。

也可以创建只影响边界框区域的增强。在下图中，solarisaugmentation只应用于边界框区域：

用随机策略增加单个图像有多容易？就像这样简单: 

from bbaug import policies  
# select policy v0 set  
aug_policy = policies.policies_v0()   
# instantiate the policy container with the selected policy set  
policy_container = policies.PolicyContainer(aug_policy)  
# select a random policy from the policy set  
random_policy = policy_container.select_random_policy()    
# Apply the augmentation. Returns the augmented image and bounding boxes.  
# Image is a numpy array of the image  
# Bounding boxes is a list of list of bounding boxes in pixels (int).  
# e.g. [[x_min, y_min, x_man, y_max], [x_min, y_min, x_man, y_max]]  
# Labels are the class labels for the bounding boxes as an iterable of ints e.g. [1,0]  
img_aug, bbs_aug = policy_container.apply_augmentation(random_policy, image, bounding_boxes, labels)  
# image_aug: numpy array of the augmented image  
# bbs_aug: numpy array of augmneted bounding boxes in format: [[label, x_min, y_min, x_man, y_max],...] 

总结

该包实现了谷歌Brain Team推导出的增强策略。目前，已经实现了所有4个策略，该包还附带了notebooks，以帮助用户将这些策略集成到他们的PyTorch训练pipeline中。