图像数据的标准化

对于一份图像数据集，在送入模型之前，往往需要做些预处理操作，标准化便是常用的一种预处理操作，它能够起到加速模型收敛的作用。

标准化公式为：
$$\frac{X-X_{mean}}{X_{std}}$$
其中，$X$是原数据集，$X_{mean}$和$X_{std}$分别代表原数据的均值和标准差。

从表格数据的标准化说起

对于表格数据，只需分别计算每列的均值和标准差即可。举个栗子，假设某数据集X如下：

.	feature1	feature2
样本1	1	30
样本2	1.5	45
样本3	0.9	35

则:

第一个特征的均值为
$$(1+1.5+0.9)/3=1.133$$
第二个特征的均值为
$$（30+45+35）/3=36.66$$
第一个特征的标准差为
$$\sqrt{[(1-1.133)^2+(1.5-1.133)^2+(0.9-1.133)^2]/3}=0.2624$$
第二个特征的标准差为
$$\sqrt{[(30-36.66)^2+(45-36.66)^2+(35-36.66)^2]/3}=6.236$$

于是，该数据集的均值为$[1.133,36.66]$，标准差为$[0.2624,6.236]$

标准化的操作如下：
$$X_{feature1}=\frac{X_{feature1}-1.133}{0.2624}$$
$$X_{feature1}=\frac{X_{feature1}-36.66}{6.236}$$

比如对于$X_{feature1}$，其值为$[1,1.5,0.9]$，那么$\frac{1-1.133}{0.2624}=-0.5068$，$\frac{1.5-1.133}{0.2624}=1.398$，$\frac{0.9-1.133}{0.2624}=-0.8879$，于是标准化后的$X_{feature1}=[-0.5068,1.398,-0.8879]$，对于$X_{feature2}$同理可计算。

计算得到标准化后的数据为：
| . | feature1 | feature2 |
| :——– | ——–:| :——: |
| 样本1 | -0.5068 | -1.06 |
| 样本2 | 1.398| 1.33 |
| 样本3 | -0.8879 | -0.26 |

不妨用sklearn来验证下计算结果的准确性：
Alt text

除去舍入误差，结果是一致的。

对图像数据进行标准化

现在，我们加大难度，对具有更高维度的图像数据进行标准化。

首先自定义一份图像数据集：

class MyDataset(Dataset):

    def __init__(self,path='my_images'):
        super().__init__()
        self.path=path
        all_imgs=os.listdir(path)#获取全部图片的名字
        self.imgs = []
        #将每张图片的所在路径读取进来，保存在self.imgs中
        for img_name in all_imgs:
            image_path = os.path.join(self.path,img_name)
            self.imgs.append(image_path)

    def __len__(self):
        return len(self.imgs)


    def __getitem__(self, index):
        image=Image.open(self.imgs[index]).convert('RGB')#读进去是RGBA，需要转换一下
        image=np.array(image)#将PIL图像转成数值
        image = np.array(image).astype(np.float32).transpose((2, 0, 1))#image是HWC的，这里转为CHW
        return image

dataset=MyDataset()
dataloader=DataLoader(dataset, batch_size=4, shuffle=True)

制作好数据集后，可以打印看一下：
Alt text
数据集中的图像尺寸为256*256，并且已经将图片的格式转为PyTorch要求的格式：CHW.

准备好数据集之后，就可以计算整个数据集的均值和标准差了。需要明确的是，我们是分别对每个通道上的”单张图”进行均值和标准差的计算的。这里”单张图”可能描述不太严谨，举个例子吧，比如一张图片的shape为[3,256,256]，那么将dim0，也就是通道维度做切分，可以得到3个256*256 的矩阵，其中的每一个矩阵便是上面所说的”单张图”。

对于均值，直接对每个”单张图”的像素求和，再除以总的像素点个数即可
；

对于标准差，它的平方等于方差，因此需要求方差。在之前的表格数据举的栗子中，我们使用了$\frac1N\sum(X-X_{mean})^2$进行求解，而这里将使用另外一个公式，相信学过数理统计的你对它还不算陌生：
$$var(X)=E(X^2)-[{E(X)}]^2$$

现在，就可以写代码啦

def get_mean_std(loader):
    channels_sum,channels_squared_sum,num_batches=0,0,0
    #这里的data就是image,shape为[batchsize,C,H,W]
    for data in loader:
        channels_sum+=torch.mean(data.float().div(255),dim=[0,2,3])
        #print(channels_sum.shape)#torch.Size([3])
        channels_squared_sum+=torch.mean(data.float().div(255)**2,dim=[0,2,3])
        #print(channels_squared_sum.shape)#torch.Size([3])
        num_batches+=1
    
    #计算E(X),这也就是要求的均值
    e_x=channels_sum/num_batches
    #计算E(X^2)
    e_x_squared=channels_squared_sum/num_batches
    
    #计算var(X)=E(X^2)]-[E(X)]^2
    std=e_x_squared-e_x**2
    
    return e_x,std**0.5