数据标准化与归一化：深入理解及应用

标准化与归一化

数据标准化与归一化：深入理解及应用

在数据预处理中，标准化 和 归一化 是两个常用且重要的技术。它们都有助于提升机器学习模型的性能，但使用场景和方法有所不同。本文将详细探讨标准化与归一化的概念、区别及其应用场景。

标准化

标准化（Standardization），又称为 Z-score 标准化，是通过减去均值并除以标准差来将数据调整为均值为0，标准差为1的标准正态分布。

标准化公式

标准化的公式如下：

      z 
     
    
      = 
     
     
      
      
        ( 
       
      
        x 
       
      
        − 
       
      
        μ 
       
      
        ) 
       
      
     
       σ 
      
     
    
   
     z = \frac{(x - \mu)}{\sigma} 
    
   
 z=σ(x−μ)​

其中：

•                                     x                                  x                     x 是原始数据
  

•                                     μ                                  \mu                     μ 是数据的均值
  

•                                     σ                                  \sigma                     σ 是数据的标准差
  

适用场景

标准化通常适用于数据分布近似正态分布的情况，尤其在许多机器学习算法（如线性回归、逻辑回归、支持向量机等）中，它能使优化过程更快收敛。

示例代码

from sklearn.preprocessing import StandardScaler
import numpy as np

# 示例数据
data = np.array([[1,2,3],[4,5,6],[7,8,9]])# 创建StandardScaler对象
scaler = StandardScaler()# 标准化数据
standardized_data = scaler.fit_transform(data)print("标准化后的数据：")print(standardized_data)

归一化

归一化（Normalization），是将数据按比例缩放到一个固定范围内，通常是 [0, 1] 或 [-1, 1]。最小-最大归一化 是最常用的一种归一化方法。

归一化公式

最小-最大归一化的公式如下：

       x 
      
     
       ′ 
      
     
    
      = 
     
     
      
      
        ( 
       
      
        x 
       
      
        − 
       
       
       
         x 
        
        
        
          m 
         
        
          i 
         
        
          n 
         
        
       
      
        ) 
       
      
      
      
        ( 
       
       
       
         x 
        
        
        
          m 
         
        
          a 
         
        
          x 
         
        
       
      
        − 
       
       
       
         x 
        
        
        
          m 
         
        
          i 
         
        
          n 
         
        
       
      
        ) 
       
      
     
    
   
     x' = \frac{(x - x_{min})}{(x_{max} - x_{min})} 
    
   
 x′=(xmax​−xmin​)(x−xmin​)​

其中：

•                                     x                                  x                     x 是原始数据
  

•                                                x                                           m                                  i                                  n                                                       x_{min}                     xmin​ 是数据的最小值
  

•                                                x                                           m                                  a                                  x                                                       x_{max}                     xmax​ 是数据的最大值
  

•                                                x                               ′                                            x'                     x′ 是归一化后的数据
  

适用场景

归一化适用于数据分布没有明显规律或取值范围不同的情况，特别是在神经网络和基于距离的算法（如K近邻算法、K均值聚类等）中非常有用。

示例代码

from sklearn.preprocessing import MinMaxScaler
import numpy as np

# 示例数据
data = np.array([[1,2,3],[4,5,6],[7,8,9]])# 创建MinMaxScaler对象
scaler = MinMaxScaler()# 归一化数据
normalized_data = scaler.fit_transform(data)print("归一化后的数据：")print(normalized_data)

标准化与归一化的区别

概念不同

• 标准化：将数据按比例缩放到一个标准正态分布范围内（均值为0，标准差为1）。
• 归一化：将数据按比例缩放到一个固定的范围内（通常是[0, 1]或[-1, 1]）。

方法不同

• 标准化：使用均值和标准差。
• 归一化：使用最小值和最大值。

适用场景不同

• 标准化：适用于数据分布近似正态分布的情况，以及许多基于梯度下降的机器学习算法。
• 归一化：适用于数据分布没有明显规律或取值范围不同的情况，尤其是神经网络和基于距离的算法。

总结

在数据预处理中，选择合适的标准化或归一化方法对提升模型性能至关重要。标准化适用于数据分布近似正态分布的情况，而归一化更适合数据分布没有明显规律的情况。在实际应用中，我们应根据数据的具体情况和使用的机器学习算法来选择合适的预处理方法。