0


【通俗理解】边缘概率分布——从全局到局部的概率探索

【通俗理解】边缘概率分布——从全局到局部的概率探索

第一节:边缘概率分布的类比与核心概念

1.1 边缘概率分布的类比

  • 你可以把边缘概率分布想象成一场音乐会,其中全局的概率分布就像是整场音乐会的曲目安排,而边缘概率分布则是你特别关注的某位音乐家的演奏部分。即使整场音乐会曲目繁多,你也能通过边缘概率分布找到你感兴趣的那部分旋律。
  • 概率论的舞台上,全局的概率分布就像是完整的剧本,描述了所有可能事件的概率。而边缘概率分布,则是聚光灯下,特定事件或变量的概率独舞。

1.2 相似公式比对

  • 全局概率分布: P ( X , Y ) P(X, Y) P(X,Y),描述了变量X和Y的联合概率分布。
  • 边缘概率分布: P ( X ) = ∑ Y P ( X , Y ) P(X) = \sum_{Y} P(X, Y) P(X)=Y∑​P(X,Y) 或 P ( Y ) = ∑ X P ( X , Y ) P(Y) = \sum_{X} P(X, Y) P(Y)=X∑​P(X,Y),它从联合概率分布中提取出单个变量的概率分布。

在这里插入图片描述

第二节:通俗解释与案例

2.1 边缘概率分布的核心概念

  • 边缘概率分布是在联合概率分布中,针对单个变量的概率分布。它通过将其他变量的所有可能值进行求和(或积分),从而得到该变量的概率分布。
  • 例如,在一个关于天气和心情的联合概率分布中,边缘概率分布可以帮助我们了解不考虑天气时,心情的概率分布是如何的。

2.2 边缘概率分布的应用

  • 在机器学习中,边缘概率分布可以用于特征选择,帮助理解单个特征对模型的影响。
  • 在统计学中,它用于分析多个变量之间的关系,通过边缘分布了解单个变量的特性。

2.3 边缘概率分布的优势

  • 简化了复杂的联合概率分布,使得单个变量的概率特性更加清晰。
  • 有助于在多维数据中,理解单个维度的分布特性。

2.4 边缘概率分布与联合概率分布的类比

  • 你可以把边缘概率分布比作一场音乐会中的独奏表演,它虽然只是整场音乐会的一部分,但却能展现出独特的魅力和深度。
  • 联合概率分布则像是整场音乐会的完整曲目,包含了所有的旋律和和声,而边缘概率分布则是其中的精华提炼。

在这里插入图片描述

第三节:边缘概率分布的核心作用

组件/步骤描述3.1 联合概率分布描述多个变量之间的全面关系,如天气和心情的联合分布。3.2 边缘概率分布从联合概率分布中提取单个变量的概率特性,如只考虑心情的概率分布。3.3 变量分离通过求和或积分操作,将其他变量的影响“剔除”,专注于单个变量的概率特性。

第四节:公式探索与推演运算

4.1 边缘概率分布的推导

给定两个变量X和Y的联合概率分布

      P 
     
    
      ( 
     
    
      X 
     
    
      , 
     
    
      Y 
     
    
      ) 
     
    
   
     P(X, Y) 
    
   
 P(X,Y),边缘概率分布 
  
   
    
    
      P 
     
    
      ( 
     
    
      X 
     
    
      ) 
     
    
   
     P(X) 
    
   
 P(X)可以通过对Y的所有可能值进行求和得到:


  
   
    
    
      P 
     
    
      ( 
     
    
      X 
     
    
      ) 
     
    
      = 
     
     
     
       ∑ 
      
     
       Y 
      
     
    
      P 
     
    
      ( 
     
    
      X 
     
    
      , 
     
    
      Y 
     
    
      ) 
     
    
   
     P(X) = \sum_{Y} P(X, Y) 
    
   
 P(X)=Y∑​P(X,Y)

同样地,

      P 
     
    
      ( 
     
    
      Y 
     
    
      ) 
     
    
   
     P(Y) 
    
   
 P(Y)可以通过对X的所有可能值进行求和得到:


  
   
    
    
      P 
     
    
      ( 
     
    
      Y 
     
    
      ) 
     
    
      = 
     
     
     
       ∑ 
      
     
       X 
      
     
    
      P 
     
    
      ( 
     
    
      X 
     
    
      , 
     
    
      Y 
     
    
      ) 
     
    
   
     P(Y) = \sum_{X} P(X, Y) 
    
   
 P(Y)=X∑​P(X,Y)

4.2 具体计算示例

假设有一个关于天气(晴天、雨天)和心情(好、坏)的联合概率分布:

      P 
     
    
      ( 
     
    
      X 
     
    
      , 
     
    
      Y 
     
    
      ) 
     
    
      = 
     
     
     
       [ 
      
      
       
        
         
         
           0.4 
          
         
        
        
         
          
          
            0.1 
           
          
              
           
          
            0.3 
           
          
         
        
        
         
         
           0.2 
          
         
        
       
      
     
       ] 
      
     
    
   
     P(X, Y) = \begin{bmatrix} 0.4 & 0.1 \ 0.3 & 0.2 \end{bmatrix} 
    
   
 P(X,Y)=[0.4​0.1 0.3​0.2​]

其中,X代表天气(晴天、雨天),Y代表心情(好、坏)。那么,边缘概率分布

      P 
     
    
      ( 
     
    
      X 
     
    
      ) 
     
    
   
     P(X) 
    
   
 P(X)(天气的概率分布)可以通过对Y的所有可能值进行求和得到:


  
   
    
    
      P 
     
    
      ( 
     
    
      X 
     
    
      = 
     
    
      晴天 
     
    
      ) 
     
    
      = 
     
    
      0.4 
     
    
      + 
     
    
      0.1 
     
    
      = 
     
    
      0.5 
     
    
   
     P(X = \text{晴天}) = 0.4 + 0.1 = 0.5 
    
   
 P(X=晴天)=0.4+0.1=0.5

  
   
    
    
      P 
     
    
      ( 
     
    
      X 
     
    
      = 
     
    
      雨天 
     
    
      ) 
     
    
      = 
     
    
      0.3 
     
    
      + 
     
    
      0.2 
     
    
      = 
     
    
      0.5 
     
    
   
     P(X = \text{雨天}) = 0.3 + 0.2 = 0.5 
    
   
 P(X=雨天)=0.3+0.2=0.5

因此,边缘概率分布

      P 
     
    
      ( 
     
    
      X 
     
    
      ) 
     
    
   
     P(X) 
    
   
 P(X)为:


  
   
    
    
      P 
     
    
      ( 
     
    
      X 
     
    
      ) 
     
    
      = 
     
     
     
       [ 
      
      
       
        
         
          
          
            0.5 
           
          
              
           
          
            0.5 
           
          
         
        
       
      
     
       ] 
      
     
    
   
     P(X) = \begin{bmatrix} 0.5 \ 0.5 \end{bmatrix} 
    
   
 P(X)=[0.5 0.5​]

在这里插入图片描述

4.3 与联合概率分布的关系

  • 边缘概率分布是从联合概率分布中提取出来的,它反映了在不考虑其他变量时,单个变量的概率特性。
  • 联合概率分布提供了多个变量之间的全面关系,而边缘概率分布则是对这种关系的“压缩”和“提炼”。

第五节:公式推导与相似公式比对

  • 边缘概率分布联合概率分布 的共同点在于它们都是描述变量之间关系的概率工具。不同之处在于,边缘概率分布专注于单个变量的概率特性,而联合概率分布则描述了多个变量之间的全面关系。
  • 条件概率分布 P ( Y ∣ X ) P(Y|X) P(Y∣X) 也是从联合概率分布中提取出来的,但它描述的是在给定X的条件下,Y的概率分布。与边缘概率分布不同,条件概率分布考虑了变量之间的依赖关系。

第六节:核心代码

import numpy as np

# 联合概率分布P(X, Y)
joint_distribution = np.array([[0.4,0.1],[0.3,0.2]])# 计算边缘概率分布P(X)
marginal_distribution_X = np.sum(joint_distribution, axis=1)print("边缘概率分布P(X):", marginal_distribution_X)

第七节:关键词提炼

#边缘概率分布
#联合概率分布
#概率论
#机器学习
#特征选择
#统计学
#变量关系
#概率提炼

标签: 人工智能

本文转载自: https://blog.csdn.net/qq_37148940/article/details/141164304
版权归原作者 神经美学-茂森 所有, 如有侵权,请联系我们删除。

“【通俗理解】边缘概率分布——从全局到局部的概率探索”的评论:

还没有评论