0


Python 实现朴素贝叶斯代码演示

朴素贝叶斯可以细分为三种方法:分别是伯努利朴素贝叶斯、高斯朴素贝叶斯和多项式朴素贝叶斯。下文就这三种方法进行详细讲解和演示。

一、伯努利朴素贝叶斯方法

伯努利朴素贝叶斯是假定样本特征的条件概率分布服从二项分布,即“0-1分布”。

1.1 例子解答

例如利用伯努利朴素贝叶斯预测天气会不会下雨:

** 其中有雨用1标识,无雨用0标识。**

各种属性则是用1标识,否用0标识。一直上表的下雨情况为Y=[1,1,1,1,0,1,1,0]

问(无风,不潮湿,多云,不闷热)的情况是否下雨。

这里可以将预测数据设为x_pre=[0,0,1,1]

1.1.1 代码:

import numpy as np
x = np.array([[0,1,0,1],[1,1,1,1],[1,1,1,0],[0,1,1,0],[0,1,0,0],[0,1,0,1],
              [1,1,0,1],[1,0,0,1],[1,1,0,1],[0,0,0,0]])
y = np.array([1,1,1,1,0,1,0,1,1,0])

from sklearn.naive_bayes import BernoulliNB
bnb = BernoulliNB()
bnb.fit(x,y)
day_pre=[[0,0,1,0]]
pre = bnb.predict(day_pre)
print("预测结果如下\n:",'*'*50)
print('结果为:',pre)
print('*'*50)

#进一步查看概率分布
pre_pro = bnb.predict_proba(day_pre)
print("不下雨的概率为:",pre_pro[0][0],"\n下雨的概率为:",pre_pro[0][1])

1.1.2 结果:

二、高斯朴素贝叶斯方法

高斯朴素贝叶斯分类器是假定样本特征符合高斯分布时常用的算法。高斯分布也称为正态分布。如果随机变量X服从一个数学期望μ、方差的正态分布。可以直接调用sklearn.native_bayes.GuassianNB().

2.1 解题

上述题用高斯朴素贝叶斯方法预测的结果如下:

2.1.1 代码:

import numpy as np
x = np.array([[0,1,0,1],[1,1,1,1],[1,1,1,0],[0,1,1,0],[0,1,0,0],[0,1,0,1],
              [1,1,0,1],[1,0,0,1],[1,1,0,1],[0,0,0,0]])
y = np.array([1,1,1,1,0,1,0,1,1,0])

# from sklearn.model_selection import train_test_split
from sklearn.naive_bayes import GaussianNB
gnb = GaussianNB()
gnb.fit(x,y)
day_pre=[[0,0,1,0]]
pre = gnb.predict(day_pre)
print("预测结果如下\n:",'*'*50)
print('结果为:',pre)
print('*'*50)

#进一步查看概率分布
pre_pro = gnb.predict_proba(day_pre)
print("不下雨的概率为:",pre_pro[0][0],"\n下雨的概率为:",pre_pro[0][1])

2.1.2 结果:

2.2 检查高斯朴素贝叶斯的正确率

利用sklearn自带的数据集来展示高斯朴素贝叶斯来验证正确率:

2.2.1 代码:

from sklearn.datasets import make_blobs
from sklearn.model_selection import train_test_split
from sklearn.naive_bayes import GaussianNB
x,y = make_blobs(n_samples = 800,centers = 6,random_state = 6)
x_train,x_test,y_train,y_test = train_test_split(x,y,test_size=0.25,random_state=33)

gnb = GaussianNB()
gnb.fit(x_train,y_train)
print('-'*50)
print('高斯朴素贝叶斯的正确率为:',gnb.score(x_test,y_test))
print('-'*50)

**2.2.2 结果: **

三、多项式朴素贝叶斯方法

多项式朴素贝叶斯是假定样本特征符合多项式分布时常用的算法,把一个二项式公式推广至多种状态,就得到了多项分布。例如骰子。

3.1 多项式朴素贝叶斯实现新闻文本分类

以sklearn.datasets中的新闻文本数据集为例,展示朴素贝叶斯分类方法。

其中sklearn.dates中的fetch_20newsgroups数据集一共射击20个话题,进行预测分类。

3.1.1 代码

#加载数据
from sklearn.datasets import fetch_20newsgroups
newsgroups = fetch_20newsgroups(subset='all')
x = newsgroups.data
y = newsgroups.target
#查看目标
print('目标变量:\n',newsgroups.target_names)
#查看特征变量情况
print('特征变量示例:\n',x[0])
#查看特征变量目标
print('特征变量目标:\n',y)

from sklearn.model_selection import train_test_split
x_train,x_test,y_train,y_test = train_test_split(x,y,test_size=0.3,random_state=33)

from sklearn.feature_extraction.text import CountVectorizer
vec = CountVectorizer()
x_vec_train = vec.fit_transform(x_train)
x_vec_test = vec.transform(x_test)

from sklearn.naive_bayes import MultinomialNB
mnb = MultinomialNB()
mnb.fit(x_vec_train,y_train)
mnb_y_predict = mnb.predict(x_vec_test)

from sklearn.metrics import classification_report
print(classification_report(y_test,mnb_y_predict))

3.1.2 结果

3.2 检测正确率

3.2.1 代码

from sklearn.datasets import make_blobs
import numpy as np

#自带数据集
x,y = make_blobs(n_samples=800,centers=6,random_state=6)
from sklearn.model_selection import train_test_split
x_train,x_test,y_train,y_test = train_test_split(x,y,test_size=0.25,random_state=33)

from sklearn.preprocessing import MinMaxScaler
scaler = MinMaxScaler()
scaler.fit(x_train)
x_train_s = scaler.transform(x_train)
x_test_s = scaler.transform(x_test)

from sklearn.naive_bayes import MultinomialNB
mnb = MultinomialNB()
mnb.fit(x_train_s,y_train)

print('*'*50)
print('多项式朴素贝叶斯法准确率:',mnb.score(x_test_s,y_test))
print('*'*50)

3.2.2结果


本文转载自: https://blog.csdn.net/maggieyiyi/article/details/123734809
版权归原作者 maggieyiyi 所有, 如有侵权,请联系我们删除。

“Python 实现朴素贝叶斯代码演示”的评论:

还没有评论