实验三 朴素贝叶斯算法及应用

---

博客班级	机器学习
作业要求	实验三 朴素贝叶斯算法及应用
作业目标	理解朴素贝叶斯算法原理，掌握朴素贝叶斯算法框架；掌握常见的高斯模型，多项式模型和伯努利模型；能根据不同的数据类型，选择不同的概率模型实现朴素贝叶斯算法；针对特定应用场景及数据，能应用朴素贝叶斯解决实际问题。
学号	3180701211
目录 一.实验目的 二.实验内容 三.实验报告要求 四.实验内容 朴素贝叶斯： 代码: 截图： GaussianNB 高斯朴素贝叶斯 代码： 截图： scikit-learn实例 五.思考题 朴素贝叶斯算法的应用场景 朴素贝叶斯算法的优缺点 优点： 缺点： 六.实验小结

一.实验目的

1.理解朴素贝叶斯算法原理，掌握朴素贝叶斯算法框架；
2.掌握常见的高斯模型，多项式模型和伯努利模型；
3.能根据不同的数据类型，选择不同的概率模型实现朴素贝叶斯算法；
4.针对特定应用场景及数据，能应用朴素贝叶斯解决实际问题。

二.实验内容

1.实现高斯朴素贝叶斯算法。
2.熟悉sklearn库中的朴素贝叶斯算法；
3.针对iris数据集，应用sklearn的朴素贝叶斯算法进行类别预测。
4.针对iris数据集，利用自编朴素贝叶斯算法进行类别预测。

三.实验报告要求

1.对照实验内容，撰写实验过程、算法及测试结果；
2.代码规范化：命名规则、注释；
3.分析核心算法的复杂度；
4.查阅文献，讨论各种朴素贝叶斯算法的应用场景；
5.讨论朴素贝叶斯算法的优缺点。

四.实验内容

朴素贝叶斯：

基于贝叶斯定理与特征条件独立假设的分类方法。
模型：
·高斯模型
·多项式模型
·伯努利模型

代码:

In[1]:

import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
%matplotlib inline

from sklearn.datasets import load_iris
from sklearn.model_selection import train_test_split

from collections import Counter
import math

In[2]:

# data
def create_data():
    iris = load_iris()
    df = pd.DataFrame(iris.data, columns=iris.feature_names)
    df['label'] = iris.target
    df.columns = ['sepal length', 'sepal width', 'petal length', 'petal width', 'label']
    data = np.array(df.iloc[:100, :])
    # print(data)
    return data[:,:-1], data[:,-1]

In[3]:

X, y = create_data()
X_train, X_test, y_train, y_test = train_test_split(X, y, test_size=0.3)

In[4]:

X_test[0], y_test[0]

截图：

GaussianNB 高斯朴素贝叶斯

特征的可能性被假设为高斯
概率密度函数：
数学期望(mean)：μ，方差：

代码：

In[5]:

class NaiveBayes:
    def __init__(self):
        self.model = None

    # 数学期望
    @staticmethod
    def mean(X):
        return sum(X) / float(len(X))

    # 标准差（方差）
    def stdev(self, X):
        avg = self.mean(X)
        return math.sqrt(sum([pow(x-avg, 2) for x in X]) / float(len(X)))

    # 概率密度函数
    def gaussian_probability(self, x, mean, stdev):
        exponent = math.exp(-(math.pow(x-mean,2)/(2*math.pow(stdev,2))))
        return (1 / (math.sqrt(2*math.pi) * stdev)) * exponent

    # 处理X_train
    def summarize(self, train_data):
        summaries = [(self.mean(i), self.stdev(i)) for i in zip(*train_data)]
        return summaries

    # 分类别求出数学期望和标准差
    def fit(self, X, y):
        labels = list(set(y))
        data = {label:[] for label in labels}
        for f, label in zip(X, y):
            data[label].append(f)
        self.model = {label: self.summarize(value) for label, value in data.items()}
        return 'gaussianNB train done!'

    # 计算概率
    def calculate_probabilities(self, input_data):
        # summaries:{0.0: [(5.0, 0.37),(3.42, 0.40)], 1.0: [(5.8, 0.449),(2.7, 0.27)]}
        # input_data:[1.1, 2.2]
        probabilities = {}
        for label, value in self.model.items():
            probabilities[label] = 1
            for i in range(len(value)):
                mean, stdev = value[i]
                probabilities[label] *= self.gaussian_probability(input_data[i], mean, stdev)
        return probabilities

    # 类别
    def predict(self, X_test):
        # {0.0: 2.9680340789325763e-27, 1.0: 3.5749783019849535e-26}
        label = sorted(self.calculate_probabilities(X_test).items(), key=lambda x: x[-1])[-1][0]
        return label

    def score(self, X_test, y_test):
        right = 0
        for X, y in zip(X_test, y_test):
            label = self.predict(X)
            if label == y:
                right += 1

        return right / float(len(X_test))

In[6]:

model = NaiveBayes()

In[7]:

model.fit(X_train, y_train)

截图：

In[8]：
代码：

print(model.predict([4.4,  3.2,  1.3,  0.2]))

截图：

In[9]:
代码：

model.score(X_test, y_test)

截图：

scikit-learn实例

sklearn.naive_bayes：
In[10]:
代码：

from sklearn.naive_bayes import GaussianNB

In[11]

clf = GaussianNB()
clf.fit(X_train, y_train)

截图：

In[12]:
代码：

clf.score(X_test, y_test)

截图：

In[13]:
代码：

clf.predict([4.4,  3.2,  1.3,  0.2])

截图：

In[14]:

from sklearn.naive_bayes import BernoulliNB, MultinomialNB # 伯努利模型和多项式模型

五.思考题

朴素贝叶斯算法的应用场景

1.文本分类/垃圾文本过滤/情感判别：此处朴素贝叶斯应用最多，在文本分类场景中，朴素贝叶斯占据着一席之地。因为分类很简单，同时在文本数据中，分布独立这个假设基本是成立的，并且垃圾文本过滤(比如垃圾邮件识别)和情感分析用朴素贝叶斯也通常能取得很好的效果。
2.多分类实时预测：对于文本相关的多分类实时预测，简单又高效。
3.推荐系统：朴素贝叶斯和协同过滤(Collaborative Filtering)是一对好搭档，协同过滤是强相关性，但是泛化能力略弱，朴素贝叶斯和协同过滤一起，能增强推荐的覆盖度和效果。

朴素贝叶斯算法的优缺点

优点：

（1）朴素贝叶斯模型发源于古典数学理论，有稳定的分类效率。
（2）对小规模的数据表现很好，能个处理多分类任务，适合增量式训练，尤其是数据量超出内存时，我们可以一批批的去增量训练。
（3）对缺失数据不太敏感，算法也比较简单，常用于文本分类。

缺点：

（1）理论上，朴素贝叶斯模型与其他分类方法相比具有最小的误差率。但是实际上并非总是如此，这是因为朴素贝叶斯模型给定输出类别的情况下,假设属性之间相互独立，这个假设在实际应用中往往是不成立的，在属性个数比较多或者属性之间相关性较大时，分类效果不好。而在属性相关性较小时，朴素贝叶斯性能最为良好。对于这一点，有半朴素贝叶斯之类的算法通过考虑部分关联性适度改进。
（2）需要知道先验概率，且先验概率很多时候取决于假设，假设的模型可以有很多种，因此在某些时候会由于假设的先验模型的原因导致预测效果不佳。
（3）由于我们是通过先验和数据来决定后验的概率从而决定分类，所以分类决策存在一定的错误率。
（4）对输入数据的表达形式很敏感。

六.实验小结

通过此次实验我理解了朴素贝叶斯算法原理，也学会了朴素贝叶斯算法框架；除此之外，我还掌握了常见的高斯模型，多项式模型和伯努利模型；并且能根据不同的数据类型，选择不同的概率模型实现朴素贝叶斯算法；最后我还可以针对特定应用场景及数据，能应用朴素贝叶斯解决实际问题。