朴素贝叶斯分类

操作视频

SPSSPRO教程-朴素贝叶斯分类

# 1、作用

朴素贝叶斯分类器（Naive Bayes classifier），在机器学习中是一系列以假设特征之间强（朴素）独立下运用贝叶斯定理为基础的简单概率分类器。

# 2、输入输出描述

输入：自变量 X 为 1 个或 1 个以上的定类或定量变量，因变量 Y 为一个定类变量。
输出：模型的分类结果和模型分类的评价效果。

# 3、案例示例

根据红酒的颜色强度，苯酚，类黄酮等变量，生成一个能够区分琴酒，雪莉，贝尔摩德三种品种的红酒的朴素贝叶斯分类器。

# 4、案例数据

朴素贝叶斯分类案例数据

# 5、案例操作

Step1：新建分析；
Step2：上传数据；
Step3：选择对应数据打开后进行预览，确认无误后点击开始分析；

step4：选择【朴素贝叶斯分类】；
step5：查看对应的数据数据格式，按要求输入【朴素贝叶斯分类】数据;
step6：点击【开始分析】，完成全部操作。

# 6、输出结果分析

输出结果 1：模型参数

图表说明：上表展示了训练该模型的时候，输入的参数以及训练所耗的时间。

输出结果 2：混淆矩阵热力图

图表说明：上表以热力图的形式展示了混淆矩阵，可以通过右上角切换在测试数据集和训练数据集中的情况。
分析：
上图是训练集的分类结果，绝大部分样本分类正确，只有 1 个被分错的样本，说明分类效果较好。
下图是测试集的分类结果，绝大部分样本分类正确，只有 2 个被分错的样本，说明训练集训练出来的模型结果是有效实用的，分类效果较好。

输出结果 3：模型评估结果

图表说明：上表中展示了训练集和测试集的分类评价指标，通过量化指标来衡量决策树对训练、测试数据的分类效果。 ● 准确率：预测正确样本占总样本的比例，准确率越大越好。
● 召回率：实际为正样本的结果中，预测为正样本的比例，召回率越大越好。
● 精确率：预测出来为正样本的结果中，实际为正样本的比例，精确率越大越好。
● F1：精确率和召回率的调和平均，精确率和召回率是互相影响的，虽然两者都高是一种期望的理想情况，然而实际中常常是精确率高、召回率就低，或者召回率低、但精确率高。若需要兼顾两者，那么就可以用 F1 指标。
分析：测试集中准确率、召回率、精确率、F1 均大于 0.95，模型拟合效果优秀。

输出结果 4：测试数据预测评估结果

图表说明：上表格为预览结果，只显示部分数据，全部数据请点击下载按钮导出。
上表展示了决策树模型对测试数据的分类结果，分类结果值是拥有最大预测概率的分类组别。

输出结果 5：模型预测与应用（此功能只在客户端支持使用）
注：当无法进行预测功能时，可检查数据集中是否存在定类变量或者缺失值：
● 当存在定类变量时，请在用于训练模型的数据集和用于预测的数据集中将变量编码，再进行操作。
（SPSSPRO：数据处理->数据编码->将定类变量编码为定量）
● 当用于预测数据的数据集中存在缺失值时，请删去缺失值再进行操作。
情况 1：在上面模型评估后，模型分类结果较好，具有实用性，这时我们将该模型进行应用。点击【模型预测】上传文件可以直接得到预测结果。

情况 2：若是上传的数据包括因变量真实值，不仅仅可以得到预测结果，还可以得到当前数据分类混淆矩阵和分类评价效果。

# 7、注意事项

如若启用数据洗牌，会导致每次运算的结果不一样。若需要保存本次训练模型，需要使用 SPSSPRO 客户端进行。
朴素贝叶斯的参数修改需要使用 SPSSPRO 客户端进行。

# 8、模型理论

** 朴素贝叶斯**分类的工作过程:
(1)每个数据样本用一个 n 维特征向量 X = {x1,x2,…,xn}表示,分别描述对 n 个属性 A1,A2,…,An 的样本的 n 个度量。这里我们只讨论分类属性情形,连续值属性情形以后再讨论。
(2)类标号属性 C={c1,c2,…,cm}。给定一个未知类标号的数据样本 X，分类法将预测 X 属于具有最大后验概率(条件 X 下)的类，即是说,朴素贝叶斯分类将未知的样本分配给类 c 值独立于样本的分类属性。当且仅当 P(ci|X)>P (cj|X)，i≠j。所以,分类问题就转化为求取最大的 P(ciIX)。
由贝叶斯定理得:

这里，如果类的先验概率未知，则通常假定这些类是等概率的，即 P(c1)=P(c2)=…=P(cm)。并据此只对 P(X|ci)最大化。否则, 最大化 P(X|ci)P(ci)。给定具有许多属性的数据集，计算 P(X|ci)的开销可能非常大，为降低计算开销，可以做类条件独立的朴素假定。给定样本的类标号，假定属性值相互条件独立,即在属性间不存在依赖关系，所以：

这里，P(ci),p(xk|ci),k=1,2,…,n 都可以采用极大似然估计来计算其中

(3)对未知样本 X 分类，对每个 cI，计算 P(ci|X)P(ci)。样本 X 被划分到类 ci 中，当且仅当 P(X|ci)P(ci)>P(X|cj)P(cj)，1 ≤j≤m，j≠i。

# 9、参考文献

[1] Scientific Platform Serving for Statistics Professional 2021. SPSSPRO. (Version 1.0.11)[Online Application Software]. Retrieved from https://www.spsspro.com.
[2]谢斌.朴素贝叶斯分类在数据挖掘中的应用[J].甘肃联合大学学报(自然科学版),2007(04):79-82+91.DOI:10.13804/j.cnki.2095-6991.2007.04.023.

建议反馈