朴素贝叶斯算法
2021/4/18 14:25:27
本文主要是介绍朴素贝叶斯算法,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
朴素贝叶斯(Nave Bayes)法是基于贝叶斯定理与特征条件独立假设的分类算法。
1.朴素贝叶斯模型
下面是分类模型样本:
假设有m个样本,每个样本有n个特征,特征输出有K个类别,定义为
从样本得到朴素贝叶斯的先验分布,
接着得到条件概率分布,
然后用贝叶斯公式得到X和y的联合分布P(X, y):
因为P(Y=Ck)比较容易通过最大似然法求出,得到P(Y=Ck)就是类别Ck 在训练集里面出现的频数。但是P(X1=x1, X2=x2, ... Xn=xn| Y=Ck)是个复杂的n个维度的条件分布,很难求出。朴素贝叶斯在这里做了一个大胆的假设,即X的n个维度之间相互独立,得出:
从上式看出,很难的条件分布大大简化了。如果特征之间不独立怎么办?那就尽量不适用朴素贝叶斯模型。这就是贝叶斯模型的选择。
最后回到要解决的问题,我们的问题是给定测试集的一个新样本特征,我们如何判断它属于哪个类型?
既然是贝叶斯模型,当然是后验概率最大化来判断分类了。我们只要计算出所有的K个条件概率 ,然后找出最大的条件概率对应的类别,就是朴素贝叶斯的预测。
2.朴素贝叶斯的推断过程
这篇关于朴素贝叶斯算法的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-10-01基于Python+Vue开发的医院门诊预约挂号系统
- 2024-10-01基于Python+Vue开发的旅游景区管理系统
- 2024-10-01RestfulAPI入门指南:打造简单易懂的API接口
- 2024-10-01初学者指南:了解和使用Server Action
- 2024-10-01Server Component入门指南:搭建与配置详解
- 2024-10-01React 中使用 useRequest 实现数据请求
- 2024-10-01使用 golang 将ETH账户的资产平均分散到其他账户
- 2024-10-01JWT用户校验课程:从入门到实践
- 2024-10-01Server Component课程入门指南
- 2024-09-30Dnd-Kit学习:新手快速入门指南