2.Naive贝叶斯算法Naive贝叶斯算法是一种分类算法。什么是简约贝叶斯算法？机器学习中常用算法优缺点的简单性贝叶斯算法机器学习中的算法很多，有一种算法有着扎实的数学背景，应用非常广泛，这个算法很简单贝叶斯算法，分类算法-Naive 贝叶斯算法我相信很多同学在高中或者大学都学过贝叶斯原理，也就是条件原理，那么什么是简约贝叶斯算法。

机器学习中常用的方法有:(1)归纳学习符号归纳学习:典型的符号归纳学习包括样例学习和决策树学习。功能归纳学习(发现学习):典型的功能归纳学习包括神经网络学习、样例学习、发现学习和统计学习。(2)演绎学习(3)类比学习:典型的类比学习包括案例(例子)学习。(4)分析性学习:典型的分析性学习包括解释性学习和宏操作学习。扩展信息:机器学习的常用算法:1。决策树算法决策树及其变种是一种将输入空间划分为不同区域的算法，每个区域都有独立的参数。

首先将样本分成不同的子集，然后进行分割和递归，直到每个子集得到相同类型的样本。从根节点到子树再到叶节点，就可以得到预测类别。该方法具有结构简单、数据处理效率高的特点。2.Naive贝叶斯算法Naive贝叶斯算法是一种分类算法。它不是一个单一的算法，而是一系列的算法，这些算法都有一个共同的原则，即被分类的每个特征与任何其他特征的值无关。

Naive贝叶斯分类器是一个简单的概率分类器，使用基于独立假设的贝叶斯定理。让它简单的应该是Naive的直译，意思是简单，单纯，幼稚。朴素贝叶斯分类是两种最常用的分类算法(决策树分类和朴素贝叶斯分类)。分类是将未知样本分类到几个先前已知类别的过程。朴素贝叶斯分类基于贝叶斯概率的思想。假设属性是相互独立的，比如A和B，那么P (B | A)表示A出现时B出现的概率。

朴素贝叶斯方法是在贝叶斯算法的基础上进行简化，即假设给定目标值时属性互为条件且相互独立。也就是说，没有一个属性变量在决策结果中占很大比重。没有一个属性变量对决策结果的比重小。这种简化的方法虽然在一定程度上降低了贝叶斯分类算法的分类效果，但却大大简化了贝叶斯方法在实际应用场景中的复杂度。

这里介绍一系列关于算法的科普文章。当我们平时沉浸在工程工作中的时候，也可以了解一些常用的算法，不仅可以从另一个维度帮助我们拓宽思路，加深对计算机技术的理解，还可以让我们了解一些熟悉和陌生领域的基本原理，比如数据挖掘、大数据、机器学习等，揭开它们的奥秘，认识到很多看似深奥的领域其实是建立在并不复杂的基础和原理之上的。

只有熟悉算法，才能对复杂的实际问题进行合理的建模，达到最佳的预期效果。本系列文章的目的是解释由国际权威学术组织2006年12月在ICDM召开的IEEE数据挖掘国际会议评选出的数据挖掘领域十大经典算法。

Naive 贝叶斯算法中的拉普拉斯平滑是为了缓解先验概率为零的情况。在贝叶斯估计中，用狄利克雷分布作为先验分布来估计多项式分布中的参数值，可以得到拉普拉斯平滑。证明如下:引入狄利克雷分布的定义。如果随机向量符合狄利克雷分布，即where，let，则概率密度函数为:计算随机向量各分量的期望如下。我们用计算代替，仍然不失一般性。

如果狄利克雷分布的概率密度函数是多项式分布的分布律，则后验分布为:因为多项式分布的后验分布也是狄利克雷分布，所以狄利克雷分布是多项式分布的共轭分布。由此可以得到多个分布参数的贝叶斯估计值:设为数据集中的样本，设为样本特征向量，设为分类变量。是数据集中的样本数，是分类数，表示第一个分类，表示数据集中第一个分类的样本数。现在需要根据数据集估计分类的先验概率。

机器学习中有很多算法，有一种算法有很扎实的数学背景，应用也很广泛。这个算法很幼稚贝叶斯算法。当然naive 贝叶斯算法的优点很多，但是这个算法的缺点也是不容忽视的，那么你知道naive 贝叶斯算法的优缺点是什么吗？下面给大家介绍一下这个问题。那么什么是简约贝叶斯算法？其实朴素贝叶斯属于生成模型，也就是生成模型和判别模型，主要看是否需要联合分布。这个算法是比较简单的，你只需要做一堆计数就可以了。

即使NB条件独立性假设不成立，NB分类器在实践中仍然表现良好。它的主要缺点是无法学习特征之间的交互。用mRMR中的R来说，就是特征冗余。那么简单贝叶斯算法，有什么好处呢？这个算法有五个优点。首先是朴素贝叶斯模型起源于经典数学理论，具有坚实的数学基础和稳定的分类效率。二是在训练和查询大量的时候要有很高的速度。

Naive 贝叶斯算法，主要用于对具有独立属性的类变量进行分类和预测。(属性/特征之间完全没有关系，这叫相互独立。其实很难存在，但是这个方法还是有效的。)在大学的概率论中，我们一般都学过这个贝叶斯定理，简单阐述如下:如果事件，…构成一个事件，且都有正概率，则以下公式对任意事件Y成立:如果X表示特征/属性，Y表示类变量，如果类变量与属性的关系不确定，则X和Y可视为随机变量，这是Y的后验概率，也是Y的先验概率..

如果我们要先计算男性的概率，先验概率是，后验概率是在我们未来要输入的一组特征已知的情况下，Y男性的概率(要预测的分类的概率)。在这种情况下，根据贝叶斯定理，我们可以用它来找出，这就是贝叶斯定理在预测中的应用。假设变量Y的概率为P(Yy)，X中的特征相互独立，公式如下:每个特征集X包含d个特征。

Naive Bayesian方法是在贝叶斯算法的基础上进行简化，即在给定目标值的情况下假设属性相互独立。也就是说，没有一个属性变量占决策结果的比例大，没有一个属性变量占决策结果的比例小。这种简化的方法虽然在一定程度上降低了贝叶斯分类算法的分类效果，但却大大简化了贝叶斯方法在实际应用场景中的复杂度。朴素贝叶斯分类(NBC)是一种基于贝叶斯定理并假设特征条件相互独立的方法。首先，通过给定的训练集学习从输入到输出的联合概率分布，假设特征词是独立的。然后基于学习到的模型，输入X，找到使后验概率最大化的输出Y。

他首先将归纳推理应用于概率论的基础理论，建立了贝叶斯统计理论，在统计决策函数、统计推断和统计估计等方面做出了贡献。1763年，一篇关于这个主题的论文发表了，它在现代概率论和数理统计中起了重要作用。贝叶斯的另一本书《机会理论导论》出版于1758年。贝叶斯采用的许多术语今天仍在使用。

相信很多同学在高中或者大学都学过贝叶斯原理，也就是条件原理。有两个容器A和B，容器A中有七个红球和三个白球，容器B中有一个红球和九个白球，现在已知从这两个容器中随机抽取一个红球。这个球来自容器A的概率是多少？假设已经抽到了红球作为事件B，选择容器A作为事件A，则有:P(B)8/20，P(A)1/2，P(B|A)7/10。根据公式有:p (a | b) (7/10) * (1/2)/

朴素贝叶斯模型由两种概率组成:1。每一类的概率p(CJ)；2.每个属性的条件概率P(Ai|Cj)，为了训练朴素贝叶斯模型，我们需要给出训练数据以及这些数据的相应分类。那么以上两个概率，即类别概率和条件概率，它们都可以从给定的训练数据中计算出来。一旦计算出来，概率模型就可以使用贝叶斯原理来预测新的数据。