朴素贝叶斯B站教程笔记

作者: 雪地团子 | 来源:发表于2018-09-27 16:03 被阅读0次

朴素贝叶斯B站教程笔记
算法笔记（7）-朴素贝叶斯算法及Python代码实现
朴素贝叶斯法
朴素贝叶斯(NBM)之后验概率最大化的含义 | 统计学习方法
朴素贝叶斯算法介绍及优化
朴素贝叶斯法(NaiveBayes)
朴素贝叶斯算法
深度学习知识点汇总-机器学习基础（6）
朴素贝叶斯
朴素贝叶斯

朴素贝叶斯分类器 (Naive Bayes Classifier) UP主: 正月点灯笼
http://www.bilibili.com/video/av7719936?share_medium=android&share_source=more&bbid=NgI6DWhYaQ87XzoLdwt3infoc&ts=1538034756640
（其中将朴素（独立）概念误理解为马尔科夫）

考挂了	喝酒	逛街	学习
1	1	1	0
0	0	0	1
0	1	0	1
1	1	0	0
1	0	1	0
0	0	1	1
0	0	1	0
1	0	0	1

求? 0 0 1

条件概率
$P(A|B)=\frac{P(AB)}{P(B)}$
$P(B|A)=\frac{P(AB)}{P(A)}$
$P(A|B)P(B)=P(B|A)P(A)$
$P(A|B)=\frac{P(B|A)P(A)}{P(B)}$ Bayes

先验概率:是指根据以往经验和分析得到的概率(Bayes公式中的P(A)).
后验概率:事情已经发生，要求这件事情发生的原因是由某个因素引起的可能性的大小(Bayes公式中的P(A|B))
假设各特征之间相互独立 Naive Bayes
$P(BC)=P(B)P(C)$
$P(BC|A)=P(B|A)P(C|A)$

$P(A|BC)=\frac{P(BC|A)P(A)}{P(BC)}=\frac{P(B|A)P(C|A)P(A)}{P(B)P(C)}$
$P(A|BC):P(A'|BC) = P(B|A)P(C|A)P(A):P(B|A')P(C|A')P(A')$

import numpy as np
X = np.array([[1, 1, 0], [0, 0, 1], [1, 0, 1], [1, 0, 0], [0, 1, 0], [0, 1, 1], [0, 1, 0], [0, 0, 1]])
Y = np.array([1, 0, 0, 1, 1, 0, 0, 1])

from sklearn.naive_bayes import GaussianNB
clf = GaussianNB()#参数
clf.fit(X, Y)
print("==Predict result by predict==")
print(clf.predict([[0, 0, 1]]))
print("==Predict result by predict_proba==")
print(clf.predict_proba([[0, 0, 1]]))
print("==Predict result by predict_log_proba==")
print(clf.predict_log_proba([[0, 0, 1]]))

from sklearn.naive_bayes import MultinomialNB
clf = MultinomialNB()#参数
clf.fit(X, Y)
print("==Predict result by predict==")
print(clf.predict([[0, 0, 1]]))
print("==Predict result by predict_proba==")
print(clf.predict_proba([[0, 0, 1]]))
print("==Predict result by predict_log_proba==")
print(clf.predict_log_proba([[0, 0, 1]]))

from sklearn.naive_bayes import BernoulliNB
clf = BernoulliNB()#参数
clf.fit(X, Y)
print("==Predict result by predict==")
print(clf.predict([[0, 0, 1]]))
print("==Predict result by predict_proba==")
print(clf.predict_proba([[0, 0, 1]]))
print("==Predict result by predict_log_proba==")
print(clf.predict_log_proba([[0, 0, 1]]))