个人中心
文章发布
退出
作者热门文章
- ubuntu12.04环境下使用kvm ioctl接口实现最简单的虚拟机
- Ubuntu 通过无线网络安装Ubuntu Server启动系统后连接无线网络的方法
- 在Ubuntu上搭建网桥的方法
- ubuntu 虚拟机上网方式及相关配置详解
31
4
CFSDN坚持开源创造价值，我们致力于搭建一个资源共享平台，让每一个IT人在这里找到属于你的精彩世界.
这篇CFSDN的博客文章Python实现朴素贝叶斯分类器的方法详解由作者收集整理，如果你对这篇文章有兴趣，记得点赞哟.
本文实例讲述了Python实现朴素贝叶斯分类器的方法。分享给大家供大家参考，具体如下:
。
贝叶斯定理是通过对观测值概率分布的主观判断（即先验概率）进行修正的定理，在概率论中具有重要地位.
先验概率分布(边缘概率)是指基于主观判断而非样本分布的概率分布，后验概率(条件概率)是根据样本分布和未知参数的先验概率分布求得的条件概率分布.
贝叶斯公式:
P(A∩B) = P(A)*P(B|A) = P(B)*P(A|B) 。
变形得:
P(A|B)=P(B|A)*P(A)/P(B) 。
其中 。
P(A)是A的先验概率或边缘概率，称作"先验"是因为它不考虑B因素。P(A|B)是已知B发生后A的条件概率，也称作A的后验概率。P(B|A)是已知A发生后B的条件概率，也称作B的后验概率，这里称作似然度。P(B)是B的先验概率或边缘概率，这里称作标准化常量。P(B|A)/P(B)称作标准似然度。。
朴素贝叶斯分类器在估计类条件概率时假设属性之间条件独立.
首先定义 。
x = {a1,a2,...}为一个样本向量，a为一个特征属性div = {d1 = [l1,u1],...} 特征属性的一个划分class = {y1,y2,...}样本所属的类别算法流程:
(1) 通过样本集中类别的分布，对每个类别计算先验概率p(y[i]) 。
(2) 计算每个类别下每个特征属性划分的频率p(a[j] in d[k] | y[i]) 。
(3) 计算每个样本的p(x|y[i]) 。
p(x|y[i]) = p(a[1] in d | y[i]) * p(a[2] in d | y[i]) * ... 。
样本的所有特征属性已知，所以特征属性所属的区间d已知.
可以通过(2)确定p(a[k] in d | y[i])的值，从而求得p(x|y[i]).
(4) 由贝叶斯定理得:
p(y[i]|x) = ( p(x|y[i]) * p(y[i]) ) / p(x) 。
因为分母相同，只需计算分子.
p(y[i]|x)是观测样本属于分类y[i]的概率，找出最大概率对应的分类作为分类结果.
示例:
导入数据集 。
|
1
2
3
4
5
6
7
8
9
10
|
{a1
=
0
, a2
=
0
, C
=
0
} {a1
=
0
, a2
=
0
, C
=
1
}
{a1
=
0
, a2
=
0
, C
=
0
} {a1
=
0
, a2
=
0
, C
=
1
}
{a1
=
0
, a2
=
0
, C
=
0
} {a1
=
0
, a2
=
0
, C
=
1
}
{a1
=
1
, a2
=
0
, C
=
0
} {a1
=
0
, a2
=
0
, C
=
1
}
{a1
=
1
, a2
=
0
, C
=
0
} {a1
=
0
, a2
=
0
, C
=
1
}
{a1
=
1
, a2
=
0
, C
=
0
} {a1
=
1
, a2
=
0
, C
=
1
}
{a1
=
1
, a2
=
1
, C
=
0
} {a1
=
1
, a2
=
0
, C
=
1
}
{a1
=
1
, a2
=
1
, C
=
0
} {a1
=
1
, a2
=
1
, C
=
1
}
{a1
=
1
, a2
=
1
, C
=
0
} {a1
=
1
, a2
=
1
, C
=
1
}
{a1
=
1
, a2
=
1
, C
=
0
} {a1
=
1
, a2
=
1
, C
=
1
}
|
计算类别的先验概率 。
|
1
2
|
P(C
=
0
)
=
0.5
P(C
=
1
)
=
0.5
|
计算每个特征属性条件概率:
|
1
2
3
4
5
6
7
8
|
P(a1
=
0
| C
=
0
)
=
0.3
P(a1
=
1
| C
=
0
)
=
0.7
P(a2
=
0
| C
=
0
)
=
0.4
P(a2
=
1
| C
=
0
)
=
0.6
P(a1
=
0
| C
=
1
)
=
0.5
P(a1
=
1
| C
=
1
)
=
0.5
P(a2
=
0
| C
=
1
)
=
0.7
P(a2
=
1
| C
=
1
)
=
0.3
|
测试样本:
|
1
2
3
|
x
=
{ a1
=
1
, a2
=
2
}
p(x | C
=
0
)
=
p(a1
=
1
| C
=
0
)
*
p(
2
=
2
| C
=
0
)
=
0.3
*
0.6
=
0.18
p(x | C
=
1
)
=
p(a1
=
1
| C
=
1
)
*
p (a2
=
2
| C
=
1
)
=
0.5
*
0.3
=
0.15
|
计算P(C | x) * p(x)
|
1
2
|
P(C
=
0
)
*
p(x | C
=
1
)
=
0.5
*
0.18
=
0.09
P(C
=
1
)
*
p(x | C
=
2
)
=
0.5
*
0.15
=
0.075
|
所以认为测试样本属于类型C1 。
。
朴素贝叶斯分类器的训练过程为计算(1),(2)中的概率表，应用过程为计算(3),(4)并寻找最大值.
还是使用原来的接口进行类封装:
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
|
from
numpy
import
*
class
NaiveBayesClassifier(
object
):
def
__init__(
self
):
self
.dataMat
=
list
()
self
.labelMat
=
list
()
self
.pLabel1
=
0
self
.p0Vec
=
list
()
self
.p1Vec
=
list
()
def
loadDataSet(
self
,filename):
fr
=
open
(filename)
for
line
in
fr.readlines():
lineArr
=
line.strip().split()
dataLine
=
list
()
for
i
in
lineArr:
dataLine.append(
float
(i))
label
=
dataLine.pop()
# pop the last column referring to label
self
.dataMat.append(dataLine)
self
.labelMat.append(
int
(label))
def
train(
self
):
dataNum
=
len
(
self
.dataMat)
featureNum
=
len
(
self
.dataMat[
0
])
self
.pLabel1
=
sum
(
self
.labelMat)
/
float
(dataNum)
p0Num
=
zeros(featureNum)
p1Num
=
zeros(featureNum)
p0Denom
=
1.0
p1Denom
=
1.0
for
i
in
range
(dataNum):
if
self
.labelMat[i]
=
=
1
:
p1Num
+
=
self
.dataMat[i]
p1Denom
+
=
sum
(
self
.dataMat[i])
else
:
p0Num
+
=
self
.dataMat[i]
p0Denom
+
=
sum
(
self
.dataMat[i])
self
.p0Vec
=
p0Num
/
p0Denom
self
.p1Vec
=
p1Num
/
p1Denom
def
classify(
self
, data):
p1
=
reduce
(
lambda
x, y: x
*
y, data
*
self
.p1Vec)
*
self
.pLabel1
p0
=
reduce
(
lambda
x, y: x
*
y, data
*
self
.p0Vec)
*
(
1.0
-
self
.pLabel1)
if
p1 > p0:
return
1
else
:
return
0
def
test(
self
):
self
.loadDataSet(
'testNB.txt'
)
self
.train()
print
(
self
.classify([
1
,
2
]))
if
__name__
=
=
'__main__'
:
NB
=
NaiveBayesClassifier()
NB.test()
|
。
Matlab的标准工具箱提供了对朴素贝叶斯分类器的支持:
|
1
2
3
4
5
|
trainData
=
[
0
1
;
-
1
0
;
2
2
;
3
3
;
-
2
-
1
;
-
4.5
-
4
;
2
-
1
;
-
1
-
3
];
group
=
[
1
1
-
1
-
1
1
1
-
1
-
1
]';
model
=
fitcnb(trainData, group)
testData
=
[
5
2
;
3
1
;
-
4
-
3
];
predict(model, testData)
|
fitcnb用来训练模型，predict用来预测.
希望本文所述对大家Python程序设计有所帮助.
原文链接：https://www.cnblogs.com/Finley/p/5334987.html 。
最后此篇关于Python实现朴素贝叶斯分类器的方法详解的文章就讲到这里了,如果你想了解更多关于Python实现朴素贝叶斯分类器的方法详解的内容请搜索CFSDN的文章或继续浏览相关文章，希望大家以后支持我的博客！ 。
31
4
0
背景: 我最近一直在使用 JPA，我为相当大的关系数据库项目生成持久层的轻松程度给我留下了深刻的印象。 我们公司使用大量非 SQL 数据库，特别是面向列的数据库。我对可能对这些数据库使用 JPA 有一
我已经在我的 maven pom 中添加了这些构建配置，因为我希望将 Apache Solr 依赖项与 Jar 捆绑在一起。否则我得到了 SolarServerException: ClassNotF
interface ITurtle { void Fight(); void EatPizza(); } interface ILeonardo : ITurtle {
我希望可用于 Java 的对象/关系映射 (ORM) 工具之一能够满足这些要求: 使用 JPA 或 native SQL 查询获取大量行并将其作为实体对象返回。 允许在行(实体)中进行迭代，并在对当前
好像没有，因为我有实现From for 的代码, 我可以转换 A到 B与 .into() , 但同样的事情不适用于 Vec .into()一个Vec . 要么我搞砸了阻止实现派生的事情，要么这不应该发
在 C# 中，如果 A 实现 IX 并且 B 继承自 A ，是否必然遵循 B 实现 IX？如果是，是因为 LSP 吗？之间有什么区别吗: 1. Interface IX; Class A : IX;
就目前而言，这个问题不适合我们的问答形式。我们希望答案得到事实、引用资料或专业知识的支持，但这个问题可能会引发辩论、争论、投票或扩展讨论。如果您觉得这个问题可以改进并可能重新打开，visit the
我正在阅读标准haskell库的(^)的实现代码: (^) :: (Num a, Integral b) => a -> b -> a x0 ^ y0 | y0 a -> b ->a expo x0
我将把国际象棋游戏表示为 C++ 结构。我认为，最好的选择是树结构(因为在每个深度我们都有几个可能的移动)。 这是一个好的方法吗？ struct TreeElement{ SomeMoveType
我正在为用户名数据库实现字符串匹配算法。我的方法采用现有的用户名数据库和用户想要的新用户名，然后检查用户名是否已被占用。如果采用该方法，则该方法应该返回带有数据库中未采用的数字的用户名。 例子: “贾
我正在尝试实现 Breadth-first search algorithm , 为了找到两个顶点之间的最短距离。我开发了一个 Queue 对象来保存和检索对象，并且我有一个二维数组来保存两个给定顶点
我目前正在 ika 中开发我的 Python 游戏，它使用 python 2.5 我决定为 AI 使用 A* 寻路。然而，我发现它对我的需要来说太慢了(3-4 个敌人可能会落后于游戏，但我想供应 4-
我正在寻找 Kademlia 的开源实现C/C++ 中的分布式哈希表。它必须是轻量级和跨平台的(win/linux/mac)。 它必须能够将信息发布到 DHT 并检索它。 最佳答案 OpenDHT是
我在一本书中读到这一行:-“当我们要求 C++ 实现运行程序时，它会通过调用此函数来实现。” 而且我想知道“C++ 实现”是什么意思或具体是什么。帮忙!？ 最佳答案 “C++ 实现”是指编译器加上链接
我正在尝试使用分支定界的 C++ 实现这个背包问题。此网站上有一个 Java 版本:Implementing branch and bound for knapsack 我试图让我的 C++ 版本打印
在很多情况下，我需要在 C# 中访问合适的哈希算法，从重写 GetHashCode 到对数据执行快速比较/查找。 我发现 FNV 哈希是一种非常简单/好/快速的哈希算法。但是，我从未见过 C# 实现的
目录 LRU缓存替换策略 核心思想 不适用场景 算法基本实现 算法优化
1. 绪论 在前面文章中提到 空间直角坐标系相互转换 ，测绘坐标转换时，一般涉及到的情况是：两个直角坐标系的小角度转换。这个就是我们经常在测绘数据处理中，WGS-84坐标系、54北京坐标系
在软件开发过程中，有时候我们需要定时地检查数据库中的数据，并在发现新增数据时触发一个动作。为了实现这个需求，我们在 .Net 7 下进行一次简单的演示. PeriodicTimer .
二分查找 二分查找算法，说白了就是在有序的数组里面给予一个存在数组里面的值key，然后将其先和数组中间的比较，如果key大于中间值，进行下一次mid后面的比较，直到找到相等的，就可以得到它的位置。
我是一名优秀的程序员,十分优秀！