c# - C# 中朴素贝叶斯的概率计算

Question

我正在为 C# 开发朴素贝叶斯解决方案，其中有两种可能的结果。我找到了一个小示例代码，但想知道是否有人能够解释最后一行。

分析器正在查找一个单词属于两个类别之一的概率

cat1count 是在类别 1 中找到的单词数(如果该单词在类别 1 中出现 2 次，则为 2/类别 1 中的总单词数)

cat1total = 类别 1 中的单词总数

据我了解，bw 是该单词属于类别 1 的概率，gw 是该单词属于类别 2 的概率

pw 和 fw 是我开始有点迷失的地方。完整的源代码可以找到here .

        float bw = cat1count / cat1total;
        float gw = cat2count / cat2total;
        float pw = ((bw) / ((bw) + (gw)));
        float
            s = 1f,
            x = .5f,
            n = cat1count + cat2count;
        float fw = ((s * x) + (n * pw)) / (s + n);

什么是fw？我了解 bw、gw 和 pw 是什么。

Answer 1

对于正在分析的文本(例如推文)中的每个特定单词 w ，都会一遍又一遍地调用此代码。所有变量都是使用频率估计的条件概率。

bw 是在给定单词 w 的情况下看到单词 w 的概率，该单词是类别 1 文本

gw 是在给定单词 w 的情况下看到单词 w 的概率，该单词是类别 2 文本

pw 重新调整概率 bw ，以便很少出现的单词与频繁出现的单词处于相似的比例(从数学上来说，除法表明 pw > 是条件概率)

fw 只是改变比例，使 pw 不能为零(或一)。例如，如果 pw=0 和 n=10，则 fw = ((1 * 0.5) + (10 * 0))/(1 + 10) = 0.045。 (一般来说，理解这段代码的一个好方法是尝试一些不同的数字，看看会发生什么。)

在朴素贝叶斯中，正如您所知，条件概率相乘(在本例中是通过您指出的 github Analyzer.cs file 中的 LogProbability 函数)，所以您有麻烦了如果乘法中任何地方的条件概率为零，因为最终结果为零。因此，通常的做法是用一个小数字代替零，这就是 fw 的目的。