一、贝叶斯过滤算法的基本步骤1)、收集大量的垃圾邮件和非垃圾邮件，建立垃圾邮件集和非垃圾邮件集；2)、提取邮件主题和邮件体中的独立字串例如ABC32，￥234等作为TOKEN串并统计提取出的TOKEN串出现的次数即字频。按照上述的方法分别处理垃圾邮件集和非垃圾邮件集中的所有邮件；3)、每一个邮件集对应一个哈希表，Hashtable_Good对应非垃圾邮件集而Hashtable_Bad对应垃圾邮件集。表中存储TOKEN串到字频的映射关系；4)、计算每个哈希表中TOKEN串出现的概率P=（某TOKEN串的字频）/（对应哈希表的长度）；5)、综合考虑hashtable_good和hashtable_bad，推断出当新来的邮件中出现某个TOKEN串时，该新邮件为垃圾邮件的概率。数学表达式为：A事件——邮件为垃圾邮件;t1,t2,...,tn代表TOKEN串则P（A|ti）表示在邮件中出现TOKEN串ti时，该邮件为垃圾邮件的概率。设P1（ti）=（ti在hashtable_good中的值）P2（ti）=（ti在hashtable_bad中的值）则P（A|ti）=P1（ti）/[（P1（ti）+P2（ti）]；6)、建立新的哈希表hashtable_probability存储TOKEN串ti到P（A|ti）的映射；7)、至此，垃圾邮件集和非垃圾邮件集的学习过程结束。根据建立的哈希表Hashtable_Probability可以估计一封新到的邮件为垃圾邮件的可能性。当新到一封邮件时，按照步骤2）生成TOKEN串。查询hashtable_probability得到该TOKEN串的键值。假设由该邮件共得到N个TOKEN串，t1,t2…….tn,hashtable_probability中对应的值为P1，P2，。。。。。。PN，P(A|t1,t2,t3……tn)表示在邮件中同时出现多个TOKEN串t1,t2…….tn时，该邮件为垃圾邮件的概率。由复合概率公式可得P(A|t1,t2,t3……tn)=（P1*P2*。。。。PN）/[P1*P2*。。。。。PN+（1-P1）*（1-P2）*。。。（1-PN）]当P(A|t1,t2,t3……tn)超过预定阈值时，就可以判断邮件为垃圾邮件。二、贝叶斯过滤算法举例例如：一封含有“法轮功”字样的垃圾邮件A和一封含有“法律”字样的非垃圾邮件B根据邮件A生成hashtable_bad，该哈希表中的记录为法：1次轮：1次功：1次计算得在本表中：法出现的概率为0.3轮出现的概率为0.3功出现的概率为0.3根据邮件B生成hashtable_good，该哈希表中的记录为：法：1律：1计算得在本表中：法出现的概率为0.5律出现的概率为0.5综合考虑两个哈希表，共有四个TOKEN串：法轮功律当邮件中出现“法”时，该邮件为垃圾邮件的概率为：P=0.3/（0.3+0.5）=0.375出现“轮”时：P=0.3/（0.3+0）=1出现“功“时：P=0.3/（0.3+0）=1出现“律”时P=0/（0+0.5）=0；由此可得第三个哈希表：hashtable_probability其数据为：法：0.375轮：1功：1律：0当新到一封含有“功律”的邮件时，我们可得到两个TOKEN串，功律查询哈希表hashtable_probability可得P（垃圾邮件|功）=1P（垃圾邮件|律）=0此时该邮件为垃圾邮件的可能性为：P=（0*1）/[0*1+（1-0）*（1-1）]=0由此可推出该邮件为非垃圾邮件基于朴素贝叶斯分类器的文本分类算法（上）本文缘起于最近在读的一本书--TomM.Mitchell的《机器学习》,书中第6章详细讲解了贝叶斯学习的理论知识，为了将其应用到实际中来，参考了网上许多资料，从而得此文。文章将分为两个部分，第一部分将介绍贝叶斯学习的相关理论(如果你对理论不感兴趣，请直接跳至第二部分<<基于朴素贝叶斯分类器的文本分类算法（下）>>)。第二部分讲如何将贝叶斯分类器应用到中文文本分类，随文附上示例代码。Introduction我们在《概率论和数理统计》这门课的第一章都学过贝叶斯公式和全概率公式，先来简单复习下：条件概率定义设A,B是两个事件，且P(A)>0称P(B∣A)=P(AB)/P(A)为在条件A下发生的条件事件B发生的条件概率。乘法公式设P(A)>0则有P(AB)=P(B∣A)P(A)全概率公式和贝叶斯公式定义设S为试验E的样本空间，B1,B2,…Bn为E的一组事件，若BiBj=Ф,i≠j,i,j=1,2,…,n;B1∪B2∪…∪Bn=S则称B1,B2,…,Bn为样本空间的一个划分。定理设试验E的样本空间为，A为E的事件，B1,B2,…,Bn为的一个划分，且P(Bi)>0(i=1,2,…n)，则P(A)=P(A∣B1)P(B1)+P(A∣B2)+…+P(A∣Bn)P(Bn)称为全概率公式。定理设试验俄E的样本空间为S，A为E的事件，B1,B2,…,Bn为的一个划分，则P(Bi∣A)=P(A...