基于Gauss分布和Gram-Schmidt正交化的朴素贝叶斯分类算法

朴素贝叶斯分类算法是一种简单实用的分类方法，人们对它的属性间条件独立性假设做了许多研究，致力于消除冗余属性、减少属性间的关联性，以获得一些新属性来使用朴素贝叶斯算法，但新属性间的独立性却不易度量，因而改进之处的理论支撑有所不足，改进后的朴素贝叶斯算法的效果更多的是由数据实验进行佐证。本文定义了Gauss分布型数据，提出了经Gram-Schmidt正交化方法改进的朴素贝叶斯算法，使其可以方便地使用于Gauss分布型数据的分类。该改进方法不同以往显式的构造新属性集或属性变换矩阵，而是直接正交化属性的样本数据，并证明了正交后的属性数据所对应的抽象新属性的独立性。这说明对于Gauss分布型数据的分类，原朴素贝叶斯算法中的条件独立性的假设不会给算法的使用造成障碍，经Gram-Schmidt正交化后即可满足这个约束条件。