第4章　线性分类模型

线性分类器是最简单的分类器且具有可计算性。一般情况下，线性分类器不是最优分类器。当各类样本空间发生重叠时，寻找线性分类器的迭代过程会延长，甚至产生振荡现象，这就是线性分类器的局限性。但是，由于简单高效，因此它应用比较广泛。在小样本情况下，它甚至能取得比复杂分类器更好的效果。采用不同的准则及不同的优化算法，会得到不同的线性判别方法。如果知道判别函数的形式，就可以设法从数据中直接估计这种判别函数中的参数，这就是基于样本直接进行分类器设计的思想。不同的判别函数类型、分类目标及不同的优化算法就决定了不同的分类模型设计方法。

本章首先介绍线性判别函数的准则，具体论述两类和多类的分类问题；然后对Fisher线性判别函数进行介绍，重点介绍基于感知器的线性判别函数；最后给出在TensorFlow平台上的感知器算法实现。