1.1.1 感知机

感知机是一个简单的神经网络模型,也是一个二分类模型。感知机的网络结构如图1.1所示。

图1.1 感知机的网络结构

这里假设有数据集D=(x1y1),(x2y2),…,(xnyn),其中xiRn。如果使用感知机对该数据集进行二分类的划分,具体来说就是想找到一个直线或超平面对数据集进行划分,通过感知机后,可以得到如式(1.1)所示的输出:

式中,out即感知机进行二分类的结果输出,也就是一个是与否的概念。其中也要有阈值(Threshold)的划分。例如,生活中常见的二分类任务有:“周末想出去玩,那周末的天气好不好呢?”“想对猫的图像进行判断,那图像中的动物是不是猫呢?”等,但是现实中往往很多任务并不是二分类任务,可能更为复杂。例如,我想知道图像中的动物不是猫的话具体是什么?是小狗还是小兔子?或者说,图像识别0~9的手写数字,很明显,这些都是多分类任务,而单一的感知机难以解决类似的问题。于是,更复杂的神经网络产生了。