2.1.8 监督

由于通过反向传播训练的模型需要外部标记数据,因此可以说它们是受监督的[6]。对于任何受监督的模型,一个明显的问题是,标记数据如何得到?一些多层感知器方法的批评者基于标记数据的不可信性而否定所有受监督的模型,但是这种一概而论的批评是不公平的。一些模型的确依赖于在环境中似乎不可行的示教信号,但是在其他情况下,示教信号可能是在环境中可用的一条信息。例如,在下面描述的句子预测网络中,模型的输入是句子中的单词,而目标是该句子中的下一个单词。假设学习者可以访问这些容易获得的信息并不是不合理的。对于每个受监督的模型,必须分别提出标记数据是否合理的问题。