- 代数大脑:揭秘智能背后的逻辑
- (美)加里·F.马库斯
- 443字
- 2022-01-04 17:33:56
2.1.1 节点
节点是具有活性值的单元,而活性值是一些简单的数字,例如1.0或0.5(参见下文)。输入和输出节点具有由外部程序员分配的含义或标签。例如,在Rumelhart & McClelland(1986a)提出的众所周知的模型中,每个输入节点(略微简化)代表三种声音的不同序列,例如,一个节点代表声音序列/sli/,另一个代表声音序列/spi/,依此类推。在McClelland(1989)的儿童解决平衡杆问题的能力模型中,特定的节点代表(尤其是)可能出现在平衡杆上的特定数量的砝码。
节点(其标签)的含义在计算中没有直接作用:网络的计算仅取决于节点的活性值,而不取决于节点的标签。但是,节点标签确实起着重要的间接作用,因为模型输入的性质取决于标签,而模型的输出取决于其输入。例如,在其他条件相同的情况下,根据单词cat的发音对其进行编码的模型倾向于将cat视为与发音相近的词(例如cab和chat)相似,而根据语义特征(+动画、+四足等)对其进行编码的模型倾向于将cat视为与含义相近的词(例如dog和lion)相似。
除了输入节点和输出节点以外,还有一些隐藏节点既不表示输入也不表示输出。这些节点的作用将在下面讨论。