跳转到内容

人工神经网络/学习范式

来自维基教科书,开放的书籍,为开放的世界

学习范式

[编辑 | 编辑源代码]

有三种不同的学习范式可用于训练神经网络。监督学习和无监督学习是最常见的,两种方法之间的混合方法也越来越常见。

监督学习

[编辑 | 编辑源代码]

监督学习是一种技术,其中提供系统的输入和预期输出,并使用 ANN 来模拟两者之间的关系。给定一个输入集x,以及一个相应的输出集y,需要确定一个最佳规则,使得

这里,e 是需要最小化的近似误差。输入值被提供给网络,网络产生一个结果。将该结果与预期结果进行比较,该误差信号用于更新网络权重向量。当我们希望网络再现特定关系的特征时,监督学习很有用。

无监督学习

[编辑 | 编辑源代码]

在无监督学习中,提供数据和一个成本函数,该函数是系统输入和输出的函数。ANN 被训练以通过找到合适的输入-输出关系来最小化成本函数。

给定一个输入集 x,以及一个输入和输出集的成本函数g(x, y),目标是通过适当选择 f(x 和 y 之间的关系)来最小化成本函数。在每次训练迭代中,训练者将输入提供给网络,网络产生一个结果。该结果被放入成本函数中,总成本用于更新权重。权重不断更新,直到系统输出产生最小成本。在已知成本函数但不知道在特定输入空间上最小化该成本函数的数据集的情况下,无监督学习很有用。

华夏公益教科书