人工智能/神经网络/分布式处理
在 1970 年代,马文·明斯基 指出感知器输出的线性性,神经网络的繁荣消退,它们曾经被炒作成接近奇迹的地位,让许多人认为神经网络不再是一个有效的研究领域。神经科学家知道事实并非如此,但那些希望从新系统中赚钱的人暂时放弃了它们。
然而,一位名叫赫尔曼·黑塞的科学家发表了一篇关于并行分布式处理的论文,文章指出神经网络可以被视为一种将复杂任务分解为简单过程的方法,这些过程只需要一个简单的处理单元就能管理。从那时起,神经网络分成了两个独立的领域,自然神经网络和并行分布式处理,后者有时被称为人工神经网络。
这两个领域的主要区别在于,自然神经网络仅限于尝试对真实自然神经网络进行建模,而并行分布式处理可以随意更改基本模型,以获得相同过程的更快速度或更好地适应特定的处理任务。一些模型,比如伊戈尔·亚历山大的无权重神经元,似乎与标准神经网络相去甚远,以至于它们可能被误认为是人工神经网络,但它们被应用于对自然神经网络进行建模,因此它们属于该学派,即使没有理由假设存在没有突触的自然神经元。
由于并行分布式处理的目的是将复杂函数分解成更小的易于处理的块,因此模型的性质会发生变化,我们不再需要神经元模型和网络模型,学习算法的性质取决于应用。
因此,一些人工神经网络没有神经元,一些人工神经网络没有网络,一些人工神经网络有定制的学习算法。在这种情况下,神经网络的名称似乎有些牵强,但并行分布式处理人员并不认为将他们的程序称为神经网络是问题。此外,足够多的原始神经网络仍然存在,足以使它们在期刊中保持最新。
例如,考虑自组织映射 (SOM)。尽管这种模拟旨在模拟人们认为可能存在于视觉皮层中的某些功能,但处理单元更依赖于拓扑而不是神经模型。它本质上所做的是将高维拓扑的维度复杂度降低到一个相对较小的(通常是二维)拓扑,同时试图保留高维结构的拓扑特征。
即使神经元与神经无关,并且网络是根据拓扑构建的,而不是将拓扑拟合到现有网络,也可以在这个结构中看到神经网络。