人工智能/神经网络/简介

人工智能从神经科学领域获得了相当大的启发。神经科学是研究神经系统，特别是大脑的学科。大脑如何使人类思考一直是一个谜，直到今天。但该领域的重大飞跃使科学家能够接近大脑内部思维过程的本质。

了解大脑的结构

猕猴体感皮层中的高尔基染色神经元。

大脑是一种果冻状结构，由灰质构成，灰质不坚硬，无法在显微镜下解剖检查，直到 1873 年，卡米洛·高尔基开发了一种染色技术，使人们能够观察构成大脑的元素。与构成身体器官基础的其他细胞不同，观察者在研究大脑时发现了一些令人震惊的东西。脑细胞或神经元与身体中的任何细胞都不一样。

在圣地亚哥·拉蒙·卡哈尔的著作中，人们宣称神经系统的主要单位是神经元。与许多人编程中使用的传统方法一样，神经元具有三个基本功能：它接收来自其他神经元的信号作为输入，处理这些信号，并将信号发送到其他神经元。由于早期的科学家认为大脑的思想是由这种神经元的网络产生的，因此他们着手复制这种网络的结构。于是，第一个人工神经网络诞生了。

人工神经网络

由于当时关于神经网络的信息非常缺乏，沃伦·麦卡洛克和沃尔特·皮茨在 1943 年坐在一起试图解释大脑的工作原理，展示了单个神经元如何在网络中与其他神经元进行交流。他们的论文很大程度上基于诺伯特·维纳的反馈理论，他们在原子层面的心理学方面的论文让马文·明斯基和迪安·埃德蒙兹十分着迷，以至于他们在 1951 年用 300 个真空管和 B-24 轰炸机的剩余自动驾驶仪建造了第一个神经网络

1958 年，康奈尔大学的弗兰克·罗森布拉特教授提出了感知机。稍后，1969 年，马文·明斯基和西摩·帕珀特出版了一本名为《感知机》的书，书中指出了感知机计算的线性性质。这扼杀了感知机产生的兴趣，神经网络经历了第一次低谷。

神经网络研究经历了许多这样的低谷，因为新的方法被创造出来，它们显示出短暂的希望，被过度宣传，并遭受了一些挫折。然而，科学家们总是回到这项技术，因为它是一种真正的尝试，尽管存在炒作，但它试图模拟神经机制。

神经网络可以大致分为神经模型、网络模型和学习规则。最早的数学模型是在麦卡洛克和皮茨之前，他们开发了第一个网络模型来解释信号如何在网络中从一个神经元传递到另一个神经元。当您听到网络被描述为前馈网络或反馈网络时，它们是在描述网络如何将一层中的神经元连接到下一层中的神经元。维纳的工作使麦卡洛克和皮茨能够描述这些不同的连接类型将如何影响网络的操作。

在前馈网络中，网络的输出不会影响产生该输出的层的操作。然而，在反馈网络中，一层之后的输出层反馈到之前的层中，会影响之前层的输出。本质上，数据在两层之间循环，然后回到起点。这对控制电路很重要，因为它允许来自先前计算的结果影响下一个计算的操作。这意味着第二次计算可以考虑第一次计算的结果，并由它们控制。维纳在控制论方面的研究是基于这样的想法，即反馈回路是控制电路的有用工具。事实上，维纳创造了术语控制论，它来源于希腊语 kybernutos，即伊利亚特中提到的一个虚构船只的金属舵手。

神经模型的范围从具有浮点输出的复杂数学模型到具有二进制输出的简单状态机。根据神经元是否包含学习机制，神经学习规则可以像早期学习规则那样简单，例如每次神经元激发时就会为突触增加权重，并随着时间的推移逐渐降低这些权重，如早期学习规则、在反向传播网络中根据某个误差函数应用增量值的增量规则，到基于突触的生化过程和激发过程的突触前/突触后规则。信号可以用二进制、线性、非线性以及尖峰值进行计算，用于输出。

如今，实际上有数百种不同的模型，它们都称自己为神经网络，即使其中一些模型不再具有神经模型，或者不再实际需要网络来实现类似的效果。由于科学家尚未完全描述哺乳动物神经细胞或神经的结构，因此我们必须承认，现在我们必须等待最终的神经模型，然后才能拥有最终的神经网络。与此同时，这是一个丰富的研究领域，因为它有可能既具有现象学意义，又具有计算意义，因此可能比单纯的计算模型更广泛地捕捉大脑的操作。