跨学科问题 2018-19/人工智能中的主观与客观真理

人工智能中的客观真理

人工智能（AI）通常被认为可以更容易地做出客观决策。在这里，客观性是指基于批判性思维和科学证据的结论，其中结论是无可争辩的，并且只有一个正确答案。人工智能由公式和算法构成，可以处理海量数据得出比人类能够达到的更准确、因此更客观的结论。

一个例子是机器学习和识别图片中主体的任务。虽然对人类来说很简单，但人工智能需要用海量数据进行重复训练才能区分饮料、桌子和凳子。人工智能中的神经网络从一个或多个输入（例如图片）开始，并将它们处理成一个或多个输出（例如图片是否显示葡萄酒或啤酒）。这些输出包含一组复杂的“神经元”，这些神经元被分组到层中，其中一层通过加权连接与下一层交互——每个神经元都携带一个值，该值与后续层中的神经元相乘。 诸如 Eθ(θˆ) − θ之类的偏差函数可以被编码到神经网络中并通过各层传递。因此，输入可以传播到整个网络，并且机器被训练以做出尽可能准确的预测和得出结论。这种持续的测试可以为极其复杂的问题做出决策。

正如埃森哲在其用于人工智能的教与测框架中所使用的那样，前面提到的持续连接和数据处理可以被跟踪，并且可以对人工智能系统得出的决策或结论提出质疑。人工智能甚至可以被编码为证明其得出的决策。这可以让人们安心，即人工智能正在得出以人为本、无偏见和公平的结论——客观性。

人工智能中的主观真理

然而，人们经常争论说，人工智能做出的所谓客观决策最终会变得主观，因为所使用的数据集存在偏差。在这里，主观性是指基于个人意见、经验和感受而非科学证据的信念。作为人类，我们都有自己的偏见，没有人能够真正客观。由于我们既创建人工智能本身又创建其处理的数据，因此可以隐含地认为人工智能永远不会客观。

性别和种族偏见通常无意识地输入到算法中。一个著名的例子是人工智能人脸识别软件将黑人女性识别为男性。有人认为这是由于计算机科学家和工程师的无意识偏见造成的，其中大多数是白人和男性。同样，在谷歌上搜索图片时，输入“CEO”会显示男性的图片，而输入“助手”则会显示女性的图片。这是基于关于CEO长相的偏见数据集。大多数CEO确实是男性，但这基于历史上的父权思想，这些思想通常被认为是错误的。

随着人工智能在日常生活中变得越来越突出；自动驾驶汽车、谷歌家居设备、广告以及更多应用，需要考虑伦理问题。伦理可以被定义为解决道德问题的方法，但伦理可以根据一个人的意见、信仰和观点进行不同的解释，因此试图创建符合伦理的人工智能可能会导致许多问题。特别是当这些决策与可能存在偏差的数据相结合时。

人工智能的跨学科方法

从数学的、客观的角度来看；人工智能提供了人类自身无法实现的强大的计算和决策能力，从而更深入地了解复杂问题。从主观的、伦理的和哲学的角度来看；人工智能永远不会真正客观，并且我们很可能会遇到人工智能“出错”的重大问题，例如2010年闪电崩盘，因为它试图寻找“真相”或得出逻辑结论。

例如，人工智能可以用于招聘，以消除招聘中的无意识偏见。但是，如果使用机器学习算法，关于性别、种族、残疾等的数据可能会告知人工智能做出聘用白人、异性恋、健全男性——根据偏差数据，他们风险最低，因此是员工中最具成本效益的选择。它很容易突出我们自己的偏见并放大它们。而且，由于机器学习本身就是黑盒——我们输入数据，然后输出数据，在没有审计结果的情况下，我们可能完全不知道人工智能使用哪些数据点来为其决策提供依据。

当人工智能面临与伦理问题相关的难题时，它难以真正客观。但是，从跨学科的角度评估人工智能可以确保人们已经考虑了人工智能及其决策的影响。显然，计算机科学和电子工程在创建这项技术方面发挥着巨大作用，但在人工智能的开发过程中，还需要哲学和社会科学（如人类学、经济学和心理学），以确保我们开发的系统能够“思考”其结论的其他影响，从而使人工智能既有用又安全，以便人类在未来使用。