跳转到内容

职业道德/Google 员工与 Maven 项目

Add links
来自 Wikibooks，开放世界中的开放书籍


谷歌

[编辑 | 编辑源代码]

谷歌 是一家总部位于加州的科技公司，专门从事互联网服务。他们专注于 在线广告技术、 搜索引擎 和 云计算。谷歌被认为是美国四大科技公司之一，通常被称为 四大科技巨头，与苹果、脸书和亚马逊并列。[1] 2019 年，谷歌的收入为 1200 亿美元，其中约 83% 来自广告。[2]

Google 员工

[编辑 | 编辑源代码]

根据众包数据，Google 软件开发人员的薪酬异常高，大学毕业生的平均总薪酬为 180,418 美元。[3] 这几乎是大学毕业生软件工程师的全国平均工资 99,917 美元的两倍。[4] 员工也受到激励留在公司，因为股票奖励等福利需要数年才能 到期。众所周知，Google 员工会为他们所信仰的事业抗议，例如 2019 年对不公正解雇的抗议[5] 和 2018 年因性骚扰而发起的罢工。[6]

Maven 项目之前的政府合同

[编辑 | 编辑源代码]

2008 年至 2019 年期间，谷歌从联邦机构的合同中获得了 4900 万美元的付款。[7] 这些合同中的大多数涉及广告服务，例如与卫生与公众服务部签订的一份 352,200 美元的合同，用于在第三方网站和 Google 搜索结果中投放 HealthCare.gov 广告。 [7].

Maven 项目

[编辑 | 编辑源代码]

国防部的难题

[编辑 | 编辑源代码]

国防部 (DOD) 每天都会收集大量全动态视频数据。军方和民用分析人员必须手动分析这些数据以支持反叛乱和反恐行动，因此国防部需要一种方法来有效地将这些数据转换为可操作的信息。[8] 除了数据量问题外，国防部的识别技术只能识别简单的物体，例如汽车和人，而不能识别更复杂的情况，例如军事行动中涉及的情况。[9]

项目

[编辑 | 编辑源代码]

Maven 项目，正式名称为“算法战争跨职能团队”，于 2017 年 4 月启动。这是一个与国防部合作的项目，探索在战场上使用 人工智能 (AI) 和目标识别。该项目创建了一个监视引擎，该引擎使用政府无人机捕获的广域运动图像数据来自动检测目标，跟踪它们的运动，并将结果传递给国防部。[8] 该系统使用 机器学习 不断改进分析，并通过自动标记画面中的目标供分析人员审查，而不是分析人员手动检查所有数据本身，从而简化了分析人员的工作。这些算法不会选择目标或下达攻击命令，[9] 但许多人对该项目和 Google 的参与意图和潜在结果表示担忧。

反对

[编辑 | 编辑源代码]

2018 年 4 月，Maven 项目启动一年后，超过 4,000 名 Google 员工签署了一封致 Google 首席执行官 Sundar Pichai 的信，要求 Google 退出 Maven 项目。[9] 这封信 包括员工对美国军方可能将 AI 技术武器化以完善无人机攻击和其他致命攻击的担忧，表明该项目可能有助于无人机作战行动。[8] 这与 Google 作为一家公司的核心价值观不符，员工加入 Google 时不希望参与这项工作。这份合同也不会带来大量的收入，只奖励 Google 900 万美元，因此许多人认为，品牌潜在的损害和公众信任度的下降不值得冒险。[10] 2018 年 6 月，两个月后，Google 宣布退出该项目，决定在 2019 年合同到期时不再续约。[9]

支持

[编辑 | 编辑源代码]

支持谷歌参与“Maven 项目”的人认为，美国需要在人工智能军备竞赛中保持领先地位，因为许多其他国家正在开发人工智能驱动的军事行动。支持者还认为，人工智能必将被应用于战争，只是时间问题。如果谷歌不参与，那么国防部（DOD）将会继续进行，即使它不得不依赖实力较弱的专家。[9] 由于谷歌以拥有最优秀工程师而闻名，将合同授予资质较低的公司会导致最终产品的质量下降。

国防部的举措

[edit | edit source]

针对谷歌退出“Maven 项目”以及公众对此项目表达的担忧，国防部制定了两个举措。

  • 联合人工智能中心 (JAIC)：一个卓越中心，负责管理军方所有的人工智能行动。该中心的最初重点是人道主义工作，以提升公众关系。其第一个重大举措是使用人工智能来组织军方对自然灾害的搜索和救援响应。[9]
  • 国防创新委员会：一个由技术专家组成的咨询小组，致力于审查人工智能伦理并制定军事人工智能使用的原则。该小组将与人工智能专家举行公开会议，讨论如何将人工智能整合到武器计划中，或不应该将其整合到武器计划中，然后向国防部长提交建议。[9]

伦理和职业考量

[edit | edit source]

谷歌员工表示担心参与“Maven 项目”会损害未来的招聘工作，并使公司与 Palantir、雷神和通用动力等公司[11]处于相同的光环下，这些公司被推测参与了有争议的商业活动。[12] [13] [14]

员工还承认，微软和亚马逊等公司参与某些项目是谷歌参与该项目的充分理由，他们指出，谷歌的历史、触达数十亿用户的实力以及“不要作恶”的座右铭[11]（现已从行为准则中删除）[15] 将其与其他公司区分开来。员工认为，谷歌不应仅仅因为其他公司参与了风险项目，就参与到这些项目中。

伦理考量

[edit | edit source]

员工不太愿意参与一个帮助军事监视的项目，并对该项目在更具攻击性的情况下被使用表示担忧。[11] 谷歌云首席执行官黛安·格林（Diane Greene）保证，这项技术不会被用于发射武器或操控无人机等用途。员工相信，由于它是军事软件，无法保证它不会被用于协助这些任务。[11] 一旦产品交付，工程师就无法干预其使用。

职业考量

[edit | edit source]

员工希望维护谷歌宣称重视的自身与用户之间的信任，尤其是在人们越来越担心人工智能的偏见和武器化的情况下。[11] 他们认为，谷歌有责任绝不损害用户对公司的信任。[11] 如果仅仅因为人们对公司部分业务持有负面看法，就难以维持信任，那么积极参与直接影响人们对公司信任的事情，并不能起到帮助作用。

有争议的无人机使用

[edit | edit source]

员工之一的问题是，这项技术有可能被用于操控或发射武器和无人机。[span>11] 许多人支持使用军用无人机，也有人认为这走得太远。一个担忧是，无人机的精确度不够理想，会导致平民伤亡。[16] 虽然无法确定确切的平民伤亡人数，尤其是在特朗普政府推翻了美国军方发布空袭平民伤亡年度报告的强制要求后[17]，但有些人认为，无人机打击可以容忍的平民死亡人数上限应该非常低。

另一个担忧是，无人机打击有可能加剧其本应阻止的恐怖主义。被袭击者家属中怀恨在心的人，甚至那些对本国遭受攻击感到愤怒的人，可能想要报复，就像“时代广场炸弹客”事件中所发生的那样。[18] 这会导致原本可能不会发生的恐怖主义行为，当然，我们永远无法确定是否真是如此。虽然有些人认为，在军用无人机使用方面，利大于弊，但其他人可能会认为，任何弊端都是不允许使用无人机的理由。

持久影响

[edit | edit source]

“Maven 项目”现状

[edit | edit source]

Palantir 在 2019 年接管了“Maven 项目”，此前谷歌没有续签合同。Palantir 的首席执行官亚历克斯·卡普（Alex Karp）以及 Palantir 作为一个组织都认为，大型科技公司有爱国义务去做美国政府要求的任何事。[19] Palantir 的创始人彼得·泰尔（Peter Thiel）甚至声称，“谷歌应该受到联邦调查局和中央情报局的调查，因为该公司似乎背叛了美国，选择与中国军队合作，而不是与美国政府合作”。[20] Palantir 过去曾参与过许多政府合同，包括创建 ICE 和 CBP 的监控网络以及为警方构建绕过搜查令程序的软件。[19]

“Maven 项目”后政府合同

[编辑 | 编辑源代码]

当前的政府国防合同以非此即彼的方式运作，公司必须提供合同中的所有服务，而不能将合同拆分给多个投标人。 2018 年，Google 决定不竞标名为联合企业防御基础设施 (JEDI) 的 100 亿美元云计算合同。[21] 这一决定是由于 Google 无法保证合同将符合其 AI 原则，并且只希望提供合同的一部分服务。 Google 发言人表示：“如果 JEDI 合同对多个供应商开放，我们会提交一份针对部分内容的具有说服力的解决方案。Google Cloud 认为，多云方法符合政府机构的最佳利益，因为它使他们能够为正确的负载选择正确的云。”[21]

Google AI 原则

[编辑 | 编辑源代码]

自 2018 年以来，Google 一直维护着 AI 项目的道德原则列表。[22] 这些原则作为 Google 进一步合同选择和执行的指南。 该列表分为两类：AI 应用程序的目标和我们不会追求的 AI 应用程序。 更多信息可以在 Google 的 网站 上找到。

  1. AI 应用程序的目标
    • 对社会有益。
    • 避免创造或强化不公平的偏见。
    • 为安全而构建和测试。
    • 对人们负责。
    • 融入隐私设计原则。
    • 坚持高水平的科学卓越性。
    • 使 AI 应用程序可用于符合这些原则的用途。
  2. 我们不会追求的 AI 应用程序
    • 可能造成或可能造成整体危害的技术。 在存在重大危害风险的情况下，我们只会在我们认为利益大大超过风险的情况下进行，并将纳入适当的安全约束。
    • 主要目的或实施是造成或直接促进对人造成伤害的武器或其他技术。
    • 违反国际公认规范收集或使用信息进行监控的技术。
    • 目的违反国际法和人权普遍接受原则的技术。

结论

[编辑 | 编辑源代码]

Google 员工希望 Google 放弃 Maven 项目的原因在他们的信中列出了几个，但总的来说，他们认为 Google 不应该从事战争业务。 尽管这封信只包含一小部分员工的签名，但信的内容引发了需要解决的问题，这些问题需要在尝试判断个人和公司参与某个项目的道德性时予以解决。 对于一些员工来说，Maven 项目与他们的道德或职业价值观不符，他们采取措施进行纠正。 在这种情况下，员工们提出了强有力的论点，这很可能帮助 Google 决定不再续签 Maven 项目合同。

参考文献

[编辑 | 编辑源代码]
  1. ↑ http://www.barrons.com/articles/ranking-the-big-four-internet-stocks-google-is-no-1-apple-comes-in-last-1503412102
  2. ↑ https://www.forbes.com/sites/greatspeculations/2019/12/24/is-google-advertising-revenue-70-80-or-90-of-alphabets-total-revenue/#6eec9f644a01
  3. ↑ Levels. 来自 https://www.levels.fyi/?compare=Google&track=Software%20Engineer
  4. ↑ Glassdoor。 (n.d.)。 软件工程师 - 新大学毕业生薪资。 来自 https://www.glassdoor.com/Salaries/new-college-grad-software-engineer-salary-SRCH_KO0,34.htm
  5. ↑ Arielle Pardes。 (2019 年 11 月 11 日)。 Google 员工抗议，为“科技的未来”而战。 来自 https://www.wired.com/story/google-employees-protest-retaliation/
  6. ↑ Daisuke Wakabayashi、Erin Griffith、Amie Tsang 和 Kate Conger。 (2018 年 11 月 1 日)。 Google 罢工：员工就性骚扰处理问题举行抗议。 来自 https://www.nytimes.com/2018/11/01/technology/google-walkout-sexual-harassment.html
  7. ↑ a b Investopedia。 (2019 年 6 月 25 日)。“Google 可能因数据合规性而失去所有政府合同 (GOOG)”。 来自 https://www.investopedia.com/news/google-could-lose-all-government-contracts-over-data-compliance/
  8. ↑ a b c Kalvapalle, R. (2018 年 4 月 4 日)。 Google 员工要求科技巨头退出五角大楼 AI 项目。 https://globalnews.ca/news/4124514/google-project-maven-open-letter-pentagon/
  9. ↑ a b c d e f g Frisk, A. (2018 年 4 月 5 日)。 什么是 Maven 项目？ Google 员工想要退出的五角大楼 AI 项目。 https://globalnews.ca/news/4125382/google-pentagon-ai-project-maven/
  10. ↑ Shane, S.、Metz, C. 和 Wakabayashi, D. (2018 年 5 月 30 日)。 五角大楼合同如何成为 Google 的身份危机。 https://www.nytimes.com/2018/05/30/technology/google-project-maven-pentagon.html
  11. ↑ a b c d e f g Shane, S.、Wakabayashi, D. (2018 年 4 月 4 日)。“战争的生意”：Google 员工抗议为五角大楼工作。 纽约时报。 https://www.nytimes.com/2018/04/04/technology/google-letter-ceo-pentagon-project.html
  12. ↑ Chan, R. (2019 年 7 月 19 日)。 以下是您需要了解的有关 Palantir 的信息，这是一家价值 200 亿美元的秘密数据分析公司，其与 ICE 的合作将亚马逊拖入了争议。 商业内幕。 https://www.businessinsider.com/palantir-ice-explainer-data-startup-2019-7
  13. ↑ Mattera, P. (2012 年 9 月 23 日)。 雷神公司。 https://www.corp-research.org/raytheon
  14. ↑ Mattera, P. (2012 年 9 月 23 日)。 通用动力公司。 https://www.corp-research.org/general-dynamics
  15. ↑ Conger, K. (2018 年 5 月 18 日)。 Google 从其行为准则中删除了“不作恶”条款。 https://gizmodo.com/google-removes-nearly-all-mentions-of-dont-be-evil-from-1826153393
  16. ↑ al-Zikry, M.、Michael, M. (2018 年 11 月 14 日)。 美国无人机袭击在也门的隐性代价：近三分之一的死亡人数是平民，而不是基地组织。 军事时报。 https://www.militarytimes.com/news/your-military/2018/11/14/hidden-toll-of-us-drone-strikes-in-yemen-nearly-a-third-of-deaths-are-civilians-not-al-qaida/
  17. ↑ Ryan, M. (2019 年 3 月 6 日)。 特朗普政府修改了奥巴马时代关于美国空袭中平民伤亡的法案。 华盛顿邮报。 https://www.washingtonpost.com/world/national-security/white-house-weakens-obama-era-rule-on-civilian-casualties/2019/03/06/b2940dfe-4031-11e9-9361-301ffb5bd5e6_story.html
  18. ↑ Adams, L.、Nasir, A. (2010 年 9 月 18 日)。 进入时代广场爆炸案策划者的内心。 卫报。 https://www.theguardian.com/world/2010/sep/19/times-square-bomber
  19. ↑ a b Greene, Tristan。 (2019 年 12 月)。 报告：Palantir 接管了 Maven 项目，这是一个对 Google 来说过于不道德的军事 AI 项目。 来自 https://thenextweb.com/artificial-intelligence/2019/12/11/report-palantir-took-over-project-maven-the-military-ai-program-too-unethical-for-google/
  20. ↑ Sandler, Rachel。 (2019 年 7 月 15 日) 彼得·蒂尔表示，中央情报局应该调查 Google 的“叛国行为”。 来自 https://www.forbes.com/sites/rachelsandler/2019/07/15/peter-thiel-says-cia-should-investigate-google-for-being-treasonous/#67ac6ca3521d
  21. ↑ a b Rosalie Chan. (2018 年 10 月 8 日). 来自 https://www.businessinsider.com/google-drops-out-of-10-billion-jedi-contract-bid-2018-10
  22. ↑ Google. (无日期). 谷歌的人工智能原则. 来自 https://ai.google/principles/
检索自 "https://wikibooks.cn/w/index.php?title=Professionalism/Google_Employees_and_Project_Maven&oldid=3687207"
华夏公益教科书