专业/托马斯·勒邦尼埃和 Siri

Siri

Siri 是苹果公司开发的语音控制个人助理，最初于 2011 年发布。它可以在所有苹果设备上使用，例如 iPhone、iPad 和 macOS 系统。Siri 使用自然学习处理和机器学习来理解和响应用户提示。

Siri 通过语音识别将用户语音命令转换为文本。然后，通过自然语言处理方法分析该文本以理解用户的意图。该结果与机器学习算法一起用于生成 Siri 的响应。

为了提高准确性和性能，苹果必须收集大量用户与 Siri 的交互信息进行分析。每个交互都必须经过人工审查，以确定是否给出了正确的响应，以及需要进行哪些更正。如此大量的任务需要大量的劳动力，因此苹果最初将这项工作外包给了承包商。

托马斯·勒邦尼埃背景

托马斯·勒邦尼埃于 2018 年在巴黎索邦大学获得社会学硕士学位。毕业后，勒邦尼埃难以找到工作，失业了八个月。勒邦尼埃最终通过他订阅的技术咨询公司 GlobeTech 的招聘网站收到了工作机会。

在招聘过程中，勒邦尼埃几乎没有收到任何关于该职位的信息。他知道薪酬不错，这份工作需要精通法语，并愿意做重复性的工作。

勒邦尼埃签署了一份保密协议，并接受了这份工作。两周后，他搬到了爱尔兰科克，开始接受培训。勒邦尼埃的第一天工作是在 2019 年 5 月 13 日，直到那时，他才了解到自己的工作内容。

勒邦尼埃的工作是审查 Siri 的音频录音，并将其与 Siri 的文本记录进行核对。勒邦尼埃会纠正错误，预计每天要审查 1300 条录音。这项工作让勒邦尼埃感觉不对劲，因为他听到了“人们谈论他们的癌症治疗、与家人以及其他人关于性关系和恋爱关系的亲密对话”的录音。

录音

在工作了大约三个月后，托马斯·勒邦尼埃遇到了一段描述涉及儿童的性幻想的录音。这段录音让勒邦尼埃感到恶心，他将其标记为与他的经理讨论。管理层感谢了他，并指示另一名员工听音频以验证勒邦尼埃所说的话。勒邦尼埃对这段录音感到不安，并对另一个员工被迫听到它感到震惊。

由于录音的令人不安的性质，勒邦尼埃被指示前往求助热线，但没有得到真正的帮助。求助热线主要关注他是否自杀，无法提供专业帮助。

反应

当勒邦尼埃看到他的上司对阻止录音中令人不安的内容毫无作为时，他开始每天多次截取他的工作截图。起初，他害怕截取屏幕截图，因为他认为苹果可能会在他报告录音后监控他。然而，他最终意识到他所在公司的安全性有多差。 此外，他开始查看公司的 Confluence 页面 ，看看开发人员对 Siri 的看法以及他们认为哪些话题很敏感。

在录音一周后，他决定辞职，永久回到法国。该公司通过电子邮件和电话多次试图联系他，询问他缺勤的原因。然而，他没有回复任何尝试。四天后，公司以他未到岗工作为由解雇了他。

揭露真相

原因

起初，勒邦尼埃并不打算公开他在苹果公司的经历，因为他的家人和朋友说服他，苹果可能会以他违反签署的 NDA 为由起诉他。然而，他最终出于四个不同的原因决定公开。

• 他对苹果公司及其前公司缺乏阻止录音中令人不安的内容的行为感到厌恶。
• 他对苹果公司将 Siri 录音外包给承包商而导致的隐私侵犯感到厌恶。
• 苹果公司可能将从 Siri 录音中获得的数据出售给其他第三方公司的可能性。
• 由于其他承包商早些时候在《卫报》上匿名公开他们与苹果公司的经历，他获得了说出真相的勇气。

媒体

他决定给《Mediapart》（一家法国调查性在线报纸）发送一封电子邮件，并与《Mediapart》的一名记者会面，讨论他掌握的关于苹果的信息。2019 年 8 月 30 日，这位记者匿名发表了包含他提供的信息的故事。

大约在 2019 年 11 月，同一篇来自《Mediapart》的记者向勒邦尼埃介绍了一位纪录片制片人，这位制片人希望对他进行采访。他不确定是否要接受采访，但当有人建议他们以两种不同的方式拍摄他时，他感到放心，一种是保持匿名，另一种是露出他的脸。他们给了他选择权，由他决定发布哪一部分。

大约在 2020 年 1 月，他决定公开他的脸，因为他决定，这将是他将自己投入其中，努力解决的问题。 2020 年 2 月，采访发布，公开了他的脸。

政府

2020 年 5 月 28 日，他向欧洲国家数据保护机构、欧洲数据保护委员会和欧洲数据保护监督官发送了信件。此外，他还向一些不属于欧盟的欧洲国家发送了多封信件，例如列支敦士登、瑞士、挪威和冰岛。 在这些信件中，他表示他担心苹果公司“尽管欧洲公民被告知欧盟拥有世界上最强大的数据保护法，却在窃听整个国家的人口”。

苹果的回应

随着事件引起公众关注，苹果迅速暂停了其审核计划，以便有时间考虑下一步行动。在恢复审核计划之前，苹果决定进行以下政策变更。

• 默认情况下，音频录音将不再保留。但是，为了改进 Siri，转录内容将继续使用。
• 用户可以选择允许使用他们与 Siri 交互的音频录音。
• 只有苹果员工会审核音频录音。承包商将不再为此目的使用。
• 意外触发 Siri 将在识别后被删除。

此外，用户现在已经了解了审核计划，而该计划之前一直未公开。

截至 2022 年 9 月，用户还可以删除之前记录的录音。 这是通过与个人设备（而非用户帐户）关联的随机标识符来完成的。

随着 2019 年 9 月 iOS 13 的发布，苹果引入了设备上处理功能，允许苹果在用户的设备上进行一些处理，例如语音识别和自然语言处理，从而减少了将数据传输到设备外的需求。在 iOS 14 中，Siri 的更新使其能够完全在设备上处理某些请求，从而同时改善了响应时间和用户数据隐私。

大型科技公司的数据隐私

剑桥分析

2018 年，有报道称政治咨询公司剑桥分析公司在 2014 年获得了近 3000 万用户的个人数据。这些数据被用来在 2016 年美国总统大选中投放有针对性的政治广告。这一丑闻导致了对 Meta 数据隐私做法的更多批评，并且一直是关于需要制定更好的数据隐私法规的讨论中的一个主要话题。

亚马逊

2019 年，彭博社的一篇报道披露，亚马逊 Alexa 录音的人工审核正在进行，类似于苹果对 Siri 所做的操作。录音中包含个人信息和敏感信息。由于没有明确告知用户他们的对话被记录，这引起了人们对隐私的严重担忧。因此，亚马逊更新了其隐私政策，告知用户人工审核员可能会收听用户录音，并增加了选择退出该计划的选项。

谷歌

2019 年，法国国家信息与自由委员会因谷歌在未经用户同意的情况下收集其个人数据而违反欧盟通用数据保护条例，对谷歌处以 5000 万欧元的罚款。调查发现，谷歌的政策没有向用户提供关于数据用途的足够信息。作为回应，谷歌修改了其政策，使其更清楚地说明了他们将如何使用数据，并向用户提供了更清晰的访问和管理其数据的方式。

抖音

2022 年泄露的音频显示，字节跳动公司在中国的员工多次访问美国用户私密的抖音数据，而这些数据据称与其他数据保持分离。美国曾多次尝试限制抖音的使用，例如 2020 年特朗普政府的尝试，以及 2023 年 2 月白宫宣布所有美国联邦机构必须在 30 天内从所有政府发放的设备中删除抖音。因此，抖音首席执行官周受资于 2023 年出现在国会面前，讨论美国数据隐私和抖音与中国的联系。

与 GDPR 的关系

欧盟的 GDPR 在考虑潜在隐私违规的伦理问题时提供了一个有用的参考。GDPR 主要关注可以识别源用户的个人数据。 苹果强调，数据通过与随机令牌（而不是用户帐户）关联来匿名化。但是，苹果没有解决音频中可能存在可识别信息的可能性。这一事实，加上公众意识的缺乏，表明存在伦理问题。