專業/托馬斯·勒邦尼埃和 Siri

Siri

Siri 是蘋果公司開發的語音控制個人助理，最初於 2011 年釋出。它可以在所有蘋果裝置上使用，例如 iPhone、iPad 和 macOS 系統。Siri 使用自然學習處理和機器學習來理解和響應使用者提示。

Siri 透過語音識別將使用者語音命令轉換為文字。然後，透過自然語言處理方法分析該文字以理解使用者的意圖。該結果與機器學習演算法一起用於生成 Siri 的響應。

為了提高準確性和效能，蘋果必須收集大量使用者與 Siri 的互動資訊進行分析。每個互動都必須經過人工審查，以確定是否給出了正確的響應，以及需要進行哪些更正。如此大量的任務需要大量的勞動力，因此蘋果最初將這項工作外包給了承包商。

托馬斯·勒邦尼埃背景

托馬斯·勒邦尼埃於 2018 年在巴黎索邦大學獲得社會學碩士學位。畢業後，勒邦尼埃難以找到工作，失業了八個月。勒邦尼埃最終透過他訂閱的技術諮詢公司 GlobeTech 的招聘網站收到了工作機會。

在招聘過程中，勒邦尼埃幾乎沒有收到任何關於該職位的資訊。他知道薪酬不錯，這份工作需要精通法語，並願意做重複性的工作。

勒邦尼埃簽署了一份保密協議，並接受了這份工作。兩週後，他搬到了愛爾蘭科克，開始接受培訓。勒邦尼埃的第一天工作是在 2019 年 5 月 13 日，直到那時，他才瞭解到自己的工作內容。

勒邦尼埃的工作是審查 Siri 的音訊錄音，並將其與 Siri 的文字記錄進行核對。勒邦尼埃會糾正錯誤，預計每天要審查 1300 條錄音。這項工作讓勒邦尼埃感覺不對勁，因為他聽到了“人們談論他們的癌症治療、與家人以及其他人關於性關係和戀愛關係的親密對話”的錄音。

錄音

在工作了大約三個月後，托馬斯·勒邦尼埃遇到了一段描述涉及兒童的性幻想的錄音。這段錄音讓勒邦尼埃感到噁心，他將其標記為與他的經理討論。管理層感謝了他，並指示另一名員工聽音訊以驗證勒邦尼埃所說的話。勒邦尼埃對這段錄音感到不安，並對另一個員工被迫聽到它感到震驚。

由於錄音的令人不安的性質，勒邦尼埃被指示前往求助熱線，但沒有得到真正的幫助。求助熱線主要關注他是否自殺，無法提供專業幫助。

反應

當勒邦尼埃看到他的上司對阻止錄音中令人不安的內容毫無作為時，他開始每天多次擷取他的工作截圖。起初，他害怕擷取螢幕截圖，因為他認為蘋果可能會在他報告錄音後監控他。然而，他最終意識到他所在公司的安全性有多差。 此外，他開始檢視公司的 Confluence 頁面 ，看看開發人員對 Siri 的看法以及他們認為哪些話題很敏感。

在錄音一週後，他決定辭職，永久回到法國。該公司透過電子郵件和電話多次試圖聯絡他，詢問他缺勤的原因。然而，他沒有回覆任何嘗試。四天後，公司以他未到崗工作為由解僱了他。

揭露真相

原因

起初，勒邦尼埃並不打算公開他在蘋果公司的經歷，因為他的家人和朋友說服他，蘋果可能會以他違反簽署的 NDA 為由起訴他。然而，他最終出於四個不同的原因決定公開。

• 他對蘋果公司及其前公司缺乏阻止錄音中令人不安的內容的行為感到厭惡。
• 他對蘋果公司將 Siri 錄音外包給承包商而導致的隱私侵犯感到厭惡。
• 蘋果公司可能將從 Siri 錄音中獲得的資料出售給其他第三方公司的可能性。
• 由於其他承包商早些時候在《衛報》上匿名公開他們與蘋果公司的經歷，他獲得了說出真相的勇氣。

媒體

他決定給《Mediapart》（一家法國調查性線上報紙）傳送一封電子郵件，並與《Mediapart》的一名記者會面，討論他掌握的關於蘋果的資訊。2019 年 8 月 30 日，這位記者匿名發表了包含他提供的資訊的故事。

大約在 2019 年 11 月，同一篇來自《Mediapart》的記者向勒邦尼埃介紹了一位紀錄片製片人，這位製片人希望對他進行採訪。他不確定是否要接受採訪，但當有人建議他們以兩種不同的方式拍攝他時，他感到放心，一種是保持匿名，另一種是露出他的臉。他們給了他選擇權，由他決定釋出哪一部分。

大約在 2020 年 1 月，他決定公開他的臉，因為他決定，這將是他將自己投入其中，努力解決的問題。 2020 年 2 月，採訪釋出，公開了他的臉。

政府

2020 年 5 月 28 日，他向歐洲國家資料保護機構、歐洲資料保護委員會和歐洲資料保護監督官傳送了信件。此外，他還向一些不屬於歐盟的歐洲國家傳送了多封信件，例如列支敦斯登、瑞士、挪威和冰島。 在這些信件中，他表示他擔心蘋果公司“儘管歐洲公民被告知歐盟擁有世界上最強大的資料保護法，卻在竊聽整個國家的人口”。

蘋果的回應

隨著事件引起公眾關注，蘋果迅速暫停了其稽核計劃，以便有時間考慮下一步行動。在恢復稽核計劃之前，蘋果決定進行以下政策變更。

• 預設情況下，音訊錄音將不再保留。但是，為了改進 Siri，轉錄內容將繼續使用。
• 使用者可以選擇允許使用他們與 Siri 互動的音訊錄音。
• 只有蘋果員工會稽核音訊錄音。承包商將不再為此目的使用。
• 意外觸發 Siri 將在識別後被刪除。

此外，使用者現在已經瞭解了稽核計劃，而該計劃之前一直未公開。

截至 2022 年 9 月，使用者還可以刪除之前記錄的錄音。 這是透過與個人裝置（而非使用者帳戶）關聯的隨機識別符號來完成的。

隨著 2019 年 9 月 iOS 13 的釋出，蘋果引入了裝置上處理功能，允許蘋果在使用者的裝置上進行一些處理，例如語音識別和自然語言處理，從而減少了將資料傳輸到裝置外的需求。在 iOS 14 中，Siri 的更新使其能夠完全在裝置上處理某些請求，從而同時改善了響應時間和使用者資料隱私。

大型科技公司的資料隱私

劍橋分析

2018 年，有報道稱政治諮詢公司劍橋分析公司在 2014 年獲得了近 3000 萬用戶的個人資料。這些資料被用來在 2016 年美國總統大選中投放有針對性的政治廣告。這一醜聞導致了對 Meta 資料隱私做法的更多批評，並且一直是關於需要制定更好的資料隱私法規的討論中的一個主要話題。

亞馬遜

2019 年，彭博社的一篇報道披露，亞馬遜 Alexa 錄音的人工稽核正在進行，類似於蘋果對 Siri 所做的操作。錄音中包含個人資訊和敏感資訊。由於沒有明確告知使用者他們的對話被記錄，這引起了人們對隱私的嚴重擔憂。因此，亞馬遜更新了其隱私政策，告知使用者人工稽核員可能會收聽使用者錄音，並增加了選擇退出該計劃的選項。

谷歌

2019 年，法國國家資訊與自由委員會因谷歌在未經使用者同意的情況下收集其個人資料而違反歐盟通用資料保護條例，對谷歌處以 5000 萬歐元的罰款。調查發現，谷歌的政策沒有向用戶提供關於資料用途的足夠資訊。作為回應，谷歌修改了其政策，使其更清楚地說明了他們將如何使用資料，並向用戶提供了更清晰的訪問和管理其資料的方式。

抖音

2022 年洩露的音訊顯示，字節跳動公司在中國的員工多次訪問美國使用者私密的抖音資料，而這些資料據稱與其他資料保持分離。美國曾多次嘗試限制抖音的使用，例如 2020 年特朗普政府的嘗試，以及 2023 年 2 月白宮宣佈所有美國聯邦機構必須在 30 天內從所有政府發放的裝置中刪除抖音。因此，抖音執行長周受資於 2023 年出現在國會面前，討論美國資料隱私和抖音與中國的聯絡。

與 GDPR 的關係

歐盟的 GDPR 在考慮潛在隱私違規的倫理問題時提供了一個有用的參考。GDPR 主要關注可以識別源使用者的個人資料。 蘋果強調，資料透過與隨機令牌（而不是使用者帳戶）關聯來匿名化。但是，蘋果沒有解決音訊中可能存在可識別資訊的可能性。這一事實，加上公眾意識的缺乏，表明存在倫理問題。