[綜合]無題

打擊兒童色情 Apple將自動過濾用戶裝置內的照片

上周四，Apple宣布了其作業系統「iOS」和「iPadOS」的更新細節。其中，為了打擊兒童色情的自動過濾照片功能引發了爭議——這到底是合理的管制，還是侵犯隱私呢？

上周四(5)，Apple宣布旗下作業系統，即iPhone使用的「iOS」和iPad使用的「iPadOS」，兩者在未來的更新細節。

然而，美國地區的版本中，有一項自動掃描照片的功能卻引發了爭議——Apple將引入名為「neuralMatch」的工具，讓「neuralMatch」檢測用戶裝置內有沒有任何已知的兒童色情圖片。

這項技術讓許多人產生質疑，這究竟是一項合理的管制手段，還是其實已經侵犯到用戶的隱私了呢？


註：針對兒童色情相關內容，英文有一專有名詞為「child sexual abuse material」，縮寫為「CSAM」，直譯即「兒童性虐待材料」，但本文將以「兒童色情」或「兒童色情照片」簡稱之。


>以人工的方式進行雙重確認
>在iPhone和iPad內建「neuralMatch」後，當用戶的照片要自動儲存至Apple的雲端系統前，這項工具會自動對檔案進行檢測，確認其中有沒有任何內容與已知的兒童色情照片吻合。
>如果出現一定數量的吻合結果，系統將自動回報結果，Apple則會以人工的方式進行雙重確認，如果真的是兒童色情照片，它們將封鎖該用戶，並通報執法單位。

Apple表示，所謂的「neuralMatch」將是「新的密碼學(cryptography)應用程式，能夠幫助遏止兒童色情在網路上散播，但同時兼顧用戶的隱私」。

它們會和美國國家兒童失蹤與受虐兒童援助中心(National Center for Missing and Exploited Children)，以及其他兒童安全相關機構的資料庫進行合作，讓用戶的照片與已知的兒童色情照片進行比對。

但這些照片並不是以「照片」的形式執行檢測，而是會先被轉譯成「雜湊值」(hashes)，是一種通常由隨機字母和數字組成的代碼。


>即使編輯過也逃不掉
Apple指出，這項技術甚至可以抓到那些經過編輯的照片，無論是被裁切過、尺寸被調整，又或是從彩色改為黑白，都通通逃不過雜湊值的比對。

而且Apple還強調，這個系統有著「極高的正確率，並確保每年只有不到一兆分之一的機會，會錯誤地標記特定帳戶」；同時，它們還聲稱，若是比起其他現有的技術，「neuralMatch」將能提供「極大」的隱私。


>Apple：不會知道用戶裝置裡有什麼
>也就是說，只要用戶裝置裡沒有兒童色情照片，Apple就不會知道裡頭的實際內容。

「如果你要儲存一堆與兒童色情相關的照片，對，這對你來說十分糟糕。」Apple負責隱私領域的軟體經理紐恩史溫德(Erik Neuenschwander)表示：「但對其他人來說，這不會產生任何差別。」
監測小孩有沒有收到裸露照片

而且除了檢測兒童色情照片以外，Apple還將開放另一個類似的功能。這只有開啟「家人共享」功能的家庭可以使用，如果家長選擇開啟的話，小孩的iPhone將會監測他們有沒有接收或傳送包含裸露照片的訊息。

如果孩子接收到照片的話，照片會先進行模糊化處理，讓孩子自行選擇要不要查看，但若是低於 13歲的孩子選擇查看的話，家長將會收到系統的特別通知。

Apple表示，它們以保護用戶隱私的方式設計了這項新功能，其中確保了Apple永遠不會看到或發現訊息中的裸露照片，掃瞄功能會在孩子的裝置上直接完成，通知也只會發送到父母的設備中。