神譯局是36氪旗下編譯團(tuán)隊(duì)，關(guān)注科技、商業(yè)、職場(chǎng)、生活等新領(lǐng)域，重點(diǎn)介紹國外的新技術(shù)、新觀點(diǎn)、新風(fēng)向。

編者按：蘋果公司在利用Apple Watch和iPhone用戶的隱私數(shù)據(jù)進(jìn)行情緒檢測(cè)，但這一技術(shù)目前而言不僅十分不可靠，還會(huì)對(duì)用戶的隱私造成隱患，人們會(huì)愿意自己的情緒被電子產(chǎn)品所探知嗎？本文翻譯自Fast Company，原文作者Ruth Reader，標(biāo)題Apple is studying mood detection using iPhone data. Critics say the tech is flawed。 

最近，對(duì)于加州大學(xué)洛杉磯分校和蘋果公司進(jìn)行的一項(xiàng)調(diào)查發(fā)現(xiàn)，iPhone的制造商正在使用面部識(shí)別、語音和對(duì)一系列其他被動(dòng)行為的跟蹤來檢測(cè)抑郁癥。這份由《華爾街日?qǐng)?bào)》的Rolfe Winkler撰寫的報(bào)告引發(fā)了人們對(duì)該公司進(jìn)軍名為“情感人工智能”領(lǐng)域的擔(dān)憂。一些科學(xué)家甚至表示，該領(lǐng)域是建立在錯(cuò)誤的假設(shè)之上的，所以是一種“偽科學(xué)”。

蘋果公司的抑郁癥研究于2020年8月首次被公開。此前的研究信息表明，該公司僅使用某些健康數(shù)據(jù)，如心率、睡眠和用戶與手機(jī)互動(dòng)的方式來了解他們的心理健康。但《華爾街日?qǐng)?bào)》的報(bào)道稱，實(shí)際上他們把用戶的生命體征、運(yùn)動(dòng)、語言、睡眠、打字習(xí)慣、甚至是打字頻率都納入了檢測(cè)范圍，以用來檢測(cè)壓力、抑郁和焦慮。他們同時(shí)從Apple Watch和iPhone的攝像頭與麥克風(fēng)收集數(shù)據(jù)，并與心理健康評(píng)判標(biāo)準(zhǔn)和皮質(zhì)醇水平數(shù)據(jù)(從參與者的表皮毛囊中獲取的)進(jìn)行比較。

圖片來源：Pexels

據(jù)《華爾街日?qǐng)?bào)》報(bào)道，蘋果公司還參與了其他的一些研究，旨在根據(jù)iPhone和Apple Watch的數(shù)據(jù)檢測(cè)兒童認(rèn)知能力的下降和自閉癥，這些研究是蘋果公司對(duì)個(gè)人健康研究的延伸，他們?cè)谧粉櫽脩舻倪\(yùn)動(dòng)、睡眠、聽力、身體穩(wěn)定性、月經(jīng)、飲食和其他日常健康指標(biāo)方面投入了大量資金，甚至集成了醫(yī)療數(shù)據(jù)，還可以向用戶的醫(yī)生發(fā)送健康報(bào)告。

對(duì)于抑郁癥的研究則進(jìn)一步利用健康數(shù)據(jù)來對(duì)用戶的情緒狀態(tài)做出假設(shè)。越來越多的應(yīng)用程序都推出了這個(gè)功能，聲稱利用所謂的情感人工智能或情感計(jì)算可以被動(dòng)地衡量你的情緒。出于商業(yè)目的，他們利用包括面部表情在內(nèi)的各種數(shù)據(jù)來試圖檢測(cè)用戶的情緒。根據(jù)Grand View Research的數(shù)據(jù)，2019年，情感計(jì)算的市場(chǎng)規(guī)模約為200億美元。

唐恩都樂、聯(lián)合利華、嘉年華郵輪公司和IBM等大公司已經(jīng)開始在招聘過程中使用情感人工智能來了解應(yīng)聘者的性格。這種技術(shù)還被實(shí)驗(yàn)性地甚至商業(yè)性地用于檢測(cè)汽車司機(jī)們是否在打瞌睡，這一技術(shù)還被監(jiān)獄用來檢測(cè)服刑人員的心理壓力，而在疫情期間，這一技術(shù)也被用來檢測(cè)上網(wǎng)課的學(xué)生們到底有沒有在認(rèn)真學(xué)習(xí)。

但這項(xiàng)技術(shù)也受到了多方批評(píng)。不僅因?yàn)樗占舜罅康拿舾袛?shù)據(jù)，還因?yàn)檫@項(xiàng)技術(shù)的最終效果難以盡人意。電子前沿基金會(huì)的立法活動(dòng)家Hayley Tsukayama說:“總的來說，實(shí)驗(yàn)已經(jīng)證明我們看到的那些能檢測(cè)情感或心理健康的產(chǎn)品并不是很可靠。”

圖片來源：Pexels

科學(xué)家們也公開批評(píng)了情感人工智能的問題，稱這一技術(shù)是建立在一個(gè)本身就有缺陷的假設(shè)之上的。南加州大學(xué)安嫩伯格傳播與新聞學(xué)院研究員、《人工智能圖譜:人工智能的權(quán)力、政治和環(huán)境成本》一書的作者Kate Crawford將這一假設(shè)稱為是一種“顱相學(xué)沖動(dòng)，是從一個(gè)人的外表得出關(guān)于其內(nèi)在狀態(tài)和能力的錯(cuò)誤假設(shè)，目的是為了獲取那些用戶沒有主動(dòng)公開的信息?！?/p>

2019年，一組研究人員在學(xué)術(shù)期刊《公共利益中的心理科學(xué)》上發(fā)表了一篇論文，闡述了情感人工智能面臨的挑戰(zhàn)。他們寫道:“不管算法有多復(fù)雜，僅僅通過分析面部運(yùn)動(dòng)來‘讀取’人們的內(nèi)心狀態(tài)，而不考慮所處環(huán)境等各個(gè)方面，說好聽點(diǎn)這叫不成熟，說難聽點(diǎn)就是根本無效。”在這篇論文中，研究人員呼吁人們對(duì)這一技術(shù)進(jìn)行更深入的研究，探索人們?cè)诓煌闆r下是如何利用面部動(dòng)作來展示或掩蓋內(nèi)心情緒的，以及人們是如何根據(jù)他人的面部表情來推斷他人的情緒的。

隨著越來越多像蘋果這樣的科技公司開始對(duì)這項(xiàng)技術(shù)進(jìn)行投資，情感人工智能的可靠程度將會(huì)產(chǎn)生巨大的影響。去年8月，亞馬遜推出了一款可穿戴健康設(shè)備，它的功能就是檢測(cè)你的聲音的情緒語調(diào)。而在《自然》上的一篇文章中， Crawford呼吁國家需要制定強(qiáng)有力的法律來確保情感人工智能應(yīng)用背后的科學(xué)是嚴(yán)格且透明的。曾經(jīng)，測(cè)謊儀這一并不可靠的技術(shù)被使用了幾十年，在造成了巨大的損害之后才被證明是不可靠的，因此，在這份報(bào)告中，她認(rèn)為情感人工智能技術(shù)還需要進(jìn)行完善，而測(cè)謊儀就是前車之鑒。

Tsukayama說，各大公司有責(zé)任明確地說明這項(xiàng)技術(shù)的能力與缺陷。在檢測(cè)抑郁癥的案例中，公司需要做的不僅僅是向用戶說明人工智能的評(píng)估僅具有參考價(jià)值，還需要考慮外行人會(huì)對(duì)這項(xiàng)功能進(jìn)行怎樣的解讀。 “他們會(huì)覺得有了這項(xiàng)技術(shù)就可以不用去看醫(yī)生了嗎？”“他們會(huì)覺得這項(xiàng)技術(shù)已經(jīng)成熟到可以讓他們進(jìn)行自我療愈了嗎？”這些誤解都有可能對(duì)用戶造成傷害。

技術(shù)律師、新罕布什爾大學(xué)法學(xué)院的助理教授Tiffany C. Li說，她認(rèn)為蘋果公司的研究對(duì)醫(yī)學(xué)發(fā)展可能會(huì)有幫助，但“重要的是我們需要建立保護(hù)機(jī)制。”她對(duì)情感人工智能的擔(dān)憂是，這項(xiàng)技術(shù)將會(huì)使用大量的個(gè)人數(shù)據(jù)，如果聯(lián)邦隱私立法中不包含對(duì)人們生物特征數(shù)據(jù)的保護(hù)，那么消費(fèi)者對(duì)他們的數(shù)據(jù)的使用、處理和存儲(chǔ)方式會(huì)失去自主權(quán)。

圖片來源：Pexels

蘋果公司正與一項(xiàng)學(xué)術(shù)研究合作測(cè)試抑郁癥檢測(cè)，該研究對(duì)透明度和參與者的知情同意有著嚴(yán)格的規(guī)定?！度A爾街日?qǐng)?bào)》在其報(bào)告中指出，加州大學(xué)洛杉磯分校和蘋果公司的研究可能永遠(yuǎn)不會(huì)被用于面向消費(fèi)者的應(yīng)用程序。這項(xiàng)研究從2020年開始，為期三年，在下一階段，實(shí)驗(yàn)樣本將擴(kuò)大到3000人。不過，蘋果公司對(duì)情感人工智能的研究是該領(lǐng)域正在加速發(fā)展的跡象，評(píng)論人士認(rèn)為，隨著技術(shù)的普及，必須出臺(tái)更有力的監(jiān)管制度。

Tsukayama說:“如果你想使用這項(xiàng)算法來幫你做關(guān)鍵的決定，你就得確保它是透明的，是可以被審計(jì)、可被證偽的?！薄澳阋_保它有基本的責(zé)任制度?！?/p>

譯者：扣人心