《少數(shù)派報(bào)告》《疑犯追蹤》這樣的影視作品或許只能在前些年出現(xiàn)。如果是近幾年的影視作品，觀眾看著就會(huì)很「心慌」。

犯罪預(yù)防、預(yù)測(cè)模型、用系統(tǒng)推測(cè)未發(fā)生之事……這意味著大量的信息會(huì)被收集，也意味著你將會(huì)被一個(gè)未知系統(tǒng)判定是否有威脅。把命運(yùn)交給未知的感覺，估計(jì)沒幾個(gè)人喜歡。

但不喜歡可能也沒辦法，因?yàn)樵谀悴恢赖臅r(shí)候，已經(jīng)有越來越多公司在收集你的公開信息，來從你社交網(wǎng)絡(luò)的日常內(nèi)容中判斷你犯罪的可能性。

社交媒體變身最大「告密者」，這是一場(chǎng)自我揭發(fā)？

Voyager、Kaseware、Aura、PredPol、Palantir，這是一部分正在試圖通過社交網(wǎng)絡(luò)找出潛在威脅的公司，它們中很大一部分還和當(dāng)?shù)氐木炀诌M(jìn)行了合作，走在預(yù)測(cè)犯罪的前列。

從每個(gè)人的社交媒體中獲得需要的信息是這類公司的核心，他們通過用戶做社交網(wǎng)絡(luò)發(fā)布的內(nèi)容來預(yù)估對(duì)方是否有犯罪的可能。這類公司的算法并不相同，但基本都在通過人工智能破譯用戶的線上，從用戶分享的內(nèi)容中判斷主體是否已經(jīng)犯罪、可能犯罪或堅(jiān)持某種危險(xiǎn)的意識(shí)形態(tài)。

這其實(shí)不算一個(gè)新進(jìn)展，畢竟在 2012 年就有人將社交網(wǎng)絡(luò)成為「城市脈搏」。你很難看到一個(gè)空間和產(chǎn)品同時(shí)容納如此多的用戶，還讓他們?cè)敢庠谏厦娣窒碜约旱囊磺小?/p>

社交網(wǎng)絡(luò)的特性為人們尋找目標(biāo)創(chuàng)作了條件，學(xué)生在社交網(wǎng)絡(luò)尋找受訪對(duì)象，統(tǒng)計(jì)機(jī)構(gòu)在社交網(wǎng)絡(luò)預(yù)測(cè)大選結(jié)果，也有 AI 偵探想要在社交網(wǎng)絡(luò)找出罪犯。

因?yàn)槿巳硕加蒙缃痪W(wǎng)絡(luò)，所以社交網(wǎng)絡(luò)很多時(shí)候可以反應(yīng)一個(gè)人的真實(shí)情況。美國密歇根州的眾議員 Tyrone Carter 認(rèn)為警方搜索公共社交網(wǎng)絡(luò)的行為并沒有違背任何的法律，也沒有侵犯用戶的權(quán)利，所以這種預(yù)測(cè)是可行的。

當(dāng)你在公共頁面上點(diǎn)擊發(fā)送的那一刻，那個(gè)帖子就不再是你的了。人們會(huì)因?yàn)樗麄儼l(fā)布的東西而陷入各種麻煩，因?yàn)樯缃幻襟w是我見過的最大的「自我告密者」。

但秘密只有在引導(dǎo)的時(shí)候，才會(huì)被說出。和洛杉磯警察局合作的 Voyager Labs 在這個(gè)過程中就擔(dān)當(dāng)了引導(dǎo)者的角色。只是非營(yíng)利組織 Brennan Center 通過洛杉磯警察局提供的公開信息發(fā)現(xiàn)，Voyager 工作也涉嫌種族歧視、侵犯隱私。

Voyager 這類公司的工作方式并不復(fù)雜。它會(huì)收集一個(gè)人社交媒體上的所有公開信息，包括帖子、聯(lián)系人甚至常用的表情符號(hào)。在某些特殊情況下，它會(huì)利用這些公開的信息與非公開信息交叉引用，進(jìn)行進(jìn)一步的分析和索引。

Voyager 會(huì)基于個(gè)人社交媒體的參與話題做出判斷

通過 Voyager 的服務(wù)，警察可以清晰地看到一個(gè)人的社交關(guān)系。他們的聯(lián)系是怎樣的，他們?cè)谏缃黄脚_(tái)是如何互動(dòng)的。更進(jìn)一步，Voyager 甚至可以探測(cè)到兩個(gè)用戶之間是否有間接聯(lián)系（兩人都有至少四個(gè)相同好友）。

聽上去好像只是看看用戶在社交網(wǎng)絡(luò)上做些什么，用作調(diào)查的輔佐信息。但事實(shí)上，Voyager 不僅收集信息，展示信息，它也會(huì)做出判斷。

Voyager 會(huì)通過社交網(wǎng)絡(luò)關(guān)系鏈做出判斷預(yù)測(cè)

Voyager 在提交給洛杉磯警局的一份白皮書中就提到了一起襲擊案件，該案件具體地展示了平臺(tái)的做法——AI 在沒有人介入的情況下會(huì)根據(jù)人們?cè)谏缃痪W(wǎng)絡(luò)發(fā)帖的內(nèi)容完成自動(dòng)審查和分類（分別為用戶標(biāo)記藍(lán)色、橙色、紅色三種顏色）。

在具體案例中，槍擊案嫌疑人 Adam Alsahli 就因?yàn)樽约涸?Facebook 和 Instagram 上發(fā)布的伊斯蘭主題照片，被系統(tǒng)判定為「對(duì)阿拉伯傳統(tǒng)有強(qiáng)烈自豪感與認(rèn)同感」。因此，Adam Alsahli 在發(fā)動(dòng)具體的攻擊前就被 Voyager 的人工智能工具打上了橙色的顏色標(biāo)記。

這可以是一個(gè)成功預(yù)測(cè)潛在犯罪者的案例，同時(shí)也是一個(gè)充滿「偏見」的案例。

槍擊案嫌疑人 Adam Alsahli 的社交媒體信息，在他犯罪之前就已經(jīng)被標(biāo)記為橙色

數(shù)據(jù)預(yù)測(cè)犯罪？但數(shù)據(jù)也不能完全相信

這些結(jié)論真的可信嗎？他們是根據(jù)什么做出判斷的呢？大數(shù)據(jù)下每個(gè)人要如何自證清白？

目前確實(shí)有不少數(shù)據(jù)證實(shí)社交網(wǎng)絡(luò)的內(nèi)容偏向和犯罪事實(shí)的相關(guān)性，但這并不是一個(gè) 100% 關(guān)聯(lián)的數(shù)據(jù)。

紐約大學(xué)坦登工程學(xué)院和全球衛(wèi)生公共學(xué)院發(fā)布的研究結(jié)果顯示，Twitter 上關(guān)于種族仇恨言論數(shù)量較多的城市，相關(guān)的犯罪率也更高；芬蘭亦有研究表明，根據(jù)二十年的數(shù)據(jù)，溫度每升高 1°C，犯罪活動(dòng)就會(huì)增加 1.7%；美國研究證明，周末晚上的車輛盜竊率激增；被證明過的還有當(dāng)?shù)刈闱蜿?duì)意外輸球時(shí)，家暴事件會(huì)增加 10%。

但這些并不能證明什么，因?yàn)楦怕屎褪聦?shí)是不同的。

即便有相關(guān)數(shù)據(jù)背書，也不能證明在種族仇恨言論最多的城市，夏天周末的晚上就一定會(huì)有車輛被盜，炎熱天氣遇到當(dāng)?shù)刂麝?duì)輸球 100% 就會(huì)有更多的家暴案件發(fā)生。

類似的犯罪預(yù)測(cè)系統(tǒng)是根據(jù)已有的犯罪事實(shí)和研究結(jié)果進(jìn)行反推的，這造成的另一個(gè)問題是它充滿了「刻板印象」。

圖靈獎(jiǎng)得主楊立昆就曾表示，當(dāng)數(shù)據(jù)有偏見時(shí)，機(jī)器學(xué)習(xí)系統(tǒng)就變得有偏見。而具體到單一案例，當(dāng)機(jī)器學(xué)習(xí)接收到的信息是監(jiān)獄中男性黑人用戶占比較大時(shí)，這樣的系統(tǒng)可能就會(huì)做出黑人男性更容易犯罪的判斷。

對(duì)機(jī)器學(xué)習(xí)來說，「黑人男性更容易犯罪」可能是數(shù)據(jù)分析的事實(shí)，但落在現(xiàn)實(shí)中這就會(huì)是種族偏見和差別對(duì)待。

暗中將用戶進(jìn)行評(píng)級(jí)，劃分哪些更有威脅性，對(duì)于有威脅的人進(jìn)行更密切的追蹤和預(yù)防就是整套系統(tǒng)的運(yùn)行邏輯。

類似的創(chuàng)業(yè)公司會(huì)用算法和人工智能來解釋他們處理、分析信息，從而做出判定的過程。盡管目前沒有證據(jù)證明這種預(yù)測(cè)是有效的，來自民眾的質(zhì)疑也很多，警察局卻依舊想要和類似的平臺(tái)進(jìn)行合作。

對(duì)警察來說，這類工具很有吸引力，如 Voyager 這類平臺(tái)在社交網(wǎng)絡(luò)的發(fā)現(xiàn)可以提供用戶側(cè)寫的有效輔助，也可以不錯(cuò)過線上的細(xì)微線索。如果僅僅是輔助調(diào)查，這就會(huì)是非常有效的工具。但工具發(fā)展到后期，開始發(fā)揮預(yù)測(cè)犯罪的作用時(shí)，也會(huì)成為傷人的利器。

經(jīng)過前些年的狂熱后融資后，不少 AI 產(chǎn)品已經(jīng)進(jìn)入了應(yīng)用階段。但在某些領(lǐng)域，它們依舊是輔助者的角色。

醫(yī)療就是一個(gè)對(duì)于 AI 介入慎之又慎的領(lǐng)域，即便是在進(jìn)展最快的 AI 醫(yī)學(xué)影像領(lǐng)域，今天的 AI 技術(shù)依然無法保證 100% 的正確率，需要人類醫(yī)生的介入。因?yàn)槿巳硕贾?，醫(yī)療是一個(gè)需要近乎 100% 正確率的行業(yè)，任何的偏差和錯(cuò)誤都可能造成嚴(yán)重的后果。

而警務(wù)領(lǐng)域同樣是一個(gè)力求 100% 正確的領(lǐng)域，任何的臆測(cè)推斷在缺乏證據(jù)的支撐下亦會(huì)造成嚴(yán)重的后果。一個(gè)在社交媒體上發(fā)表各種歧視、暴力言論的人可能會(huì)被標(biāo)為潛在犯罪者，有 90% 的可能性進(jìn)行暴力犯罪，但在他真的做出犯罪行為前，他就是一個(gè)普通人。

在總體的數(shù)據(jù)集之中，我們永遠(yuǎn)不能忽略每個(gè)人都是獨(dú)立的個(gè)體。

圖片來自：《少數(shù)派報(bào)告》

本文來自微信公眾號(hào)“愛范兒”（ID:ifanr），作者：冷思真，36氪經(jīng)授權(quán)發(fā)布。