在廣受歡迎的《魷魚游戲》系列中，AI扮演了什么角色?我們將何去何從？

廣受歡迎的《魷魚游戲》（Squid Game）在世界各地的新聞媒體和社交媒體上掀起了一股巨大的熱潮，這部劇及其受歡迎程度可以從很多方面來(lái)理解，尤其是在劇中使用的AI對(duì)科技愛好者的吸引力，因?yàn)槿绻麤]有它們游戲中的許多元素就不可能出現(xiàn)。

01 AI真的很重要

要管理這些致命游戲，技術(shù)，尤其是AI是關(guān)鍵元素。首先，如果沒有數(shù)據(jù)庫(kù)和智能過濾和搜索算法，參與者的選擇是不可能的。搜索引擎的前后都需要軟件工程師，而且必須為“未來(lái)”的參與者使用推薦系統(tǒng)。

接下來(lái)是實(shí)際的游戲，第一個(gè)游戲被翻譯為“紅燈綠燈”，但游戲的直譯應(yīng)該是“Mugunghwa( 木槿花，韓國(guó)的國(guó)花)開花了?！边@個(gè)名字是“它”背對(duì)著重復(fù)的短語(yǔ)。從系列中可以看出，規(guī)則也略有不同。當(dāng)“它”重復(fù)這個(gè)短語(yǔ)時(shí)，玩家可以移動(dòng)，但是當(dāng)“它”轉(zhuǎn)身時(shí)必須凍結(jié)，不然你就輸了(或者在系列賽中被瞬間殺死)。

《魷魚游戲》中的“它”實(shí)際上是一個(gè)有著兩個(gè)變焦鏡頭眼睛的巨型機(jī)器人，每當(dāng)它轉(zhuǎn)過身來(lái)掃描參與者時(shí)，它都試圖檢測(cè)運(yùn)動(dòng)。如果有人移動(dòng)，這個(gè)人就會(huì)被識(shí)別出來(lái)，并用遙控步槍精確地射擊。這涉及到幾種技術(shù)，令人害怕的是，所有這些技術(shù)都很容易獲得。

1、運(yùn)動(dòng)檢測(cè):這很容易做到，只需幾行Python代碼就可以完成。

2、人臉識(shí)別:將某物檢測(cè)為人是一項(xiàng)目標(biāo)檢測(cè)任務(wù)，使用深度學(xué)習(xí)非常容易(例如YOLO)。另一方面，識(shí)別那個(gè)人是誰(shuí)需要更多的工作，但是只要你收集一些訓(xùn)練圖像就可以完成。

3、機(jī)器人:墻上有幾支遙控步槍。這些步槍似乎沒有安裝任何傳感器，所以我假設(shè)視覺信息來(lái)自機(jī)器人的眼睛。信息必須至少包含目標(biāo)的位置、距離和姿態(tài)。用攝像機(jī)校準(zhǔn)每支步槍不是小事，但可以做到，近期由美國(guó)“幽靈機(jī)器人”(Ghost Robotics)公司和“寶劍國(guó)際”(SWORD International)公司聯(lián)手打造的戰(zhàn)斗機(jī)器狗就是很好的例子。

對(duì)于這款游戲來(lái)說，AI技術(shù)尤為重要，因?yàn)樗軌蛱峁┮环N“公平感”。想象一下，這款致命游戲是由真人扮演“IT”，而游戲職員則是這場(chǎng)射擊游戲的操作者，要在瘋狂的人群中高精度地射擊一個(gè)移動(dòng)的個(gè)體，即使是頂尖的狙擊手也難以辦到，同時(shí)人類不可能同時(shí)準(zhǔn)確而公平地跟蹤和檢測(cè)這么多人的運(yùn)動(dòng)，無(wú)法保證游戲的公平性。

但有了AI這些問題都可以被克服。當(dāng)人類“它”叫你出來(lái)時(shí)，你會(huì)爭(zhēng)辯。當(dāng)人工智能機(jī)器人檢測(cè)到動(dòng)作并開槍時(shí)，沒有人提出爭(zhēng)議，AI沒有感情不會(huì)對(duì)任何個(gè)體產(chǎn)生偏頗（但存在偏見），所以看起來(lái)AI是這款游戲必不可少的，但卻不是最終解決方案。

02 AI不是最終解決方案

AI雖然重要，但是它可能會(huì)成為一個(gè)邪惡的工具。

在我看來(lái)，《魷魚游戲》生動(dòng)地描述了AI如何被富人和有權(quán)有勢(shì)的人用作另一種方便的工具來(lái)剝削弱勢(shì)群體。作為一名軟件開發(fā)人員和人工智能研究人員，我所從事的、有時(shí)引以為豪的工作可能會(huì)變成如此邪惡和暴力的東西，這是一個(gè)可怕的想法。

許多人工智能研究人員也有同感。YOLO (You Only Look Once)是當(dāng)今最流行的目標(biāo)檢測(cè)模型之一，由約瑟夫·雷德蒙（Joseph Redmon）開發(fā)。2017年，他在一場(chǎng)廣受關(guān)注的TED演講中自豪地展示了自己的最新作品。

然而，一年后，他發(fā)現(xiàn)自己的算法被軍方使用，在中東和世界各地追蹤并殺害了成千上萬(wàn)人，這讓他感到恐懼。例如去年一名伊朗核科學(xué)家在去年(2020年)被AI機(jī)槍打死，今年(2021年)8月，阿富汗平民被一架軍用無(wú)人機(jī)炸死。

去年喬治·弗洛伊德(George Floyd)去世之后，人工智能中的偏見成為了一個(gè)大討論話題。我們現(xiàn)在意識(shí)到，人工智能可能和人類一樣有偏見，甚至更有偏見。問題可能來(lái)自多個(gè)層面:例如，傾斜的數(shù)據(jù)集、訓(xùn)練期間超參數(shù)的輕微擾動(dòng)、轉(zhuǎn)移的域或惡意的對(duì)抗攻擊，但總歸一句話：AI存在偏見。

03 為什么AI也有偏見？

首先得明白一點(diǎn)：今天的人工智能模型通常是預(yù)先訓(xùn)練好的，并且是開源的，這使得研究人員和公司都可以快速實(shí)施人工智能，并根據(jù)他們的具體需求進(jìn)行調(diào)整，這是AI存在偏見的根源所在。

雖然這種方法使人工智能更加商業(yè)化，但也有一個(gè)真正的缺點(diǎn)，即少數(shù)模型現(xiàn)在支撐著各行業(yè)和各大洲的大多數(shù)人工智能應(yīng)用。這些系統(tǒng)被未檢測(cè)到的或未知的偏見所困擾，這意味著為他們的應(yīng)用調(diào)整這些系統(tǒng)的開發(fā)者是在一個(gè)脆弱的基礎(chǔ)上工作。根據(jù)斯坦福大學(xué)基礎(chǔ)模型研究中心最近的一項(xiàng)研究，這些基礎(chǔ)模型中的任何偏見或它們所依據(jù)的數(shù)據(jù)都會(huì)被使用它們的人繼承下來(lái)，從而造成錯(cuò)誤被放大的可能性。

例如，YFCC100M是Flickr的一個(gè)公開數(shù)據(jù)集，通常用于訓(xùn)練模型。當(dāng)你檢查這個(gè)數(shù)據(jù)集中的人物圖像時(shí)，你會(huì)發(fā)現(xiàn)世界各地的圖像分布嚴(yán)重偏向美國(guó)，這意味著缺乏來(lái)自其他地區(qū)和文化的人的代表。

訓(xùn)練數(shù)據(jù)中的這些類型的傾斜導(dǎo)致人工智能模型在其輸出中存在代表性不足或過度的偏見--也就是說，輸出中白人或西方文化更占優(yōu)勢(shì)。當(dāng)多個(gè)數(shù)據(jù)集被合并以創(chuàng)建大型訓(xùn)練數(shù)據(jù)集時(shí)，缺乏透明度，要知道你是否有一個(gè)平衡的人、地區(qū)和文化組合會(huì)變得越來(lái)越困難。由此產(chǎn)生的人工智能模型被公布，其中包含令人震驚的偏見，這并不奇怪。

此外，當(dāng)基礎(chǔ)的人工智能模型被公布時(shí)，通常很少甚至沒有圍繞其局限性提供信息。解開潛在的問題是留給最終用戶來(lái)測(cè)試的，這一步往往被忽略了。如果沒有透明度和對(duì)特定數(shù)據(jù)集的全面了解，要發(fā)現(xiàn)人工智能模型的局限性是很有挑戰(zhàn)性的，例如對(duì)婦女、兒童或發(fā)展中國(guó)家的表現(xiàn)較差。

04 如何減少AI的偏見

AI存在偏見是不爭(zhēng)的事實(shí)，它既不能被消滅也不能被忽視，當(dāng)前部分從業(yè)者為了獲得更強(qiáng)大的模型，往往會(huì)選擇更大的訓(xùn)練數(shù)據(jù)，從而犧牲了對(duì)數(shù)據(jù)中的偏差和偏見的理解。人工智能中的偏見并非小事，在未來(lái)幾年將需要整個(gè)科技行業(yè)的合作，目前已有從業(yè)者采取一些預(yù)防措施了。

例如Getty Images，他們要求對(duì)其授權(quán)的創(chuàng)意內(nèi)容進(jìn)行模型公布，這使他們能夠在元數(shù)據(jù)（即描述其他數(shù)據(jù)的一組數(shù)據(jù)）中包含自我識(shí)別的信息，從而讓人工智能團(tuán)隊(duì)能夠在數(shù)百萬(wàn)張圖片中自動(dòng)搜索，并迅速識(shí)別數(shù)據(jù)中的偏差。開源數(shù)據(jù)集往往因缺乏元數(shù)據(jù)而受到限制，在將多個(gè)來(lái)源的數(shù)據(jù)集合并以創(chuàng)建一個(gè)更大的數(shù)據(jù)池時(shí)，這個(gè)問題就更嚴(yán)重了。

還有部分從業(yè)者在基礎(chǔ)模型發(fā)布時(shí)同時(shí)發(fā)布相應(yīng)的數(shù)據(jù)表，描述基礎(chǔ)訓(xùn)練數(shù)據(jù)，提供數(shù)據(jù)集中內(nèi)容的描述性統(tǒng)計(jì)。這樣做將為后來(lái)的用戶提供一個(gè)模型的優(yōu)勢(shì)和局限性的感覺，使后來(lái)者能夠做出明智的決定。

另一個(gè)互補(bǔ)的方法是讓人工智能開發(fā)者能夠獲得一個(gè)已知偏見和基礎(chǔ)模型的常見限制的運(yùn)行列表，包括開發(fā)一個(gè)容易獲得的偏見測(cè)試數(shù)據(jù)庫(kù)，人工智能研究人員使用這些模型可以有效預(yù)防AI偏見，就像《魷魚游戲》中的AI從不偏袒任何人一樣。

本文來(lái)自微信公眾號(hào)“Techsoho”（ID:scilabs），編輯：Light，出品：科技智谷，36氪經(jīng)授權(quán)發(fā)布。