隨著用戶規(guī)模增長(zhǎng)，社交平臺(tái)可能產(chǎn)生的安全、隱私問(wèn)題也越來(lái)越多，比如言語(yǔ)侮辱、惡意人肉等等。而在VR中，用戶甚至可能面臨著“身體”被騷擾的可能。比如去年底，還在內(nèi)測(cè)中的Meta VR社交平臺(tái)《Horizon Worlds》上就有一位女性用戶舉報(bào)，在VR中被陌生人惡意撫摸。在內(nèi)測(cè)期間，該平臺(tái)的每個(gè)虛擬世界可同時(shí)容納20人，每個(gè)人以虛擬化身的形式參與活動(dòng)，在這么小的規(guī)模就已經(jīng)出現(xiàn)騷擾，那么如果未來(lái)用戶越來(lái)越多，那么相關(guān)問(wèn)題的影響也會(huì)更大。

這并不是個(gè)例，在《Quivr》等多人游戲，甚至在社交應(yīng)用《VRChat》中，也陸續(xù)有人遭遇虛擬的“身體騷擾”。

空間氣泡功能

為了解決這一問(wèn)題，VR平臺(tái)應(yīng)該為用戶提供某種避免其他人騷擾的安全機(jī)制。比如前不久微軟也開(kāi)始關(guān)注VR社交平臺(tái)的隱私和安全性。包括為加強(qiáng)對(duì)旗下VR社交平臺(tái)AltspaceVR的隱私保護(hù)，微軟推出了一系列措施如：關(guān)閉微軟AltspaceVR官方提供的開(kāi)放型空間（Campfire, News and Entertainment等）、默認(rèn)開(kāi)啟“空間氣泡”功能、為新加入虛擬空間的用戶開(kāi)啟靜音模式、加強(qiáng)虛擬空間/虛擬活動(dòng)的評(píng)級(jí)和審核，以及強(qiáng)制通過(guò)微軟賬號(hào)登陸AltspaceVR，允許家長(zhǎng)開(kāi)通家長(zhǎng)控制功能。

而為了阻止用戶在VR中對(duì)其他人進(jìn)行騷擾，Meta早前也宣布為其VR社交平臺(tái)Horizon Worlds和Venues中添加“個(gè)人邊界”功能，其特點(diǎn)是在VR“化身”周圍創(chuàng)建一個(gè)無(wú)形的虛擬屏障，防止其他人靠太近。該功能將默認(rèn)開(kāi)啟，如果用戶進(jìn)入其他化身的安全范圍，他的手會(huì)消失，向前的移動(dòng)也會(huì)停止。

Meta個(gè)人邊界

據(jù)了解，個(gè)人邊界為用戶提供了一個(gè)半徑兩英尺（相當(dāng)于1.2米）的空間，相當(dāng)于兩個(gè)用戶之間的距離至少可以隔開(kāi)四英尺。為了適應(yīng)不同的需求，該功能未來(lái)可能支持自定義半徑。此外，也可以配合靜音、報(bào)告等其他功能。

除了個(gè)人安全工具外，平臺(tái)的系統(tǒng)性監(jiān)測(cè)也同樣重要，為了給VR用戶提供一個(gè)安全的環(huán)境，Meta不僅為你提供保護(hù)自己的工具，也會(huì)根據(jù)規(guī)則來(lái)監(jiān)督社區(qū)活動(dòng)。然而科技巨頭們卻面臨著過(guò)度監(jiān)管和隱私安全之間的權(quán)衡。如果不能實(shí)時(shí)監(jiān)測(cè)用戶的語(yǔ)音、文字發(fā)言，以及VR中的行為，那么平臺(tái)能否及時(shí)處罰違規(guī)行為，為受害者帶來(lái)保護(hù)呢？

近期，為了測(cè)試《Horizon Worlds》現(xiàn)有內(nèi)容審核系統(tǒng)的效果，外媒BuzzFeed在Horizon Worlds中建立了一個(gè)虛擬世界，并在其中發(fā)布Facebook和Instagram平臺(tái)禁止的內(nèi)容結(jié)果發(fā)現(xiàn)，Horizon Worlds并沒(méi)有同樣禁止這些內(nèi)容，因此他們懷疑Meta對(duì)于VR世界的審核似乎更寬松。

Meta對(duì)于VR安全的愿景

在更名Meta之前，F(xiàn)acebook一度遭受“侵犯隱私安全”等惡名，對(duì)品牌形象造成極大影響。而通過(guò)改名、轉(zhuǎn)型等策略，Meta希望為用戶帶來(lái)不一樣的社交環(huán)境，人們?cè)赩R世界中不會(huì)體驗(yàn)到在Facebook中遇到的問(wèn)題。

Meta CEO馬克·扎克伯格表示：AR/VR元宇宙需要從第一天就融入隱私安全機(jī)制，我們的目標(biāo)是設(shè)計(jì)出具有安全、隱私性、包容性等特點(diǎn)的虛擬世界。不過(guò)，目前Meta對(duì)于VR中執(zhí)行的安全協(xié)議大部分內(nèi)容保密，因此用戶并不清楚其宣稱的安全措施到底效果如何。

長(zhǎng)久以來(lái)，為了優(yōu)化Facebook和Instagram上的內(nèi)容，Meta在機(jī)器學(xué)習(xí)工具上投入數(shù)十億美元。盡管如此，如何篩選內(nèi)容一直是Meta需要著手解決的問(wèn)題，而對(duì)于用戶來(lái)講，他們也希望Meta在安全規(guī)則上可以更透明。

相比于傳統(tǒng)的社交平臺(tái)，在VR中審核內(nèi)容更具挑戰(zhàn)性，因?yàn)椴粌H需要實(shí)時(shí)審核內(nèi)容，還需要監(jiān)督用戶的行為。此外，隱私和安全之間的界限也需要權(quán)衡。比如，如果Meta為了保護(hù)用戶安全而監(jiān)控人們?cè)赩R中的每一次對(duì)話和互動(dòng)，人們能否接受？

此前，Meta曾表示會(huì)關(guān)注監(jiān)督和隱私之間的取舍，并承諾對(duì)其決策保持透明。因此，為了解Meta在VR平臺(tái)采用的安全措施，BuzzFeed向其詢問(wèn)了19個(gè)詳細(xì)的問(wèn)題，其中涉及到如何避免虐待兒童、騷擾、虛假信息等傷害的發(fā)生等等。對(duì)此，Meta卻沒(méi)有直接回應(yīng)，而是給出了一個(gè)簡(jiǎn)短聲明：我們推出了舉報(bào)、屏蔽等安全工具，目的是允許用戶可以更加自由的控制VR內(nèi)容。此外，也為開(kāi)發(fā)者提供了調(diào)節(jié)應(yīng)用內(nèi)體驗(yàn)的功能，同時(shí)也在利用AI算法來(lái)監(jiān)督VR中的行為。

Horizon系統(tǒng)審核寬松？

那么為了測(cè)試Meta安全系統(tǒng)的效果，BuzzFeed便在Horizon Worlds中創(chuàng)建了一個(gè)虛擬房間：Qniverse，僅允許四位內(nèi)部人員訪問(wèn)。此外，Qniverse使用真人賬號(hào)實(shí)名創(chuàng)建的，鏈接了本人Facebook。

房間里的條幅、天空中寫入大量在Facebook的主頁(yè)和群組、Instagram中常被刪除、屏蔽的短語(yǔ)，比如一些帶有虛假信息的政治指控等等。結(jié)果發(fā)現(xiàn)，Horizon Worlds似乎沒(méi)有檢測(cè)到Qniverse，沒(méi)有對(duì)這些信息采取行動(dòng)。猜測(cè)這可能是因?yàn)榉块g權(quán)限是私密的，而且房間里僅有的4個(gè)人幾乎并沒(méi)有什么互動(dòng)。

于是，BuzzFeed員工利用鏈接了Facebook的實(shí)名賬號(hào)舉報(bào)了Qniverse，然而48小時(shí)內(nèi)并未有任何變化，所以不得不再次舉報(bào)。直到第三次舉報(bào)約4小時(shí)之后，才收到回復(fù)：“經(jīng)過(guò)安全專家審核，Qniverse中的內(nèi)容并未違反政策”。而第一次舉報(bào)的回復(fù)則是花了6小時(shí)才收到。BuzzFeed猜測(cè)，這也許是因?yàn)镼niverse只有內(nèi)容違規(guī)，而未出現(xiàn)違規(guī)行為，所以審核以為是在搞笑。

Meta回應(yīng)

為了進(jìn)一步了解原因，BuzzFeed拜訪了Meta公關(guān)部，詢問(wèn)為什么在相同的社區(qū)規(guī)則下，在Facebook、Instagram上違規(guī)的虛假信息，為什么在Horizon平臺(tái)沒(méi)有違規(guī)？有趣的是，第二天下午Meta終于對(duì)Qniverse采取了行動(dòng)，取消了這個(gè)世界，并發(fā)郵件推翻了之前的決定，不過(guò)其發(fā)言人拒絕對(duì)此進(jìn)一步解釋。

可以想象，相比于Facebook，Horizon依然是非常新的平臺(tái)，隨著平臺(tái)規(guī)模發(fā)展，用戶的行為和語(yǔ)言也越來(lái)越復(fù)雜，這會(huì)為平臺(tái)審核系統(tǒng)帶來(lái)挑戰(zhàn)。而對(duì)于VR這個(gè)非常新的平臺(tái)來(lái)講，完善審核機(jī)制將更難，因?yàn)槲×薋acebook的教訓(xùn)，Meta希望在VR中重新審視隱私問(wèn)題，這也是為什么Horizon的安全機(jī)制目前還只有自助屏蔽、靜音和報(bào)告。

從Quest強(qiáng)制捆綁Facebook賬號(hào)所帶來(lái)的負(fù)面反饋來(lái)看，VR用戶們并不喜歡像Facebook那樣嚴(yán)格的隱私監(jiān)控系統(tǒng)，Meta了解到這一點(diǎn)后便取消了捆綁。而Horizon作為未來(lái)的VR元宇宙平臺(tái)，其生態(tài)也將比傳統(tǒng)2D平臺(tái)更加開(kāi)放，只有短期的VR體驗(yàn)會(huì)被記錄，而且提交舉報(bào)時(shí)才會(huì)發(fā)送給Meta。

這也造成了Horizon平臺(tái)監(jiān)管寬松的問(wèn)題，盡管其要求用戶達(dá)到18歲以上，兒童用戶依然能繞過(guò)限制使用它。

盡管如此專家認(rèn)為，缺少一種主動(dòng)的平臺(tái)審核機(jī)制，用戶可能會(huì)暴露在有害信息中，而不向平臺(tái)報(bào)告。也就是說(shuō)，保護(hù)隱私和安全監(jiān)管本身就存在矛盾，如何去權(quán)衡這兩點(diǎn)是一個(gè)難題。目前Horizon用戶基礎(chǔ)還很小，這也正是Meta應(yīng)該思考如何防患于未然的時(shí)機(jī)，以避免在平臺(tái)規(guī)模變大后難以控制。不過(guò)，現(xiàn)階段Meta似乎更看重增長(zhǎng)，努力吸引更多人在VR中互動(dòng)。

VR專家Brittan Heller則認(rèn)為，目前還沒(méi)有能夠在VR中監(jiān)督內(nèi)容和行為的技術(shù)，因?yàn)檫€沒(méi)有一種可靠的語(yǔ)音轉(zhuǎn)錄或手勢(shì)分析算法，所以即使你在VR中豎中指或說(shuō)臟話，系統(tǒng)也無(wú)法實(shí)時(shí)捕捉。

紐約大學(xué)斯特恩商業(yè)與人權(quán)中心副主任保羅·巴雷特指出，人們一直在尋找新的方式來(lái)分享內(nèi)容，同時(shí)逃避檢測(cè)。他說(shuō)，投機(jī)取巧的用戶總是會(huì)發(fā)現(xiàn)并利用該平臺(tái)的最薄弱環(huán)節(jié)，而該公司“有責(zé)任事先弄清楚這項(xiàng)新服務(wù)如何被濫用?！?/p>

實(shí)際上，考慮到VR社交平臺(tái)本身對(duì)于開(kāi)放性的愿景，其開(kāi)發(fā)公司可以將平臺(tái)審核、規(guī)則制定等權(quán)利交給用戶，通過(guò)投票等方式來(lái)進(jìn)行管理，從而避免平臺(tái)受到單一公司控制的局面。而這也帶來(lái)了公平性、與現(xiàn)實(shí)法規(guī)的兼容性等更加復(fù)雜的問(wèn)題。另一方面，也應(yīng)該增加人工審核的數(shù)量，避免一個(gè)問(wèn)題在數(shù)個(gè)小時(shí)后才得到處理。

參考：

https://www.buzzfeednews.com/article/emilybakerwhite/meta-facebook-horizon-vr-content-rules-test

https://about.facebook.com/realitylabs/responsible-innovation-principles/

https://www.oculus.com/blog/keeping-people-safe-in-vr-and-beyond/

https://altvr.com/making-altspacevr-a-safer-space/

本文來(lái)自微信公眾號(hào)“青亭網(wǎng)”（ID:qingtinwang），編輯：Esther，36氪經(jīng)授權(quán)發(fā)布。