圖示：除了簡單的模仿和挑釁之外，還有很多算法生成的荒謬視頻內(nèi)容。

6月28日消息，據(jù)國外媒體報道，很多視頻平臺上開始出現(xiàn)小豬佩奇喝漂白劑、米老鼠被車碾過的“兒童邪典片”，這對兒童百害而無一利?！缎l(wèi)報》日前分析了這些算法生成的視頻帶來的影響，以及平臺采取技術(shù)手段的成效，和由此導致的深層次社會問題。

以下是翻譯內(nèi)容：

去年11月份，我在《紐約時報》上讀到一篇文章，內(nèi)容是關(guān)于那些通過YouTube分發(fā)給兒童的那些令人不安的視頻。家長們表示，他們的孩子往往看到他們最喜歡的卡通形象會經(jīng)受各種暴力和死亡：小豬佩奇在喝漂白劑，或者米老鼠被車碾過。很多Facebook的帖子、新聞組的帖子和其他報紙上都出現(xiàn)了很多關(guān)于不恰當內(nèi)容的描述，而且還令人不安地描述了它們的影響。原本快樂和適應(yīng)性良好的孩子變得害怕黑暗，容易哭鬧，或者表現(xiàn)出暴力行為——也就是出現(xiàn)了所有的典型虐待癥狀。但是盡管有這些報道，YouTube和它的母公司谷歌并沒有采取什么措施來解決這些問題。此外，似乎很少有人知道這些視頻來自哪里，它們是如何制作的，甚至根本不知道它們?yōu)槭裁创嬖凇?/p>

我是一名作家和藝術(shù)家，專注于新技術(shù)所帶來的廣泛的文化和社會影響，這是我大部分的癡迷開始的原因:對某件事越來越好奇，并深入挖掘，著重關(guān)注隱藏在背后的基礎(chǔ)和過程。這一方法曾讓我調(diào)查英國的飛行系統(tǒng)或復雜的道路監(jiān)控網(wǎng)絡(luò)，而這一次，它讓我進入了YouTube兒童視頻中那些怪異、超現(xiàn)實、常常令人不安的部分。這些視頻在幾個層面上令人擔憂。隨著我花在上面的時間越來越多，讓我更加不安的不僅僅是視頻內(nèi)容本身,而是系統(tǒng)本身的方式似乎在重現(xiàn)并加劇這種令人生厭的過度行為。系統(tǒng)對孩子們最排斥的恐懼進行預測，并將這些視頻捆綁到推薦播放列表，盲目獎勵這種視頻的創(chuàng)作者，從而增加視頻的觀看瀏覽次數(shù)。

對于成年人來說，很多視頻的怪異之處似乎比它們所表現(xiàn)出來的暴力更令人不安。如果你不把自己沉浸在視頻中，這部分就更難解釋，也更難讓人理解，但我?guī)缀醪粫扑]你這樣做。除了簡單的抄襲和挑釁之外，還存在一整套荒謬的、由算法生成的內(nèi)容;數(shù)以百萬計的視頻僅僅是為了吸引眼球和創(chuàng)造收入，內(nèi)容都是根據(jù)兒歌、玩具評論和文化誤解拼湊而成的。

當我在網(wǎng)上寫一篇關(guān)于這些視頻的文章時，公眾的反應(yīng)很大程度上反映了我自己的感受。一方面，人們驚恐地發(fā)現(xiàn)這些視頻的存在，另一方面，他們發(fā)現(xiàn)的這些視頻的規(guī)模和奇怪程度完全讓人感到不可思議。人們的感同身受使得這篇文章在網(wǎng)上被分享和閱讀了數(shù)百萬次，被世界各地的網(wǎng)站和報紙轉(zhuǎn)載，甚至導致歐洲議會上提出相關(guān)問題。最終，YouTube開始做出回應(yīng)，盡管它的努力和結(jié)果喜憂參半。

YouTube最初的提議是限制針對兒童的令人不安內(nèi)容的廣告，但它的這項提議并未能將自己的平臺納入其中。據(jù)估計，每分鐘有400個小時的類似內(nèi)容被上傳到Y(jié)ouTube網(wǎng)站。人工進行管理并不現(xiàn)實;相反，YouTube依靠觀眾的舉報來推動官方措施。但是當?shù)谝慌^看這些內(nèi)容的人是小孩子，視頻已經(jīng)造成負面影響的話，這是不合適的。YouTube還將機器學習的技術(shù)萬能藥作為自己的首選解決方案，但在今年4月，它最終同意YouTube專門的兒童應(yīng)用程序?qū)⑼耆D(zhuǎn)向“人工管理”，實際上也承認了這種方法行不通。

因此，盡管許多視頻已經(jīng)從網(wǎng)站上刪除，但無法計數(shù)的類似視頻仍然存在。今年3月，美國科技雜志《連線》對一系列暴力欄目進行了梳理分類，并證實如果遵循YouTube自己的提議，從一段流行的兒童字母表視頻，轉(zhuǎn)到一段米妮老鼠用鼻煙壺的電影，中間只需要14步。很明顯，如果沒有真正意義的人工監(jiān)督，在一個10億瀏覽量的平臺上僅僅禁止某些關(guān)鍵搜索詞或者封禁賬戶，是永遠也解決不了版權(quán)侵權(quán)、算法推薦和廣告驅(qū)動的金錢激勵所帶來的錯綜復雜問題。

無論這些視頻是故意惡意的，是“僅僅”的簡單瀏覽，還是復雜系統(tǒng)的突發(fā)效應(yīng)，這都不是問題的關(guān)鍵。新情況是，如果我們選擇看看它們的內(nèi)容，那么我們就會發(fā)現(xiàn)整個暴力泛濫的視頻系統(tǒng)是共通的。在我看來，顯而易見的丑陋內(nèi)容不僅僅局限于兒童內(nèi)容，也不局限于YouTube。首先是算法治理系統(tǒng)如何在不斷地重現(xiàn)和強化我們現(xiàn)有的偏見，而不是引導我們走向平等和賦權(quán)的晴朗高地，同時壓制那些對系統(tǒng)最不了解的人，從而控制他們所處的系統(tǒng)。

以YouTube的推薦系統(tǒng)為例，它并沒有區(qū)分迪士尼電影和一個小公司所制作的劣質(zhì)動畫。從本質(zhì)上講，這種看似良性的“如果你喜歡那個，你就會喜歡這個”機制是在訓練年幼的孩子——實際上是從出生開始——點擊第一個出現(xiàn)的東西，而且不管其來源是什么。這與Facebook將虛假廣告植入數(shù)百萬心懷不滿的用戶的機制是一樣的。觀眾根本不知道這些視頻來自哪里，用戶在充滿不確定性的海洋中反復徘徊，這使得一個不透明的世界和不負責任的系統(tǒng)越來越多地控制我們?nèi)粘Ｉ畹闹匾矫妗?/p>

我們已經(jīng)看到，在美國法庭上，為提供量刑建議而設(shè)計的電腦程序更容易錯誤地將黑人被告貼上可能再次犯罪的標簽——錯誤地將其標記為白人的兩倍(45%對24%)。我們也已經(jīng)看到，算法系統(tǒng)在考量有聲望職位的候選對象時，男性比女性具有更多優(yōu)勢。我們也看到了投訴這些系統(tǒng)是多么的困難。當澳大利亞政府推出“機器人債務(wù)”(一種自動償還債務(wù)的計劃)時，它錯誤地、非法地懲罰了社會上最脆弱的群體，這些人沒有辦法獲得支持或建議來挑戰(zhàn)這一制度。

自從我第一次關(guān)注YouTube平臺上的怪異視頻問題以來，幾個月來，我遇到了一些來自該公司的人，以及其他陷入類似漩渦的平臺的人。雖然他們當中的大多數(shù)都是善意的，但似乎很少有人能理解他們的系統(tǒng)給社會所帶來的影響以及由之產(chǎn)生的更廣泛的結(jié)構(gòu)性問題。像大多數(shù)在大型科技公司工作的人一樣，他們認為這些問題可以通過應(yīng)用更多的技術(shù)來解決:通過更好的算法、更適度、更重的工程來解決問題。科技泡沫之外的許多人——尤其是西方和高收入階層的人——對任何人首先會讓他們的孩子使用YouTube感到震驚。但我們不會通過責備公司或敦促他們做得更好來解決這些問題，就像我們不會通過妖魔化快餐來解決肥胖危機，而是通過讓人們擺脫貧困來解決問題一樣。如果YouTube要解決孩子教育方面的問題，那么答案就是更多地為兒童保育和教育提供資金，而不是修復YouTube。

YouTube上的孩子們，算法強化法庭審判中的被告，以及澳大利亞貧窮的債務(wù)人身上所發(fā)生的一切，最終會影響到我們所有人。我們所有的工作、生活保障系統(tǒng)和社會契約都容易受到自動化的影響——這并不意味著我們真的要被機器人取代，但是會被機器人擺布。總之，YouTube視頻的怪異、Facebook和Twitter用戶的極端主義、算法系統(tǒng)的潛在偏見:所有這些都與互聯(lián)網(wǎng)本身有一個共同點，那就是沒有人故意這樣設(shè)計它們。如果我們愿意學習的話，這也許是我們可以從這些例子中學到的最奇怪、最有益的一課。(晗冰)