2021-07-12
上周,一個叫“安安教練”的抖音大V火了,然后又在短短幾天里,歷經封禁——小號轉生——封禁的循環處罰。
她做了什么?
名義上,她是一名直播講解駕校考試科目一的教練;而實際上,在講解過程中加的“料”,職業套裝、黑絲等性感裝扮,和隨時都可能出現的小動作,才是她的流量密碼。所以說,她的粉絲才不是學科目一的新手,而是那些實打實的“老司機”,他們又拍出來更多的玩梗視頻,什么丟掉駕駛證、看安安教練直播重考科目一之類的,又為這場行為藝術做了二次傳播。
隨后,她順理成章地開始直播帶貨,開起了割草機收割“老司機”們。在遭遇封禁與平臺溝通過后,安安教練的“畫風”終于回歸理性,脫離了低級趣味。
穿黑絲講駕考,這看起來好像沒有問題?但實際上,它是一個全球互聯網的麻煩。
雖然抖音上的安安教練已經被整改,但在整個互聯網上,以安安教練為代表的黑絲直播已經出現了人傳人的跡象。教駕校科目一的、賣釣魚竿的,這種“黑絲加一切”的套路已經成了財富密碼。
好巧不巧,也就在最近,海外的同款爭議也在陸續發酵中。今年4月,以游戲直播為主要業務的Twitch,興起了一股在熱水浴缸里、穿著比基尼直播的奇怪風氣[1],這種直播形態當然引起了一些職業游戲玩家/主播的不滿,但她們很快占領了Twitch的首頁。
Twitch的浴缸直播風氣引起爭議
圖丨微信公眾號“BB姬”截圖
《守望先鋒》前職業選手、Twitch頂流游戲主播xQc:請把這些垃圾從Twitch首頁拿掉。圖源同上
Twitch主播Asmongold認為:“熱水浴缸”無疑利用了Twitch平臺在直播規范上的漏洞。這些規章制度本該被更加細致嚴謹地制定。[1]
當賣肉成了吸引流量的不二法則,那下一個階段,就是比誰能在規則的邊緣更低俗,直到被封禁為止。隨著大小主播一同涌入浴缸“賽道”(此處應為貶義),到了六月,Twitch的主播們開始了更露骨的表演,略去不表[2]。
無獨有偶,在六月份,一條來自外網的女主角著裝暴露的手辦開箱視頻,被搬運到微博后,也引起了討論。搬運的博主將其稱為“內卷”——可能為了描述這種愈演愈烈的競爭現象。

軟色情、打擦邊球的低俗內容,成了全球內容平臺治理的難題。這些內容沒有觸及平臺的監管紅線,但它們往往含有性暗示,并有物化女性傾向,自然與平臺的健康內容背道而馳。而在內容產業角度,低俗內容的“內卷”很容易被借鑒、污染平臺內容環境。
實際上,低俗內容入侵某個領域,在中外互聯網均有先例。去年的B站和YouTube上,鋼琴演奏視頻的流量密碼,就是彈鋼琴的姑娘穿的衣服——從Cosplay到性感清涼的裝扮等等。直到去年九月,以某大UP刪光視頻退網,才宣告了這一場鬧劇的結束。
這幾乎就是和“安安教練”同樣的劇情。
為什么會這樣?低俗化的內容攫取流量輕而易舉。“賣肉”容易,做專業視頻反而要更依賴創作團隊的知識、技能與創意,這是一個劣幣驅逐良幣的過程。而在算法角度,以低俗為賣點的視頻,反而捅在了算法的心坎里——從數據角度分析,算法會將低俗內容誤以為是某個很高質量的內容,勁爆的題圖換來點擊率,內容本身也更容易引發互動和玩梗,這都是讓算法繼續分發它的重要因素。
實際上,劣質內容利用算法,也發生在謠言、陰謀論、虛假健康科普等內容領域。上周三,Mozilla發布了一份關于YouTube視頻推薦系統的用戶調查結果[3]。結果表明,源于系統推薦的視頻,被志愿者舉報不感興趣的可能性比他們自己搜索到的視頻高 40%,而在被舉報的視頻中,最終有近200個視頻因不符合YouTube視頻內容管理方針被刪除,這些視頻已經共計被播放1.6億次——每條視頻平均80萬次,這是絕大多數內容創作者都會眼紅的數字。
所以說,算法很難知道一個視頻有沒有“賣肉”,而最終的結果就是,從直播到開箱到音樂舞蹈,但凡需要人出鏡,這些“賣肉就是流量密碼”的人就能搞事。
打擦邊球的視頻,逐漸污染一個個領域,局面漸漸失控,每個平臺或許都難逃毒手。
審查低俗內容,最難的是判斷。
淫穢色情內容有明確的界定標準,但低俗卻不是“非黑即白”那么簡單。每個人的接受閾值不一,對低俗的界定也大不相同。
社會上一直有聲音要求治理網絡低俗內容,可提及如何界定低俗時,又無人能給出具體的標準,只能指望社會各界和有識之士的“建設性意見”。因此,內容平臺也只能在實踐中慢慢摸索標準,采取的也大多是事后措施,給平臺的審核工作帶來了極大困擾。
近幾年,低俗內容滋生的速度令人咋舌,出現的場所也越發出人意料。游戲行業的語音陪玩、二次元圈的福利姬,還有電商行業的內衣童模,先后出現低俗內容,沒人知道下一次,它又會出現在哪里。
而在短視頻平臺,豐富的媒體形式更加大了人們的判斷難度,聲音、畫面、文案,甚至評論區都有可能存在隱晦的性暗示。
2021年年初,有媒體指出[6],一些家長在短視頻平臺上發布女童跳拉丁舞的視頻,視頻關注腿部特寫,畫面也充斥大量扭跨、摸臀等動作。
倘若從舞蹈的角度評價,拉丁舞本就是一項對腿部力度控制要求很高的舞種,擺胯、扭臀也是拉丁舞的基本動作,視頻并不過于出格,但視頻下方網友低俗的評論,讓視頻性質完全變了味。
最終,出于對未成年人的保護,平臺還是封禁了這類賬號。
再如ASMR類的視頻創作者,常常錄制自己品嘗美食的聲音,并發出享受的“嗯哼”聲。這種聲音到底是否屬于低俗內容,大家也各執一詞,難有定論。至少在外人看來,這些聲音不堪入耳,但是圈內人早習以為常,覺得并無不妥。
低俗內容就這樣,成了平臺的兩難。有些人說“這你也刪”?有些人則說“這么低俗你還不刪”?
首先需要明確:指望審核完成100%好評的工作,這完全不現實。早在人工審核的時代,互聯網上就有大量低俗內容的“漏網之魚”。2008年,博客網董事長兼CEO方興東在參加央視《新聞會客廳》節目時表示,一旦審核人員的標準稍寬一些,“擦邊球”類的視頻就會被放過去。
到了智能時代,即便計算機視覺、機器審核等技術愈發成熟。可問題也由此而生:在人類都沒有統一標準的時候,我們又該怎么訓練AI,讓它找出低俗內容呢?
人工智能是十分依賴標準的技術,內容平臺在訓練“AI鑒黃師”時,也得提前界定好,什么是低俗內容,什么是正常內容。人工智能通過學習訓練素材的判斷標準,形成自己的認識,并將其應用于實踐中。
當新形式的低俗內容出現時,AI審核和人類審核一樣“無所適從”,很難做出準確的判斷。
審核和算法,是決定“你看了什么”的兩個關鍵因素,但前提都是:明確規則。
一個辦法是發動群眾,讓觀眾共同決策,什么該留,什么該斃。事實上,在難以判斷的模糊領域,讓群眾集體決策,還算是一種不錯的手段,比如微信對待洗稿的“洗稿合議”,或者知乎對于攻擊性言論的舉報評議,它們都屬于規則不甚明確,但群體智慧可以定性的范疇。
低俗內容也是如此。2021年6月21日至27日,抖音安全中心舉辦了一場“規則共創會”,圍繞“低俗內容”展開了一場網友與平臺的對話。在“規則共創會”留言板上,一個較為典型的意見是——抖音的低俗審核規則過于嚴格,“穿個吊帶裙就被下架,抬一下腿就被封號”,連電視劇的尺度都比抖音視頻大。
最終,平臺與用戶在低俗與藝術的區分上達成一致:同樣的行為,如果動機是依靠色情聯想博眼球,那便是低俗,但如果只是普通的展示美,那便不是。“以大衛為例,正常情況下的藝術講解肯定是OK的,但有些網友特別針對大衛的某些部位拍特寫發布,那就有可能被判定為低俗。”抖音安全中心負責人黃海舉例解釋。
一個比較容易理解的判斷標準,是“是否符合場景”,例如T臺、健康比賽里出現清涼的著裝,是合情合理;但在原本不該出現的泳裝等服飾的場合,著裝暴露的目的就值得關注。
怎樣把這些規則寫明白?又如何讓觀眾們理解審核是如何工作的?這同樣是一個全球化的問題。在上述Morzilla針對YouTube的報告中,最終落實為呼吁公開透明的審核規則和推送算法。而在國內,對于“哪些東西不該留下”,科技公司們也在透明化和群眾參與上嘗試了新的策略。
在抖音在審核規則的頁面中,我們已經能看到視頻的審核標準,低俗、危險行為、營銷行為等內容的判斷依據被逐條列出。用戶可以對每一條規則進行反饋,選擇“規則合理”或者“規則不合理”,若認為不合理,抖音還會引導用戶反饋原因,提交至抖音后臺。
實際上,今天普通觀眾參與內容共治,也已經有了更直接的方式:投訴。實際上,不論是違規內容的舉報,還是對推薦算法的“不感興趣”,這些強烈的負面信息,也是內容平臺們改進工作的關鍵情報,它們理應有著更高的處理優先級。
這要求內容平臺們根據用戶規模,建設一支及時響應、工作流程規范的客服和審核團隊,某種程度上說,這也是今天中國互聯網公司的優勢之一,也是中國網絡內容沒有像外網那么不堪入目的關鍵因素。看看Twitch的現狀,受傷的不僅是感到被冒犯的觀眾,還有兢兢業業的創作者們——如開篇所說,最生氣的,也是他們。
如果給擦邊球甜頭,只會讓更多的創作者走上相同的道路,這是內卷;而治理低俗內容,它需要平臺、創作者與觀眾三方共治。歸根結底,我們還是需要更豐富的知識與信息。套用個流行的詞兒,切斷軟色情的“財富密碼”,或許正是一種長期主義。
References:
[1] 當美女們開始直播泡澡,游戲大主播的火氣都壓不住了
https://mp.weixin.qq.com/s/P4INDxDuNHdr4VTh8LYUZw
[2] 違法邊緣瘋狂試探的外國主播,會讓Twitch變成下一個P站嗎?
https://mp.weixin.qq.com/s/LRLBID8aE_JkpXnuR8oMoA
[3] Mozilla怒噴當前推薦系統技術:算法“陳舊弱智”,效果非常糟糕!
https://mp.weixin.qq.com/s/zIcq8Ji6UZRv-Mnp-NzOow
[4] 廣電總局監管中心官員:色情內容界定有明確標準
http://news.cctv.com/china/20080114/104576.shtml
[5] 每月處罰110萬條低俗視頻 抖音試行“規則共創會”討論內容審核標準
http://www./news/7704698
[6] 兒童軟色情是如何變成一門生意的?
https://mp.weixin.qq.com/s/mQeorvoNxZV15jlUfSR8Og