本文來(lái)源 |法制網(wǎng)
編輯整理 |今日讀法網(wǎng)
【商業(yè)與法治輿情觀(guān)察室 http://www.blaw.org.cn 快訊】
編者按:當(dāng)前,,我國(guó)互聯(lián)網(wǎng)已經(jīng)進(jìn)入短視頻時(shí)代,,短視頻用戶(hù)持續(xù)快速增長(zhǎng)。9月29日,,中國(guó)互聯(lián)網(wǎng)絡(luò)信息中心(CNNIC)發(fā)布第46次《中國(guó)互聯(lián)網(wǎng)絡(luò)發(fā)展?fàn)顩r統(tǒng)計(jì)報(bào)告》稱(chēng),,截至2020年6月,,我國(guó)短視頻用戶(hù)規(guī)模為8.18億,占網(wǎng)民整體的87.0%,,相較2020年3月第45次統(tǒng)計(jì),,新增了4461萬(wàn)。在疫情影響之下,,互聯(lián)網(wǎng)經(jīng)濟(jì)加速發(fā)展,,人們逐漸適應(yīng)“線(xiàn)上”模式,電商,、新聞,、旅游等行業(yè)搭上短視頻快車(chē),不斷升級(jí)轉(zhuǎn)變,,深度地影響著公眾生活,,同時(shí)也帶來(lái)更多表達(dá)空間。但是,,近期發(fā)生的多起短視頻造假事件,,如廣東“民政局門(mén)口擺拍離婚”事件、江西六旬女子沉迷“假靳東”視頻離家出走等,造成嚴(yán)重的不良社會(huì)影響,,令公眾不得不審視這一新業(yè)態(tài)的副作用,。在商業(yè)化、娛樂(lè)化大潮的席卷之下,,獵奇,、作秀、博眼球成為短視頻傳播的“潛規(guī)則”,,導(dǎo)致短視頻造假現(xiàn)象頻發(fā),,持續(xù)污染網(wǎng)絡(luò)空間,且“技術(shù)”和“套路”不斷翻新升級(jí),,令人更加難以辨識(shí),,已經(jīng)成為網(wǎng)絡(luò)管理的“灰色地帶”甚至“空白地帶”,亟待納入監(jiān)管范圍,。
一,、短視頻的三種造假手法
梳理近一兩年來(lái)引發(fā)關(guān)注的短視頻造假事件,通過(guò)分析發(fā)現(xiàn),,從初級(jí)的拼湊剪輯到稍具專(zhuān)業(yè)的劇本擺拍,,再到AI技術(shù)加持的深度偽造,短視頻已經(jīng)多方侵入到社會(huì)生活中,,使得短視頻領(lǐng)域的“打假”話(huà)題頻繁被提上公眾討論日程,。
1. 初級(jí)手段:拼湊剪輯,欺騙網(wǎng)民
這類(lèi)短視頻是在一定事實(shí)的基礎(chǔ)上,,通過(guò)添加元素或者虛構(gòu)情節(jié)吸引網(wǎng)民好奇心,。如貴州威寧幾名網(wǎng)民將鳥(niǎo)叫視頻添加類(lèi)似“虎叫”“狼嚎”等恐怖音效上傳網(wǎng)絡(luò),引爆了一出“虎嘯龍吟”鬧劇,,驚動(dòng)官方和專(zhuān)家辟謠澄清,;某平臺(tái)網(wǎng)民編造視頻稱(chēng)“湖北一私家車(chē)數(shù)月無(wú)人認(rèn)領(lǐng),,車(chē)主抗疫去世”,,勾起不少網(wǎng)民對(duì)艱難抗疫歷程的回憶,當(dāng)?shù)鼐秸{(diào)查后回應(yīng)稱(chēng)網(wǎng)傳消息系謠言,;浙江余杭男子攝錄一女士在小區(qū)快遞站點(diǎn)取快遞視頻,,與朋友通過(guò)分飾“快遞小哥”與“女業(yè)主”身份,捏造“女業(yè)主出軌快遞員被拍”的桃色信息,,相關(guān)短視頻和聊天內(nèi)容引起大量轉(zhuǎn)發(fā),、瀏覽和評(píng)論,造成不良社會(huì)影響,。
近期飽受批評(píng)的“假明星”視頻事件,,也多是此類(lèi)簡(jiǎn)單拼接的造假手法。據(jù)媒體報(bào)道,日前一則題為《六旬追星女子:我要嫁靳東,,勇敢活一次》的社會(huì)新聞引爆輿論場(chǎng),,江西一名六旬大媽自稱(chēng)在某平臺(tái)上結(jié)識(shí)了明星靳東,甚至想要與現(xiàn)任丈夫離婚,,與其一起生活,。曝光之后,相關(guān)平臺(tái)封禁了上千個(gè)“東弟弟”“靳哥哥”等假冒賬號(hào),。實(shí)際上,,“假靳東”事件只是冰山一角,某平臺(tái)等短視頻平臺(tái)存在大量明星名人高仿賬號(hào),,這些賬號(hào)用明星名人的照片,、劇照進(jìn)行拼貼,再加上文字和配音處理,,如“靳東”表白,、“馬云”發(fā)錢(qián)、“董卿”戀愛(ài)等,,具有較強(qiáng)的誤導(dǎo)性,,令大量中老年用戶(hù)上當(dāng)受騙。
2. 中級(jí)手段:劇本擺拍,,誤導(dǎo)公眾
擺拍類(lèi)短視頻一般有劇本,、演員、場(chǎng)景,、道具,,短視頻作者通過(guò)較為專(zhuān)業(yè)的拍攝手法和劇情表達(dá),制造意外,、反差和反轉(zhuǎn)以吸引觀(guān)眾注意,。更重要的是,短視頻作者刻意模糊真實(shí)與“創(chuàng)作”間的界限,,用旁觀(guān)者的視角和實(shí)時(shí)拍攝的現(xiàn)場(chǎng)感增加短視頻的真實(shí)感,,不但專(zhuān)業(yè)度顯得較高,而且迷惑性更強(qiáng),。如此前一段廣東茂名“夫妻剛辦完離婚手續(xù)走出民政局,,妻子暈倒丈夫冷眼離開(kāi)”的短視頻在各大平臺(tái)傳播,大量網(wǎng)民批評(píng)視頻中“丈夫”的做法令人寒心,,最多的一位轉(zhuǎn)發(fā)用戶(hù)下有4萬(wàn)人評(píng)論,。9月4日,茂名市網(wǎng)信辦公布了另一個(gè)角度的監(jiān)控視頻,,證明該視頻系擺拍創(chuàng)作,。隨后多家媒體調(diào)查發(fā)現(xiàn),,多個(gè)短視頻內(nèi)容平臺(tái)均存在大量類(lèi)似“民政局門(mén)前演戲式擺拍”的內(nèi)容,且多與離婚,、出軌等爭(zhēng)議性話(huà)題有關(guān),。
擺拍視頻中,辨識(shí)難度較大的是偽裝成監(jiān)控拍攝的短視頻,。今年7月,,一段湖南芷江“搶小孩”的“監(jiān)控視頻”在秒拍、梨視頻,、微博等平臺(tái)傳播,,引來(lái)不明真相的網(wǎng)民和媒體轉(zhuǎn)發(fā)關(guān)注,最高有近25萬(wàn)點(diǎn)贊,,視頻播放量超過(guò)百萬(wàn),。經(jīng)有關(guān)部門(mén)調(diào)查,該視頻為自媒體公司自導(dǎo)自演,,目的是賺取流量,,公司運(yùn)營(yíng)人已被網(wǎng)安部門(mén)約談批評(píng)。2019年11月9日,,一則“男孩蹲車(chē)后撿球險(xiǎn)被撞,,男子一把拉起拯救兩個(gè)家庭”的監(jiān)控視頻走紅于網(wǎng)絡(luò),被網(wǎng)民稱(chēng)贊“暖新聞”“正能量”,,后經(jīng)媒體核實(shí)該視頻系擺拍,。上述案例中,相關(guān)視頻具備監(jiān)控視頻特有的黑白底色,、無(wú)聲音,、畫(huà)質(zhì)差、鏡頭高,、距離遠(yuǎn)等特征,,如果沒(méi)有標(biāo)注是擺拍,網(wǎng)民很容易相信視頻內(nèi)容是真實(shí)發(fā)生的事情,。
3. “高級(jí)”手段:改頭換臉,,無(wú)中生有
虛假視頻信息一直困擾著全世界的網(wǎng)絡(luò)平臺(tái)和用戶(hù),在A(yíng)I技術(shù)與短視頻制作融合后,,它的風(fēng)險(xiǎn)和危害變得更加明顯,。利用AI系統(tǒng),,用戶(hù)可以任意創(chuàng)建和編輯視頻,,這就意味著在短視頻造假上面,它不但能夠以假亂真,,更能“無(wú)中生有”,。2017年,,Reddit網(wǎng)站用戶(hù)利用Deepfake(深度偽造)技術(shù)制作色情視頻并提供開(kāi)源后,Deepfake技術(shù)便在被濫用的路上越走越遠(yuǎn),,境外社交媒體上充斥著此類(lèi)短視頻,。有境外機(jī)構(gòu)統(tǒng)計(jì)稱(chēng),在所有Deepfake創(chuàng)作的視頻中,,色情視頻占據(jù)了96%,,“Deepfake已經(jīng)成為攻擊女性強(qiáng)有力的武器”。甚至還有變種,,如DeepNude軟件可以將照片一鍵生成裸照,,不需要任何技術(shù)或者硬件支持;Deepfake音頻可以利用算法復(fù)制人們的聲音,,模仿音色,、語(yǔ)調(diào)甚至言談舉止習(xí)慣,目前境外已經(jīng)公開(kāi)報(bào)道了三起Deepfake音頻詐騙案例,。
而且這一技術(shù)已經(jīng)不可避免地侵入到政治領(lǐng)域,,在境外社交媒體發(fā)揮影響力。奧巴馬,、特朗普,、佩洛西、默克爾,、馬斯克等歐美政客名人的“換臉”視頻屢見(jiàn)不鮮,,2019年元旦,西非國(guó)家加蓬發(fā)布的一段經(jīng)過(guò)深度偽造的總統(tǒng)講話(huà)還引發(fā)國(guó)家動(dòng)蕩,。隨著技術(shù)不斷升級(jí),,虛假圖片、音頻,、視頻的合成更為容易,,視頻造假的內(nèi)容也在不斷擴(kuò)展。據(jù)外媒報(bào)道,,今年2月初,,在印度德里邦議會(huì)選舉中,印度人民黨(Bharatiya Janata Party)的候選人之一Manoj Tiwari,,用視頻造假技術(shù)拉攏小語(yǔ)種選民,。視頻中,并不擅長(zhǎng)哈里亞納語(yǔ)的Tiwari,,講著流利的哈里亞納語(yǔ),,呼吁大家向印度人民黨投票。該視頻在WhatsApp上引起大量傳播,,近5800個(gè)WhatsApp群組約1500萬(wàn)人進(jìn)行觀(guān)看,。美國(guó)安全專(zhuān)家曾發(fā)出警告,,稱(chēng)DeepFake可能成為對(duì)下屆美國(guó)總統(tǒng)大選造成影響的最有威脅的人工智能技術(shù)之一。
二,、短視頻造假的動(dòng)因
進(jìn)一步分析上述案例可以看出,,短視頻造假歸根結(jié)底是為了流量及利益。短視頻制作者追求利益的做法,,具體又可以分為兩種情況:一種情況是受到行業(yè)擴(kuò)張的刺激,,通過(guò)策劃、演戲“套路”網(wǎng)民,,收割流量,;另一種則屬于鋌而走險(xiǎn),在網(wǎng)絡(luò)黑灰產(chǎn)的鏈條里找尋獵物,,誘導(dǎo)和欺騙牟取利益,。
1. 行業(yè)推力:短視頻行業(yè)急速擴(kuò)張推動(dòng)關(guān)聯(lián)產(chǎn)業(yè)壯大,“反哺”造假需求
短視頻行業(yè)的快速發(fā)展,,催生出相關(guān)產(chǎn)業(yè)鏈并推動(dòng)其走向火熱,,為擺拍造假提供便利。大量的短視頻制作需求使得短視頻劇本寫(xiě)作工作室,、公司如雨后春筍般出現(xiàn),,攝影、編劇,、制片等專(zhuān)業(yè)人士加入,,使得以創(chuàng)意劇情為主要內(nèi)容的短視頻迅速走紅。短視頻平臺(tái)也在發(fā)力:2019年,,快手上線(xiàn)新功能板塊“快手小劇場(chǎng)”,,宣稱(chēng)將由專(zhuān)人對(duì)短劇創(chuàng)作者進(jìn)行垂直化和專(zhuān)業(yè)化的運(yùn)營(yíng);2020年2月,,抖音推出“百億劇好看計(jì)劃”,,表示將根據(jù)播放量、點(diǎn)贊量等綜合排名給予創(chuàng)作者獎(jiǎng)勵(lì),。據(jù)卡思數(shù)據(jù)今年3月發(fā)布的一份報(bào)告顯示,,不論是在短視頻內(nèi)容量上的占有率,還是在內(nèi)容漲粉和廣告投放上的效果,,劇情號(hào)都處在前列位置,。平臺(tái)的操作和現(xiàn)實(shí)的數(shù)據(jù)都揭示出這樣一個(gè)深層次邏輯,即短視頻的算法推薦將內(nèi)容故事性作為一條重要規(guī)則,,主導(dǎo)著短視頻作者的內(nèi)容能否被看到以及被多少人看到,。
推薦算法指引著流量的流向,在“流量思維”主導(dǎo)下,,自然會(huì)有人不惜造假,、造謠,,甚至不顧道德和法律的約束,。作為新興產(chǎn)業(yè),,低門(mén)檻的短視頻創(chuàng)作內(nèi)容質(zhì)量參差不齊、從業(yè)人員魚(yú)龍混雜,,但都不約而同地遵循著要吸引關(guān)注必須具備獵奇,、刺激、有沖突,、有邏輯等“潛規(guī)則”,。換句話(huà)說(shuō),短視頻平臺(tái)上所謂的驚喜,、憤怒,、沖突、矛盾,,其實(shí)多數(shù)都是策劃的結(jié)果,。MCN機(jī)構(gòu)和網(wǎng)紅們精準(zhǔn)地抓住了網(wǎng)民的心理弱點(diǎn),用充滿(mǎn)痛點(diǎn)的社會(huì)話(huà)題去撩撥公眾情緒,,收割流量和熱度,。
2. 流量吸力:短視頻“流量富礦”吸引網(wǎng)絡(luò)黑灰產(chǎn)轉(zhuǎn)移,衍生造假空間
互聯(lián)網(wǎng)環(huán)境中,,有流量就有利益,,短視頻作為當(dāng)下的互聯(lián)網(wǎng)經(jīng)濟(jì)新風(fēng)口,必然會(huì)吸引網(wǎng)絡(luò)流量黑灰產(chǎn)的跨平臺(tái)轉(zhuǎn)移,,一些黑灰產(chǎn)逐利者聞風(fēng)而動(dòng),,利用虛假短視頻謀取不當(dāng)利益?!凹俳鶘|”事件發(fā)酵后,,紅星新聞等媒體調(diào)查發(fā)現(xiàn),短視頻賬號(hào)交易已經(jīng)發(fā)展出成熟的黑灰產(chǎn)業(yè)鏈條,,不論是“產(chǎn)號(hào)”“養(yǎng)號(hào)”,,還是銷(xiāo)售、運(yùn)營(yíng),,都分工有序,,明碼標(biāo)價(jià),背后有著專(zhuān)門(mén)的工作室操刀,。比如,,在短視頻平臺(tái)上注冊(cè)大量仿冒賬號(hào),用獵奇標(biāo)題,、關(guān)注發(fā)紅包等方式騙取粉絲點(diǎn)贊,,這個(gè)過(guò)程叫“養(yǎng)號(hào)”,。等到積累一定粉絲基礎(chǔ)后就尋求變現(xiàn),主要通過(guò)賣(mài)號(hào),、加掛廣告掙取傭金,、直播帶貨、微信導(dǎo)流推廣等多種方式,。據(jù)媒體報(bào)道,,一個(gè)15萬(wàn)左右粉絲的賬號(hào)最高可賣(mài)到9000多元,買(mǎi)家主要是直播帶貨或微商團(tuán)隊(duì),,像被“假靳東”視頻欺騙的黃女士就購(gòu)買(mǎi)了該賬號(hào)推薦的不少商品,。在非法利益的驅(qū)使下,還有不法分子將黑手伸向了缺乏辨識(shí)力的未成年人和中老年用戶(hù),,甚至將其引導(dǎo)至其他平臺(tái)進(jìn)行網(wǎng)絡(luò)詐騙,。
三、短視頻造假的危害及應(yīng)對(duì)
短視頻造假者從日常生活中截取片段,,通過(guò)精心編排,、剪輯,改成富有爭(zhēng)議,、充滿(mǎn)反轉(zhuǎn)的橋段,,不但在網(wǎng)絡(luò)上引起爭(zhēng)議和混亂,帶來(lái)種種負(fù)面后果,,更是顛覆了人們“眼見(jiàn)為實(shí)”的一貫認(rèn)知,,長(zhǎng)此以往將造成社會(huì)信任缺失和冷漠蔓延。法制網(wǎng)輿情監(jiān)測(cè)中心認(rèn)為,,以下四種情況需要引起警惕并需采取措施積極應(yīng)對(duì):
1. 警惕正能量擺拍視頻侵蝕官方公信力
當(dāng)前,,短視頻提供了大量的一手信息,日漸吸引媒體關(guān)注,,并將其作為報(bào)道來(lái)源之一,。通常一條熱門(mén)短視頻經(jīng)過(guò)媒體轉(zhuǎn)載報(bào)道后,還會(huì)掀起更大范圍的熱議,,形成社會(huì)熱點(diǎn)事件,。多數(shù)正能量新聞就是如此發(fā)酵起來(lái),并且感動(dòng)無(wú)數(shù)網(wǎng)民,。然而,,一些虛假短視頻隱藏其中,給媒體公信帶來(lái)嚴(yán)重?fù)p害,。如“女孩考上大學(xué)跪謝父母”“火鍋店老板娘秒殺醉酒男”等視頻,,因“正能量”“暖新聞”受到媒體熱捧后很快“翻車(chē)”成“擺拍”,導(dǎo)致那些未經(jīng)核實(shí)查證就發(fā)布報(bào)道的權(quán)威媒體因此遭到網(wǎng)民責(zé)難,陷于追逐流量,、缺乏專(zhuān)業(yè)素養(yǎng)的輿論漩渦,。此外,各地政法機(jī)關(guān)也需警惕正面宣傳“翻車(chē)”現(xiàn)象,。今年5月20日,,四川內(nèi)江市公安市中區(qū)分局官方微博發(fā)布一段視頻,視頻中一名女交警給來(lái)送花表白的老公貼上違停罰單,,本意是宣傳“公正嚴(yán)明執(zhí)法”,,但引來(lái)擺拍質(zhì)疑,。隨后官博撤下視頻,,工作人員回應(yīng)稱(chēng)原本策劃的是男主在女交警下班時(shí)去交警大隊(duì)門(mén)口送花,結(jié)果在買(mǎi)花的路上碰到,,是“意料之外的擺拍”,。官方解釋依然未能平息質(zhì)疑,網(wǎng)民留言批評(píng)“矯揉造作”“侮辱智商”,。宣傳部門(mén)在利用短視頻開(kāi)展工作時(shí),,需要注意區(qū)分真實(shí)和創(chuàng)作之間的界限,對(duì)于創(chuàng)作的內(nèi)容要主動(dòng)作出提醒,,以免網(wǎng)民質(zhì)疑誘發(fā)負(fù)面輿情,。
網(wǎng)頁(yè)鏈接:http://www.legaldaily.com.cn/The_analysis_of_public_opinion/content/2020-11/30/content_8437527.html