愛范兒

訂閱

發行量:284 

擔心 Deepfake?還是先擔心斷章取義的短視頻吧

當 Deepfake 這種技術開始被普通人所運用時,它的威力也開始顯現。約 96% 為色情內容,這對那些莫名成為色情內容主角的人造成了困擾,而當它被用在選舉等政治領域時,它的威力也絲毫沒有減弱。 但對於大多數人來說,Deepfake 中涉及到的人工智慧還是太遙不可及了。

2020-01-05 10:10 / 8人閱讀過此篇文章  

當 Deepfake 這種技術開始被普通人所運用時,它的威力也開始顯現。約 96% 為色情內容,這對那些莫名成為色情內容主角的人造成了困擾,而當它被用在選舉等政治領域時,它的威力也絲毫沒有減弱。 但對於大多數人來說,Deepfake 中涉及到的人工智慧還是太遙不可及了。要打擊「假」視頻,還是先關注一下視頻剪輯軟體做出的「假」視頻吧。 前美國副總統拜登最近的悲慘遭遇就喝視頻剪輯造假有關。在那個「假」視頻中,剪輯者斷章取義地讓這位總統候選人看起來像一個種族主義者:「我們的文化不是從非洲國家或亞洲國家引入的,我們的法律文化源於英國。」 這段剪輯的配文是「拜登宣稱美國的歐洲身份:我們的文化不是從某個非洲國家引入的。」

群眾的憤怒被這條 Twitter 點燃了,20 秒的短視頻迅速獲得了百萬的點擊量,且該視頻還在迅速傳播。民眾在這條 Twitter 下面把拜登稱為白人至上的種族歧視者,說他是右翼,瘋狂地辱罵他、抨擊他。 但在評論區仍有不少用戶表示,這段視頻刪掉了拜登的部分內容,漏掉了重要的上下文,這使得拜登的意思被完全曲解了。CNN 的記者 Daniel Dale 就表示這是一個「假」視頻:

一段斷章取義的拜登視頻在推特上流傳。 拜登進行了十多分鐘的演講,講述了他反對家暴和性侵的歷史,他反覆將其描述為一個「文化問題」,認為這可以追溯到寬鬆的英國法律歷史。 他講了一個過去英國法官容忍丈夫毆打妻子的故事。幾分鐘後,他回到了他的論點,即美國人對虐待婦女的縱容是從幾個世紀前的英國人的縱容中衍生出來的。

▲ 圖片來自:Wired

從這個角度來說,拜登的真實意圖和視頻剪輯者想要表達出的意思完全相反,但大家不會花時間去看更長的視頻,去對信源進行一一驗證,他們更願意直接將對方定義為種族主義者。 我們現在更應該擔心這類任何人都能「做」出的視頻,通過斷開前後文,忽略語境,斷章取義,它可以讓每個人的視頻都成為被痛批的政治不正確視頻。 而當每個平台都在用新的技術手段和運營手段來減少 Deepfake 視頻的時候,平台對這類斷章取義的視頻卻「束手無策」。 Twitter 的發言人就表示,拜登視頻的熱門推文並未違反公司的規定,他們正在制定一項新的政策來處理被操縱的視頻。雖然缺少具體的限定原則,但 Twitter 仍會將其界定為被操縱的媒體內容。 只是我們不清楚,Twitter 的信政策是否也能限制這類斷章取義的視頻。

Deepfake 的神奇之處在於無中生有,將你沒有做過的事情用影像「證明」。它甚至能在真實的視頻之上改變你的嘴形和表情,完全改變你想表達的狀態和原意。 而斷章取義的視頻則不同,因為那些話都是你真真實實說出來的,你沒辦法拍桌子告訴其他人你沒說過,你很難讓別人知道你的原意被曲解。而圍觀群眾哪有那麼多的時間呢?他們把你定義為種族歧視者就走了。 不管是哪種「假視頻」,對我們來說都很可怕。

政治學家 Emily Thorson 就表示人總是容易受到錯誤信息的影響。

我認為,現在真正的挑戰在於社交媒體等新技術的即時性、範圍和易傳播性。 在什麼情況下,人們更容易接受錯誤信息?弄清這個,會引出一些有趣的領域。 我們知道語境很重要,但認知、語言、社會和其他因素也會起作用。

題圖來自 Seth Doyle on Unsplash





文章標籤: