自從應用AI的深度偽造技術出現以來，人們普遍擔心這項技術將被用來作為信息戰或混合戰爭的工具。麻省理工學院近日發表一項研究成果顯示，通過受試者觀看偽造的視頻資料和文字材料，比較兩者之間的影響力，發現視頻對受試者的認知判斷，與文字材料沒有多大差異。這項超過7000人參與的研究揭示了新興的深度偽造技術可能也有其局限性。也就是說，目前對基于視頻的錯誤信息（包括深度偽造）無與倫比的說服力的擔憂可能有些為時過早。
自從人們在色情、電子商務和銀行搶劫中看到深度造假的應用出現以來，一直有人擔心這種技術可能會被用來干擾未來的選舉。根據一項新的研究，這可能比我們想象的要難。麻省理工學院（MIT）的研究人員的最新論文調查了政治視頻剪輯是否比文本更有說服力，結果發現答案是……不是真的。
研究人員在論文中寫道，視頻是越來越普遍的政治信息來源。盡管傳統觀點認為視頻比文本等其他交流方式更具說服力，但這種假設很少在政治領域得到驗證。在兩個大規模的隨機實驗中，研究人員發現了“眼見為實”的明確證據：當以視頻與文本形式顯示信息時，個人更有可能相信事件發生了。然而，在說服力方面，視頻相對于文字的優勢明顯不那么明顯，對態度和行為意圖的影響很小。總之，這些結果挑戰了關于政治視頻與文本無與倫比的說服力的流行敘述。
深度造假在2019年年中首次出現在。當參議員羅布·波特曼（oh）和加里·彼得斯（mi）在2020年夏天提出Deepfake Taskforce Act時，波特曼在一份聲明中指出，深度造假對國家安全構成了“獨特的威脅”。
波特曼當時說：“在人類歷史的大部分時間里，眼見為實，但由于深度造假，現在這種說法越來越不真實了。”“結合社交媒體產生的網絡效應，假視頻或照片可以瞬間環游世界，欺騙公民。”
為了評估這項技術在欺騙他人方面的有效性，麻省理工學院的研究團隊進行了兩組研究。研究者的論文中表示，他們首先在視頻可能比文本更有效的兩個維度之間進行理論區分：1）一個人相信所描述的事件確實發生了，2）一個人的態度和行為改變的程度。在兩個調查實驗中測試了這個模型，這些實驗改變了政治說服性信息的暴露程度（總共n=7,609 名美國人；26,584次觀察）。向受訪者展示了從72個剪輯的不同樣本中抽取的一系列有說服力的信息。對于每條消息，他們被隨機分配到三個條件之一：短視頻、視頻的詳細轉錄或控制條件。總的來說，研究者發現當事件以視頻與文本形式呈現時，個人更有可能相信事件發生了，但對態度和行為意圖的影響要小得多。重要的是，對于這兩個維度，這些影響在消息和受訪者子組中都非常穩定。此外，在態度和參與度方面，視頻和文本條件之間的差異與文本和控制條件之間的差異相當。綜上所述，測試結果對人們普遍持有的關于政治視頻對文本的獨特說服力的假設提出了質疑。
也就是說，麻省理工學院的研究人員試圖回答的問題有兩個：
1、眼見為實嗎？就像波特曼（以及無數其他人）所說的那樣？
2、如果是的話，一個人的觀點會在多大程度上被視頻或短信所左右？
結論如何呢？
“總的來說，我們發現人們更傾向于相信以視頻形式呈現的事件。”換句話說，結果證實了，是的，就參與者而言，眼見為實。但當研究人員深入研究說服相關的數字時，兩種媒介之間的差異幾乎不明顯，如果有的話。
鑒于這些結果，或許應該重新審視關于政治視頻優先于文本的基本假設。這些發現的一個重要含義是，目前對基于視頻的錯誤信息（包括深度偽造）無與倫比的說服力的擔憂可能有些為時過早。此外，這些發現為關于政治廣告效果的長期辯論增添了細微差別。盡管以前的研究發現政治廣告，尤其是視頻形式的政治廣告，通常對候選人評估和投票行為產生微小而短暫的影響，但這個研究表明，基于視頻和文本的廣告都有可能影響公眾的政策意見，即使對于高度極化的話題，如氣候變化、生殖權利或 COVID-19 大流行。當接觸到有說服力的內容時，公眾傾向于朝著信息的方向更新他們的問題態度，無論該內容是以視頻還是文本形式傳遞的。
作為該項目的研究人員之一，亞當·貝林斯基（Adam Berinsky）在一份關于這項工作的聲明中指出：“僅僅因為視頻更可信，并不意味著它可以改變人們的想法。”
當然，這項研究（像所有的學術研究一樣）也有一些值得注意討論的地方。首先，盡管7600人是一個相當大的樣本量，但它可能無法涵蓋每個美國選民可能擁有的全部觀點。正如研究人員在他們的文章中指出的，視頻比文本具有的小的說服力優勢實際上在研究環境之外可能更小。
兩項研究中，基于文本的處理都以詳細的文本記錄的形式呈現，其中包含音頻輸出的精確復制，以及對關鍵視覺線索的全面描述。在現實中，具有政治說服力的文章可能結構非常不同（例如，作為一篇新聞文章或觀點文章）。
但即便如此，該研究也指出，通過視頻呈現的信息具有文本所沒有的獨特優勢：視頻比書面報告更吸引眼球，能吸引更多觀眾。
該研究的另一位作者戴維·蘭德（David Rand）在一份聲明中指出：“現實生活中可能會有一些不同。”
他補充說：“當你瀏覽新聞推送時，視頻可能比文本更能吸引你的注意力。”“你可能更有可能去看它。這并不意味著視頻本身就比文本更有說服力，只是它有可能觸及更廣泛的受眾。”
換句話說，至少就這項研究而言，特定政客的深度偽造視頻不太可能比關于同一位政客的假新聞報道更能影響人們的政治觀點。視頻可能具有的唯一優勢是您是否相信眼前所見——以及剪輯視頻最終可能獲得的眼球數量。
