當地時間周三（1月10日），世界經濟論壇（俗稱達沃斯論壇）發布報告稱，虛假和誤導性信息在尖端人工智能（AI）的加持下，是全球經濟面臨的首要直接風險。

2024年世界經濟論壇年會將于1月15-19日在瑞士達沃斯-克洛斯特斯舉行。AI將成為本次達沃斯論壇年會的熱門話題，預計OpenAI CEO薩姆·奧爾特曼、微軟CEO薩蒂亞·納德拉等科技公司高管以及Meta首席AI科學家楊立昆（Yann LeCun）等行業人士將出席會議。

在最新的《全球風險報告》中，達沃斯論壇將錯誤信息列為未來兩年最嚴重的風險，強調了技術的飛速發展也在制造新的問題，或使現有問題變得更糟。

達信麥克倫南和蘇黎世保險集團共同撰寫了這份報告，該報告基于對近1500名專家、行業領袖和政策制定者的調查。

報告作者擔心，像ChatGPT這類生成式AI的崛起意味著，制造可用于操作人群的復雜合成內容，將不再局限于那些擁有專業技能的人。

報告指出，隨著美國、英國和印度等國迎來大選之際，AI驅動的錯誤信息和虛假信息正在成為一種風險。

達信風險管理主管Carolina Klint警告稱，一些人可以利用AI進行深度造假，并真正影響到大型群體，推動錯誤信息的傳播。

她表示，隨著核實事實變得更加困難，社會可能會變得更加兩極分化，虛假信息還可能被用來引發對民選政府合法性的質疑，這意味著民主進程可能會受到侵蝕。

Klint指出，AI興起還帶來了許多其他風險，它可以讓“惡意行為者”更容易實施網絡攻擊，例如自動嘗試網絡釣魚或創造高級惡意軟件。

她說，在AI的加持下，“惡意行為者”甚至可以毒害從互聯網抓取，用于訓練其他AI系統的數據，這極其難以逆轉，并可能進一步將偏見植入AI模型。

在AI驅動的虛假信息和錯誤信息之后，極端天氣是達沃斯所列舉的第二大短期風險。而從長遠來看（定義為10年），極端天氣則上升為第一大威脅。