Gartner發(fā)布了一系列《Predicts 2021》研究報告，其中一份報告概述了人工智能（AI）將在未來幾年引發(fā)的重大影響，包括廣泛的道德和社會問題。

　　Gartner的五位分析師在《2021年預(yù)測：人工智能對人類和社會的影響》的報告中預(yù)測了2025年將會產(chǎn)生的變化，該報告特別關(guān)注了所謂的人工智能的二級后果，這種后果是非預(yù)期的新技術(shù)的成果。

　　例如，生成式AI現(xiàn)在可以創(chuàng)建出實(shí)際上并不存在的人物和物體的非常逼真的照片。

　　Gartner：Deepfake和生成式AI讓我們進(jìn)入零信任世界

　　Gartner預(yù)測，到2023年，將有20%的賬戶被這種由AI產(chǎn)生的Deepfake接管。報告指出：“可以創(chuàng)建和生成超逼真的內(nèi)容的AI能力，將對人們相信自己的眼睛所看到的產(chǎn)生變革性的影響。”

　　該報告從AI市場的5個角度進(jìn)行了預(yù)測，并就企業(yè)如何應(yīng)對和適應(yīng)這些未來的挑戰(zhàn)提出了建議：

　　到2025年，預(yù)先訓(xùn)練的AI模型將主要集中在1%的供應(yīng)商中，這將使AI的負(fù)責(zé)任地使用成為社會關(guān)注的問題

　　在2023年，成功的賬戶接管攻擊將有20%使用Deepfake，它將會成為社會工程學(xué)攻擊的一部分

　　到2024年，將有60%的AI提供商會將緩解危害/濫用行為作為其軟件的一部分

　　到2025年，將有10%的政府通過使用合成AI來避免隱私和安全問題

　　到2025年，工作場所75%的對話將被記錄和分析，以用于增加組織價值和評估風(fēng)險

　　這些分析中的每一個都足以使AI觀察者引起足夠的關(guān)注，如果將這些預(yù)測結(jié)合起來時，就可以勾勒出未來的嚴(yán)峻形勢，其中涉及道德問題，潛在的AI濫用以及工作場所隱私的喪失。

　　如何應(yīng)對

　　如果Gartner的分析師的預(yù)測準(zhǔn)確無誤，那么關(guān)于AI帶來的隱私和真相的影響的擔(dān)憂必將成為未來幾年的主要話題，成功的企業(yè)將需要準(zhǔn)備迅速適應(yīng)這些擔(dān)憂。

　　該報告中的一個重要的主題是，在依賴AI的公司（無論是服務(wù)還是產(chǎn)品）中建立道德委員會。Gartner說，對于計劃記錄和分析工作場所對話的企業(yè)，尤其要注意這一點(diǎn)，應(yīng)建立具有員工代表的董事會，以確保公平使用對話數(shù)據(jù)。

　　Gartner還建議企業(yè)建立負(fù)責(zé)任的AI使用標(biāo)準(zhǔn)，并優(yōu)先考慮“可以證明AI能夠清晰發(fā)展和解決相關(guān)社會問題”的供應(yīng)商。

　　至于圍繞Deepfake和生成式AI的安全問題，Gartner建議組織安排有關(guān)Deepfake的培訓(xùn)。報告說：“我們現(xiàn)在正在進(jìn)入零信任的世界。除非使用加密的數(shù)字簽名證明它是經(jīng)過認(rèn)證的，否則任何事物都不能被信任。”

　　該報告有很多內(nèi)容值得關(guān)注，有數(shù)據(jù)說，最好的Deepfake檢測軟件從長期來看將以50%的識別率達(dá)到頂峰。還預(yù)測到2023年，一家大型美國公司將采用對話分析來確定員工薪酬。這些分析中有很多需要擔(dān)心的地方，也包括潛在的解決方案。