〔記者吳哲宇/台北報導〕國防部昨召開「深偽(Deepfake)技術簡介及國防應用樣態」記者會。中科院資通所督導長黃益進表示,人工智慧的深偽技術可製作逼真造假內容,恐於網路散播逼真假訊息,中科院已具相關研發能量,可協助國軍「反認知作戰」。
逼真假訊息 廣泛散播製造矛盾
黃益進指出,人工智慧(AI)近年來帶來許多創新運用與衍生挑戰和風險,其中深偽技術最值得關注,可生成逼真照片、語音、影片和其他偽造產物,同時也包含文字、語音、圖片和影片等四個面向。
黃益進指出,認知作戰可偽造錯誤情資並將其廣泛散播,使目標對象於資訊不對稱情況下信以為真,產生內部矛盾,甚至瓦解戰鬥意志,也經常運用資訊作戰,達成認知作戰目的,更結合網路釣魚郵件,盜取特定人物重要個資及機密資訊。
他說,深偽釣魚郵件相較於人工撰寫,最高可提升約四倍郵件點擊率。中共AI相關的研究論文數量更是世界第一,其在相關領域的研發,應是與先進國家同步。
澤倫斯基投降影片 深偽代表作
黃益進舉例,一一一年三月十六日駭客將烏克蘭總統澤倫斯基投降演說的深偽影片,發布至數個烏克蘭的新聞網站,試圖侵擾軍心;此外,亦可加工衛星圖片,產生不存在的建築或地形,藉此欺騙、混淆偵察工作,讓電腦做出錯誤判斷。
至於相關深偽技術,是否有辦法應用於國軍的「反認知作戰」,黃益進表示,深偽技術日新月異,中科院內已有相關研發能量,可以提供國軍相關技術協助。