【政界Deepfake】AI莫理遜、黃英賢深偽圖像被用於投資詐騙廣告

由人工智能生成的政界人士圖像被用於十幾個Facebook廣告,覆蓋幾千個澳洲用戶帳號。

Deefake

(Photo credit should read ROB LEVER/AFP/Getty Images) Source: Getty

由人工智能生成的前總理莫理遜(Scott Morrison)圖像被用於十幾個Facebook廣告,覆蓋幾千個澳洲用戶帳號。

其他被用於深度偽造的澳洲政界人士還包括外交部長黃英賢(Penny Wong)和金融部長加拉格爾(Katy Gallagher)。

這些圖像被用於深度偽造的投資詐騙影片,外界擔憂將會成為網絡詐騙的最新趨勢。

11個Facebook專頁發佈相同廣告

根據,這些廣告似乎屬於一個詐騙活動組織,至少有11個不同的專頁發佈了完全相同的影片。
收聽節目
0521 SWD AI Putin (final) image

【AI普京】波蘭導演拍AI深偽電影 普京穿尿布登場

SBS Chinese

22/05/202406:26
部份發佈廣告的專頁管理員位於烏克蘭和越南等國家,或以新加坡元、秘魯索爾、巴西雷亞爾、墨西哥比索、丹麥克朗和埃及鎊等貨幣交易。

大多數專頁只宣傳少量廣告,相當於幾百澳元。許多專頁目前已被刪除,所有廣告都處於非活躍狀態,其中許多廣告僅在短時間內發佈。

深度偽造政界人士

這些影片似乎使用人工智能還原一眾政界人士的樣貌和聲音。

最近在天空新聞節目中出現的主播肯尼(Chris Kenny)同樣被用於深度偽造,令影像畫面看似在報道一項可以「獲得7,700元」的投資。

黃英賢的圖像也被用於類似的詐騙廣告推銷金融產品,該影片的觀看人數不到1000人。
加拉格爾說:「我想澄清,我或任何其他政界人士都絕不會在網上向澳洲人推銷產品或投資機會。」

加拉格爾提到政府打擊詐騙的工作,但她表示,此類詐騙「是一個重要的提醒,不要相信你在網絡上看到的一切」。

任何顯示此內容的影片都是虛假內容,請向Scamwatch舉報。
金融部長加拉格爾

助理財長:人工智能「加劇」欺詐行為

負責反詐騙工作的助理財長鍾斯(Stephen Jones)警告,人工智能可能會「加劇」欺詐行為。

「這些詐騙人士用高科技的虛假名人身份來模仿真實廣告。使用人工智能將加劇他們的欺詐行為。」
他暗示即將進行改革,迫使社交媒體公司採取更多措施。

「社交媒體業者有責任追蹤這些內容,並將其從平台刪除。」

「我們的下一波改革將要求銀行、電訊公司和社交媒體平台保護客戶免受詐騙。」


瀏覽更多最新時事資訊,請登上,或訂閱

SBS 中文堅守,以繁體中文及簡體中文提供公平、公正、準確的新聞報道及時事資訊。SBS 廣東話及 SBS 普通話均已為大眾服務超過 40 年。歡迎在每天早上 9 至 11 時透過收聽廣東話節目及在每天早上 7 至 9 時收聽普通話節目,或透過收聽直播、節目重溫及其他語音內容。

分享
Published 8 June 2024 1:18pm
By Pui Yan Rachel Hui
Source: SBS

Share this with family and friends