19日、ソウル市議会の本会議で映し出された呉世勲ソウル市長のディープフェイク映像(写真=ユーチューブチャンネル「ソウル市議会」の映像からのキャプチャー)
「他們看起來奇怪地相似。」…首爾市長的深斐影片讓會議廳爆出一陣笑聲…為什麼?
首爾市長吳世勳利用 Deep Fei(利用 AI 技術合成的虛假視頻、音頻和圖像)變身為 30 多歲的“帥氣演員”。
19日,尹容熙市議員(人民力量)在首爾市議會例行會議上作為提問者上台。
他還發布了一段用吳市長的臉創作的深飛褲影片。我們將簡要解釋深斐技術的連鎖反應,同時解釋其危險性和嚴重性。
就是為了讓你這麼做。 當尹議員使用手機應用程式將吳市長的臉與外國演員的臉結合時,會議室裡的每個人都笑了起來。我走上講台回答雲議員的提問。
吳市長也笑道:“有一種奇怪的相似感。” 雲議員指出,“我在不到一分鐘的時間內製作了這個視頻,而且是免費的,而且非常簡單。”
對此,吳市長表示,“在首爾,我們在數位性犯罪中心引入了人工智能程序,首次捕捉深度費視頻,結果超出了預期。”
“以前,人們必須手動處理每個問題,即使刪除了,它們也總是會像蟑螂一樣回來,但現在人工智慧能夠處理大量的深斐圖像。”
「我正在這樣做,」他解釋道。 吳市長進一步強調,“如果成為受害者,社會和心理傷害將是嚴重的,所以我們將繼續努力,徹底保障人權。”
17日,警察廳通報稱,來自首爾、仁川、釜山、光州、大邱等全國各地的30名國會議員收到了利用費深影片拍攝的威脅訊息。
該公司宣布已收到報告稱已收到該電子郵件。非法合成照片中使用的照片是發佈在互聯網上(包括議會主頁上)的國會議員的身份證照片。
。 據報道,這些電子郵件包含威脅訊息,例如“我有你犯罪的證據”和“你知道這會對你的政治活動產生什麼樣的影響嗎?”
為了換取刪除非法合成照片,電子郵件寄件者透過二維碼發送了價值 5 萬美元(約 773 萬日圓)的虛擬貨幣。
調查結果發現,員工是在被引導下這樣做的。 一名警察官員表示:“包括首爾警察廳網路犯罪調查組在內,各地區警方將展開調查。”
2024/11/20 07:07 KST
Copyrights(C) Edaily wowkorea.jp 107