真假難辨,一鍵製造假新聞!舊金山AI研究組織發表「假新聞製造機」,實測效果令人傻眼

2019-12-24 16:51

? 人氣

假新聞常流竄於臉書等各大社群平台,規模龐大難以管制(AP)

假新聞常流竄於臉書等各大社群平台,規模龐大難以管制(AP)

人工智慧(Artificial Intelligence)至今也有了不少發展,從AlphaGo在圍棋界的一戰成名開始,在許多領域中AI也不負眾望取得輝煌戰果,但這位超級英雄是否有黑暗邪惡的一面呢?而當這位機械英雄壞起來成為邪惡魔王,我們人類能否有足夠的力量抵抗呢?

今天我不打算做些危言聳聽的事情,今天就來看看已出現AI魔王的實力吧!

Deepfake是一種人工智慧中的人體影像合成技術,也就是我們最常見的『換臉』。

此技術可將已有的圖像或影片疊加至目標圖像或影片上,並透過AI技術來調整表情姿態與模擬嘴唇動作,這技術通常使用稱為自動編碼器和生成對抗網絡(GAN)的機器學習技術 。

但事情還有延續,Deepfake在色情視頻、色情報復和金融欺詐中的應用贏得了廣泛的關注,並且出現許多邪惡的使用,甚至有專門服務的名人換臉情色影片網站『AdultDeepFakes』的出現。

但我當然不能公然開車,還是請大家看看技術分享的影片。

除了色情以外,政治上也是有相當大的使用範圍,Ai.pictures是由Chi Kiu SO創辦的頻道,內容是在專門模擬中國領袖形象發言,當然影片中都是有註明內容非習主席所說,但是能夠使用中國領袖的形象來發表政治意象相反的言論,且影像完成度極高,乍看下真假難辨,這依然是令人恐慌的應用方式,我們網路閱聽人是否已經有接招的準備?

如此恐怖的應用在市面上卻已經有許多產品,而這些產品中,影像也不是唯一的表達方式。下面就來提供一個假新聞的產生器GPT-2,GPT-2能透過一句話來產生一段相關的『假新聞』,說白了就是假新聞生產器。

而在眾多網友敲碗之下,OpenAI目前也發布了GPT-2語言模型的線上測試版本,OpenAI宣稱測試版本大約只有『一半』左右的成果,但這也足以讓廣大網友上去見識見識AI文豪的實力了。

目前測試版本使用方式是在中間輸入一句概要,會幫你產生一段相關的『假的』新聞報導,目前似乎只有英文可以使用。

假新聞生成器 https://talktotransformer.com/(圖/方格子)
假新聞生成器 https://talktotransformer.com/(圖/方格子)

這邊我試了兩個案例:

範例1

句子: China says it will take military action to resolve Hong Kong

翻譯:中國表示明天會採取軍事行動解決香港問題

產生假新聞:China says it will take military action tomorrow to resolve Hong Kong issue, Hong Kong police say. China condemns accusations of anti-China incitement in Hong Kong over poll calling for British to go. Six other pro-democracy lawmakers and activists have been arrested since Saturday on charges of "illegal gathering".Pro-democracy lawmakers and activists have been barred from entering the territory. Hong Kong law prohibits elections in the former British colony.

關鍵字:
風傳媒歡迎各界分享發聲,來稿請寄至 opinion@storm.mg

本週最多人贊助文章