中國警方打擊了兩個利用 ChatGPT 製作虛假視頻的團伙。其中一次爆發發生在五月，另一次爆發發生在六月。 ChatGPT 是由微軟支持的 OpenAI 開發的人工智能聊天機器人，允許用戶根據用戶提示和問題生成響應。據美聯社新聞報導，ChatGPT 已被用來製造深度偽造品，這些偽造品是偽造的數字圖像、視頻或其他看似真實的媒體。此外，《商業內幕》透露，使用 ChatGPT 創建的深度造假尤其值得關注，因為它們變得越來越複雜且難以檢測。中國警方搗毀了兩個利用 ChatGPT 製作虛假視頻的團伙。
ChatGPT 在中國是非法的
據報導，中國監管機構已取締無法訪問 ChatGPT。然而，中國的科技公司和學校正在推動國內人工智能機器人的開發。 ChatGPT 在中國尚未正式推出，中國政府設有詳細的防火牆和嚴格的互聯網審查制度。但許多人一直通過 VPN 訪問它。此外，一些第三方開發人員還製作了提供對該服務的部分訪問權限的程序。在中文平台上搜索 ChatGPT 不再返回結果。然而，解決方案已被禁用或取而代之的是一個通知，稱它們因“違反相關法律法規”而被暫停。 ChatGPT 在中國被禁止並不令人意外，因為這個亞洲國家的法律相當嚴格。中國政府一直在打擊政治宣傳和錯誤信息。據報導，它認為 ChatGPT 生成文本的能力對其控制信息流構成威脅。
中國擁有世界上最全面、最複雜的互聯網審查制度之一。中國政府封鎖網站內容並監控互聯網訪問，中國主要互聯網平台建立了周密的自我審查機制並實施了實名制。政府捍衛其審查互聯網的權利，聲稱這項權利源於該國境內的自身規則[1]。政府的防火長城是世界上最複雜的互聯網審查機構，攔截的內容包括主要新聞網站、社交媒體平台和消息應用程序[2]。
警方於 5 月搗毀了第一個犯罪團伙
來自中國西北部甘肅省的一份警方報告提到一名犯罪嫌疑人屬於犯罪團伙。他的姓氏為洪，他利用 ChatGPT 製作了一篇假新聞文章，內容是關於一場據稱導致甘肅 9 名建築工人死亡的事故。這個故事瘋傳，甚至合法的新聞來源也被這個假故事欺騙了。當警方意識到這是假的時，它已經有 15,000 次瀏覽。警方聲明稱，
“洪某利用現代科技手段，編造虛假信息，在互聯網上傳播，並得到廣泛傳播。”
返回5月，紹興警方發現，同一團伙非法購買了一批視頻賬號，並用於使用 ChatGPT 創建虛假視頻。警方逮捕了一名利用 ChatGPT 製造火車相撞假新聞的男子。這是中國最近頒布的一項監管人工智能生成的“深度造假”法律的首批執法行動之一。據警方介紹，該團伙的作品看似寫實，實則捏造的數字圖像、視頻或其他媒體。
本週Gizchina新聞
當地網絡安全警察部門注意到了 4 月 25 日發表的有關火車事故的文章。隨後，該部門對此事展開了調查。 Hong 隨後承認，他使用 ChatGPT 製作了有關火車事故的假新聞，然後將其發佈到網上。洪的被捕是自中國針對深度造假技術的新規定於一月份生效以來首次被拘留。該法律旨在防止濫用可以改變面部和語音數據的技術。雖然 ChatGPT 在中國被禁止，但還是有虛擬專用網絡等解決方法。
中國警方在 6 月搗毀了另一個團伙
第二次重大破壞發生在 2023 年 6 月。6 月 2 日上虞警方在網上調查中發現，名為“尚義解說”的App用戶發布了一段有關上虞工業園區火災的視頻。視頻的觀看量在短時間內迅速上升。警方對視頻進行了复核，發現該視頻為假新聞。上虞警方還在另一個省份發現了一個與犯罪有關的科技團伙。 6月5日，警方趕赴外省，抓獲3名犯罪嫌疑人。
經偵查，該團伙公關團伙自5月份以來，已從網絡非法獲取多個視頻賬號。它通過ChatGPT技術對視頻進行拼接並製作假視頻發佈網絡獲取流量。流量為集團帶來了利潤。截至目前，該團伙已非法購買視頻賬號1500餘個，發布虛假視頻3000餘條。被捕的嫌疑人現已承認犯罪，但警方仍在進一步調查更多嫌疑人。
這些團伙與 OpenAI 或 ChatGPT 沒有任何關係。他們僅使用該工具來製造深度造假並產生流量以獲取經濟利益。另外，據上虞警方介紹，“六月爆裂”團伙與“五月爆裂”團伙沒有任何联系。因此，警方必須採取更多措施，避免更多此類團伙的湧現。
結束語
ChatGPT視頻詐騙案揭示了人工智能技術監管和控制的必要性。中國。雖然 ChatGPT 可以成為根據用戶提示和問題創建聊天的有用工具，但它也可用於創建虛假新聞和視頻。隨著技術變得更加先進，中國政府一直在努力規範和控制人工智能技術的使用，包括 ChatGPT。對利用 ChatGPT 製作虛假視頻的團伙進行打擊，是朝著確保負責任和合乎道德地使用人工智能技術的正確方向邁出的一步。
人工智能製造的深度造假始終存在危險，有必要規範人工智能技術的使用。隨著 ChatGPT 的受歡迎程度不斷增長，我們很可能會看到更多欺詐和濫用案例。這些深度偽造可以輕鬆傳遞真實的音頻、視頻或圖像。因此，用戶保持警惕並向有關當局報告任何可疑活動非常重要。
來源/VIA:
