La polizia in Cina ha represso due diverse bande che utilizzavano ChatGPT per creare video falsi . Una delle esplosioni è avvenuta a maggio mentre l’altra a giugno. ChatGPT è un chatbot AI sviluppato da OpenAI supportato da Microsoft che consente agli utenti di generare risposte in base a richieste e domande degli utenti. La banda aveva acquistato illegalmente una serie di account video dal maggio 2023 per utilizzare ChatGPT per creare video falsi.
Divieto cinese di ChatGPT
Secondo quanto riferito, le autorità di regolamentazione cinesi hanno riferito bloccato l’accesso a ChatGPT. Tuttavia, le aziende tecnologiche e le scuole cinesi promuovono lo sviluppo di robot IA domestici. ChatGPT non è ufficialmente disponibile in Cina, dove il governo gestisce un firewall dettagliato e una rigida censura su Internet. Ma molti vi accedevano tramite VPN. Inoltre, alcuni sviluppatori di terze parti avevano prodotto programmi che davano accesso al servizio. Le ricerche di ChatGPT sulle piattaforme cinesi non restituiscono più risultati. Tuttavia, i programmi di soluzione alternativa erano stati disabilitati o sostituiti con un avviso che diceva che erano stati sospesi per”violazione delle leggi e dei regolamenti pertinenti”.
Il divieto di ChatGPT in Cina non è una sorpresa in quanto la nazione asiatica è piuttosto severa con le sue leggi. Il governo cinese ha represso la propaganda politica e la disinformazione. Secondo i rapporti, vede la capacità di ChatGPT di generare testo come una minaccia al suo controllo sul flusso di informazioni.
Maggio 2023 Burst: il caso della frode video di ChatGPT
Una polizia un rapporto dalla provincia cinese nord-occidentale del Gansu menziona un sospetto che fa parte di una banda. Identificato solo dal suo cognome, Hong, ha usato ChatGPT per creare un articolo di fake news su un incidente che avrebbe portato alla morte di nove operai edili nel Gansu. Questa storia è diventata virale e anche le fonti di notizie legittime sono state ingannate dalla storia falsa.
A maggio, la polizia di Shaoxing ha scoperto che la stessa banda aveva acquistato illegalmente una serie di account video e li aveva usati per crea video falsi utilizzando ChatGPT. La polizia ha arrestato un uomo che ha utilizzato ChatGPT per creare notizie false su un incidente ferroviario. Questa è una delle prime azioni di contrasto ai sensi di una legge cinese recentemente emanata che regola i”falsi profondi”generati dall’intelligenza artificiale. Secondo la polizia, le opere della banda sono immagini digitali, video o altri media apparentemente realistici ma fabbricati.
L’unità locale di polizia per la sicurezza informatica è stata allertata dell’articolo sull’incidente ferroviario, pubblicato il 25 aprile. Ha quindi avviato un’indagine sulla questione. Hong ha poi ammesso di aver utilizzato ChatGPT per creare notizie false sugli incidenti ferroviari prima di pubblicarle online. L’arresto di Hong è il primo arresto da quando è entrato in vigore a gennaio il nuovo regolamento cinese sulla deep fake tech. La legge mira a prevenire l’uso improprio della tecnologia che può alterare i dati del volto e della voce. E sebbene ChatGPT sia vietato in Cina, ci sono soluzioni alternative come le reti private virtuali.
Gizchina Notizie della settimana
June Burst: la polizia cinese smantella una banda di voci
La seconda grande esplosione è avvenuta nel giugno 2023. Il 2 giugno, la polizia di Shangyu ha trovato durante un sonda online che un utente di un’app chiamata”Shangyi Explanation”ha pubblicato un video su un incendio nel parco industriale di Shangyu. Il numero di visualizzazioni del video è aumentato rapidamente in un breve periodo di tempo. La polizia ha ricontrollato il video e ha scoperto che si trattava di notizie false. La polizia di Shangyu ha anche individuato un gruppo tecnologico in un’altra provincia collegato al crimine. Il 5 giugno, la polizia si è precipitata in altre province e ha arrestato tre sospetti.
Dopo le indagini, da maggio il gruppo gang pr ha acquisito illegalmente una serie di account video da Internet. Ha unito i video e prodotto video falsi tramite la tecnologia ChatGPT per pubblicare la rete e guadagnare traffico. Il traffico ha portato a profitti per il gruppo. Finora, la banda ha acquistato illegalmente più di 1.500 account video e rilasciato più di 3.000 video falsi. Il sospetto arrestato da allora ha confessato il crimine, ma la polizia sta ancora indagando ulteriormente per altri sospetti.
Dibattito sulla regolamentazione dell’IA
Il divieto di ChatGPT in Cina e le preoccupazioni sull’autenticità hanno suscitato un dibattito sulla regolamentazione dell’IA. Nel gennaio 2023, la Cyberspace Administration of China ha emanato nuove normative per frenare l’uso della tecnologia AI. L’autorità italiana per la protezione dei dati personali, il Garante, ha imposto un divieto temporaneo a ChatGPT, un chatbot che utilizza l’intelligenza artificiale per generare testi che sembrano creati da esseri umani e giochi per computer.
Il cane da guardia era meno preoccupato per il uso dell’intelligenza artificiale che da violazioni della legislazione sulla protezione dei dati. Garante ha quindi dichiarato alla società sostenuta da Microsoft Corp dietro ChatGPT, OpenAI, che avrebbe dovuto essere più trasparente con i suoi utenti su come i loro dati venivano elaborati. Ha anche affermato che la società statunitense doveva ottenere il permesso dagli utenti per determinati utenti. Se i dati dell’utente dovessero essere utilizzati per sviluppare ulteriormente il software, sarà necessaria l’autorizzazione degli utenti. Inoltre, afferma che OpenAi deve filtrare l’accesso a questa funzione per i minori.
Parole finali
Il caso della frode video ChatGPT rivela la necessità di regolamentazione e controllo della tecnologia AI in Cina. Sebbene ChatGPT possa essere uno strumento utile per creare chat basate su richieste e domande degli utenti, può anche essere utilizzato per creare notizie e video falsi. Il governo cinese ha lavorato per regolamentare e controllare l’uso della tecnologia AI, incluso ChatGPT, man mano che la tecnologia diventa più avanzata. La repressione della banda che ha utilizzato ChatGPT per creare video falsi è un passo nella giusta direzione per garantire che la tecnologia AI sia utilizzata in modo responsabile ed etico.
C’è sempre il pericolo di deep fake creati dall’IA, quindi, è necessario regolamentare l’uso della tecnologia AI. Poiché la popolarità di ChatGPT continua a crescere, è probabile che assisteremo a più casi di frode e uso improprio. Questi falsi profondi possono facilmente trasmettere un audio, un video o un’immagine reali. Pertanto, è molto importante che gli utenti siano vigili e segnalino qualsiasi attività sospetta alle autorità competenti.
Fonte/VIA:
