De politie in China heeft hard opgetreden tegen een bende die ChatGPT gebruikte om nepvideo’s te maken. ChatGPT is een AI-chatbot ontwikkeld door Microsoft-ondersteunde OpenAI waarmee gebruikers reacties kunnen genereren op basis van gebruikersprompts en vragen. De bende had sinds mei 2023 illegaal een partij video-accounts gekocht om ChatGPT te gebruiken om nepvideo’s te maken.
China’s verbod op ChatGPT
Chinese toezichthouders hebben naar verluidt toegang tot ChatGPT beperkt. Chinese technologiebedrijven en scholen gaan echter door met het ontwikkelen van binnenlandse AI-bots. ChatGPT is officieel niet beschikbaar in China, waar de overheid een gedetailleerde firewall en strikte internetcensuur hanteert. Maar velen hadden er toegang toe via VPN’s. Ook hadden sommige externe ontwikkelaars programma’s gemaakt die enige toegang tot de service gaven. Zoekopdrachten naar ChatGPT op Chinese platforms leveren geen resultaten meer op. Tijdelijke programma’s waren echter uitgeschakeld of vervangen door een melding dat ze waren opgeschort wegens”schending van relevante wet-en regelgeving”.
Het verbod op ChatGPT in China is geen verrassing, aangezien de Aziatische natie vrij strikt is met haar wetten. De Chinese regering treedt hard op tegen politieke propaganda en verkeerde informatie. Volgens rapporten beschouwt het het vermogen van ChatGPT om tekst te genereren als een bedreiging voor zijn controle over de informatiestroom.
De zaak van de ChatGPT-videofraude
Na een onderzoek heeft de politie van Shaoxing ontdekte dat de bende sinds mei 2023 illegaal een reeks video-accounts had gekocht om ChatGPT om nepvideo’s te maken. De politie heeft geen details gegeven over de inhoud van de nepvideo’s of hoe ze werden gebruikt. Dit is echter niet de eerste keer dat ChatGPT wordt gebruikt om nepnieuws te creëren in China. In mei 2023 arresteerde de Chinese politie een man die ChatGPT gebruikte om nepnieuws te creëren over een treinongeluk. Dit is een van de eerste handhavingsmaatregelen onder een onlangs aangenomen Chinese wet die door AI gegenereerde”deep fakes”reguleert-ogenschijnlijk realistische maar gefabriceerde digitale afbeeldingen, video’s of andere media.
Volgens een politierapport uit het noordwesten De Chinese provincie Gansu, een man die alleen met zijn achternaam Hong wordt geïdentificeerd, gebruikte ChatGPT om een nepnieuwsartikel te maken over een crash die zogenaamd heeft geleid tot de dood van negen bouwvakkers in Gansu. Dit verhaal ging viraal en zelfs legitieme nieuwsbronnen werden misleid door het nepverhaal.
De lokale cyberbeveiligingspolitie-eenheid werd op de hoogte gebracht van het artikel over het treinongeluk, gepubliceerd op 25 april. Vervolgens startte het een onderzoek naar de materie. Hong gaf toen toe dat hij ChatGPT had gebruikt om nepnieuws over de treinongelukken te creëren voordat hij ze online plaatste. De arrestatie van Hong is de eerste aanhouding sinds de nieuwe regelgeving van China over deepfake-technologie in januari van kracht werd. De wet is bedoeld om misbruik van technologie die gezichts-en stemgegevens kan veranderen, te voorkomen. En hoewel ChatGPT verboden is in China, zijn er oplossingen zoals virtuele privénetwerken.
Gizchina Nieuws van de week
Chinese politie ontmantelt geruchtenbende
Ook vond de politie van Shangyu op 2 juni tijdens een online onderzoek dat een app-gebruiker genaamd”Shangyi Explanation ” heeft een video vrijgegeven over een brand in het Shangyu Industrial Park. Het aantal views op de video steeg in korte tijd snel. De politie controleerde de video dubbel en ontdekte dat het nepnieuws was. De politie van Shangyu zag ook een technologiegroep in een andere provincie die verband houdt met de misdaad. Op 5 juni snelde de politie naar andere provincies en arresteerde drie verdachten.
Na onderzoek heeft de bende pr-groep sinds mei illegaal een aantal video-accounts van internet verkregen. Het splitste de video’s en produceerde nepvideo’s via ChatGPT-technologie om het netwerk te publiceren om verkeer te genereren. Het verkeer leidde tot winst voor de groep. Tot nu toe heeft de bende illegaal meer dan 1.500 video-accounts gekocht en meer dan 3.000 nepvideo’s vrijgegeven. De gearresteerde verdachte heeft de misdaad inmiddels bekend, maar de politie doet nog verder onderzoek naar meer verdachten.
Debat over AI-regelgeving
Het verbod op ChatGPT in China en zorgen over authenticiteit hebben geleid tot een debat over AI-regulering. In januari 2023 heeft de Cyberspace Administration van China nieuwe regels uitgevaardigd om het gebruik van AI-technologie aan banden te leggen. De Italiaanse gegevensbeschermingsautoriteit Garante heeft een tijdelijk verbod opgelegd aan ChatGPT, een chatbot die AI gebruikt om teksten te genereren die lijken alsof ze door mensen en computerspellen zijn gemaakt.
De waakhond maakte zich minder zorgen over de gebruik van AI dan door inbreuken op de wetgeving inzake gegevensbescherming. Garante vertelde vervolgens aan het door Microsoft Corp gesteunde bedrijf achter ChatGPT, OpenAI, dat het tegenover zijn gebruikers transparanter zou moeten zijn over hoe hun gegevens werden verwerkt. Het zei ook dat het Amerikaanse bedrijf voor bepaalde gebruikers toestemming van gebruikers moest krijgen. Als gebruikersgegevens zouden worden gebruikt om de software verder te ontwikkelen, dan is daarvoor toestemming van de gebruikers nodig. Er staat ook dat OpenAi de toegang tot deze functie voor minderjarigen moet filteren.
Laatste woorden
Het geval van ChatGPT-videofraude onthult de noodzaak van regulering en controle van AI-technologie in China. Hoewel ChatGPT een handig hulpmiddel kan zijn om chats te maken op basis van gebruikersprompts en vragen, kan het ook worden gebruikt om nepnieuws en video’s te maken. De Chinese overheid heeft gewerkt aan het reguleren en controleren van het gebruik van AI-technologie, inclusief ChatGPT, naarmate de technologie geavanceerder wordt. Het hardhandig optreden tegen de bende die ChatGPT gebruikte om nepvideo’s te maken, is een stap in de goede richting om ervoor te zorgen dat AI-technologie op verantwoorde en ethische wijze wordt gebruikt.
Er is dus altijd een gevaar van door AI gecreëerde deep fakes, dus het gebruik van AI-technologie moet worden gereguleerd. Naarmate de populariteit van ChatGPT blijft groeien, zullen we waarschijnlijk meer gevallen van fraude en misbruik zien. Deze deep fakes kunnen gemakkelijk een echte audio, video of afbeelding doorgeven. Het is dus erg belangrijk voor gebruikers om waakzaam te zijn en verdachte activiteiten te melden aan de bevoegde autoriteiten.
Bron/VIA:
