Het is geen geheim dat ChatGPT sinds de lancering de aandacht heeft getrokken van zowel tech-enthousiastelingen als marktleiders met zijn indrukwekkende vaardigheden voor het schrijven van code en conversatie. Hoewel deze nieuwe AI-revolutie opwindende mogelijkheden biedt voor de toekomst, heeft Europol, de wetshandhavingsinstantie van de Europese Unie, bezorgdheid geuit over het mogelijke misbruik van de AI-chatbot ChatGPT bij cybercriminaliteit, desinformatie en phishing.
“Aangezien de mogelijkheden van LLM’s (grote taalmodellen) zoals ChatGPT actief worden verbeterd, biedt de potentiële uitbuiting van dit soort AI-systemen door criminelen een grimmig vooruitzicht”, zegt Europol.
Het gebruik van ChatGPT bij phishing en cybercriminaliteit
Volgens het bureau kunnen cybercriminelen de mogelijkheid van ChatGPT gebruiken om zeer realistische tekst te produceren om de spraakstijl van specifieke individuen of groepen na te bootsen en zich te richten op nietsvermoedende slachtoffers. In feite gebruiken oplichters al AI zoals ChatGPT om met malware geïnfecteerde YouTube-video’s te maken, waarbij ze schermopnamen of audio-walkthroughs gebruiken met een door AI gegenereerde avatar om te beschrijven hoe gekraakte software moet worden gedownload en geïnstalleerd.
Bovendien maakt het vermogen van ChatGPT om authentiek klinkende tekst op schaal uit te zetten, het ook ideaal voor propaganda en desinformatie. Omdat criminelen met relatief weinig moeite berichten kunnen genereren en verspreiden die een specifiek verhaal weerspiegelen, mensen kunnen misleiden en de publieke opinie kunnen manipuleren. Bovendien benadrukt Europol ook het potentiële gebruik van de chatbot om kwaadaardige code te genereren, aangezien iedereen de taalgeneratie-en automatiseringsmogelijkheden van ChatGPT kan gebruiken om kwaadaardige code te genereren en deze te gebruiken bij cyberaanvallen.
Hoewel de voordelen van AI-technologie zijn duidelijk is, is het essentieel om de potentiële risico’s die gepaard gaan met misbruik ervan aan te pakken. Het rapport van Europol onderstreept de noodzaak van een robuust regelgevingskader dat innovatie en veiligheid in balans houdt, ervoor zorgt dat de technologie die we creëren de samenleving ten goede komt en kwaadwillig gebruik ervan voorkomt. Verder zullen bedrijven als Microsoft en OpenAI voorzorgsmaatregelen moeten nemen om kwaadwillig gebruik te voorkomen.
