Bukan rahsia bahawa sejak dilancarkan, ChatGPT telah menarik perhatian peminat teknologi dan pemimpin industri dengan kebolehan menulis kod dan perbualan yang mengagumkan. Walau bagaimanapun, sementara revolusi AI baharu ini akan menawarkan kemungkinan menarik untuk masa depan, Europol, agensi penguatkuasaan undang-undang Kesatuan Eropah, mempunyai menimbulkan kebimbangan tentang kemungkinan penyalahgunaan chatbot AI ChatGPT dalam jenayah siber, maklumat salah dan pancingan data.
“Memandangkan keupayaan LLM (model bahasa besar) seperti ChatGPT sedang giat dipertingkatkan, potensi eksploitasi jenis sistem AI ini oleh penjenayah memberikan pandangan yang suram,”kata Europol.
Penggunaan ChatGPT dalam pancingan data dan jenayah siber
Menurut agensi itu, penjenayah siber boleh menggunakan keupayaan ChatGPT untuk menghasilkan teks yang sangat realistik untuk meniru gaya pertuturan individu atau kumpulan tertentu dan menyasarkan mangsa yang tidak curiga. Malah, penipu sudah menggunakan AI seperti ChatGPT untuk membuat video YouTube yang dijangkiti perisian hasad, menggunakan rakaman skrin atau panduan audio dengan avatar yang dijana AI untuk menerangkan cara memuat turun dan memasang perisian yang retak.
Selain itu, keupayaan ChatGPT untuk menghasilkan teks yang berbunyi tulen pada skala juga menjadikannya sesuai untuk propaganda dan disinformasi. Oleh kerana penjenayah boleh menjana dan menyebarkan mesej yang mencerminkan naratif tertentu, mengelirukan orang ramai dan memanipulasi pendapat umum dengan sedikit usaha. Selain itu, Europol juga menyerlahkan potensi penggunaan chatbot untuk menjana kod hasad, kerana sesiapa sahaja boleh menggunakan penjanaan bahasa ChatGPT dan keupayaan automasi untuk menjana kod hasad dan menggunakannya dalam serangan siber.
Sedangkan faedah teknologi AI adalah jelas, adalah penting untuk menangani potensi risiko yang berkaitan dengan penyalahgunaannya. Laporan Europol menggariskan keperluan untuk rangka kerja kawal selia yang teguh yang mengimbangi inovasi dan keselamatan, memastikan teknologi yang kami cipta memberi manfaat kepada masyarakat sambil menghalang penggunaannya yang berniat jahat. Selanjutnya, syarikat seperti Microsoft dan OpenAI perlu meletakkan perlindungan untuk mengelakkan penggunaan berniat jahat.
