Polisi di China telah menindak dua geng berbeda yang menggunakan ChatGPT untuk membuat video palsu . Salah satu semburan terjadi pada bulan Mei sementara yang lainnya pada bulan Juni. ChatGPT adalah chatbot AI yang dikembangkan oleh OpenAI yang didukung Microsoft yang memungkinkan pengguna menghasilkan tanggapan berdasarkan permintaan dan pertanyaan pengguna. Geng tersebut secara ilegal membeli sejumlah akun video sejak Mei 2023 untuk menggunakan ChatGPT guna membuat video palsu.
Larangan ChatGPT di China
Regulator China dilaporkan telah membatasi akses ke ChatGPT. Namun, perusahaan dan sekolah teknologi China terus maju dengan mengembangkan bot AI domestik. ChatGPT tidak tersedia secara resmi di Cina, di mana pemerintah mengoperasikan firewall terperinci dan sensor internet yang ketat. Tetapi banyak yang mengaksesnya melalui VPN. Selain itu, beberapa pengembang pihak ketiga telah membuat program yang memberikan beberapa akses ke layanan tersebut. Pencarian untuk ChatGPT di platform China tidak lagi memberikan hasil. Namun, program solusi telah dinonaktifkan atau diganti dengan pemberitahuan yang menyatakan bahwa program tersebut telah ditangguhkan karena “melanggar hukum dan peraturan yang relevan”.
Larangan ChatGPT di China bukanlah kejutan karena negara Asia cukup ketat dengan hukumnya. Pemerintah China telah menindak propaganda politik dan informasi yang salah. Menurut laporan, kemampuan ChatGPT untuk menghasilkan teks dianggap sebagai ancaman terhadap kontrolnya atas aliran informasi.
Meledak Mei 2023: Kasus penipuan video ChatGPT
Seorang polisi laporan dari provinsi Gansu di Cina barat laut menyebutkan seorang tersangka yang merupakan bagian dari geng. Diidentifikasi hanya dengan nama belakangnya, Hong, dia menggunakan ChatGPT untuk membuat artikel berita palsu tentang kecelakaan yang diduga menyebabkan kematian sembilan pekerja konstruksi di Gansu. Cerita ini menjadi viral dan bahkan sumber berita resmi tertipu oleh cerita palsu tersebut.
Kembali pada bulan Mei, polisi Shaoxing menemukan bahwa geng yang sama telah membeli sejumlah akun video secara ilegal dan menggunakannya untuk buat video palsu menggunakan ChatGPT. Polisi menangkap seorang pria yang menggunakan ChatGPT untuk membuat berita palsu tentang kecelakaan kereta api. Ini adalah salah satu tindakan penegakan hukum pertama di bawah undang-undang China yang baru-baru ini diberlakukan yang mengatur”deep fakes”yang dihasilkan oleh AI. Menurut polisi, karya geng tersebut tampak realistis tetapi mengarang gambar digital, video, atau media lain.
Unit polisi keamanan siber setempat diberitahu tentang artikel tentang kecelakaan kereta api — yang diterbitkan pada 25 April. Itu kemudian meluncurkan penyelidikan ke dalam masalah ini. Hong kemudian mengakui dia menggunakan ChatGPT untuk membuat berita palsu tentang kecelakaan kereta sebelum mempostingnya secara online. Penangkapan Hong adalah penahanan pertama sejak peraturan baru China tentang teknologi pemalsuan dalam mulai berlaku pada Januari. Undang-undang tersebut bertujuan untuk mencegah penyalahgunaan teknologi yang dapat mengubah data wajah dan suara. Dan meskipun ChatGPT dilarang di China, ada solusi seperti jaringan pribadi virtual.
Gizchina News of the week
June Burst: Polisi China membongkar geng rumor
Ledakan besar kedua terjadi pada Juni 2023. Pada 2 Juni, polisi Shangyu menemukan selama penyelidikan online bahwa pengguna aplikasi bernama”Shangyi Explanation”merilis video tentang kebakaran di Taman Industri Shangyu. Jumlah penayangan video meningkat pesat dalam waktu singkat. Polisi memeriksa ulang video tersebut dan menemukan bahwa itu adalah berita palsu. Polisi Shangyu juga menemukan kelompok teknologi di provinsi lain yang terkait dengan kejahatan tersebut. Pada tanggal 5 Juni, polisi bergegas ke provinsi lain dan menangkap tiga tersangka.
Setelah penyelidikan, grup geng pr secara ilegal memperoleh sejumlah akun video dari Internet sejak Mei. Itu menyambung video dan menghasilkan video palsu melalui teknologi ChatGPT untuk mempublikasikan jaringan untuk mendapatkan lalu lintas. Lalu lintas menghasilkan keuntungan bagi grup. Sejauh ini, geng tersebut telah membeli lebih dari 1.500 akun video secara ilegal dan merilis lebih dari 3.000 video palsu. Tersangka yang ditangkap telah mengakui kejahatannya tetapi polisi masih menyelidiki lebih lanjut untuk tersangka lainnya.
Debat Tentang Regulasi AI
Larangan ChatGPT di China dan kekhawatiran akan keasliannya telah memicu perdebatan tentang regulasi AI. Pada Januari 2023, Cyberspace Administration of China memberlakukan peraturan baru untuk mengendalikan penggunaan teknologi AI. Otoritas perlindungan data Italia, Garante, memberlakukan larangan sementara pada ChatGPT, sebuah chatbot yang menggunakan AI untuk menghasilkan teks yang seolah-olah dibuat oleh manusia dan game komputer.
Pengawas kurang peduli dengan penggunaan AI daripada pelanggaran undang-undang perlindungan data. Garante kemudian memberi tahu perusahaan yang didukung Microsoft Corp di belakang ChatGPT, OpenAI, bahwa penggunanya harus lebih transparan tentang bagaimana data mereka diproses. Dikatakan juga bahwa perusahaan AS harus mendapatkan izin dari pengguna untuk pengguna tertentu. Jika data pengguna akan digunakan untuk mengembangkan perangkat lunak lebih lanjut, maka diperlukan izin pengguna. Selain itu, dikatakan bahwa OpenAi harus memfilter akses ke fitur ini untuk anak di bawah umur.
Final Words
Kasus penipuan video ChatGPT mengungkapkan perlunya regulasi dan kontrol teknologi AI di China. Sementara ChatGPT dapat menjadi alat yang berguna untuk membuat obrolan berdasarkan permintaan dan pertanyaan pengguna, itu juga dapat digunakan untuk membuat berita dan video palsu. Pemerintah Cina telah bekerja untuk mengatur dan mengontrol penggunaan teknologi AI, termasuk ChatGPT, karena teknologinya semakin maju. Tindakan keras terhadap geng yang menggunakan ChatGPT untuk membuat video palsu adalah langkah ke arah yang benar untuk memastikan bahwa teknologi AI digunakan secara bertanggung jawab dan etis.
Selalu ada bahaya pemalsuan mendalam buatan AI, oleh karena itu, ada kebutuhan untuk mengatur penggunaan teknologi AI. Karena popularitas ChatGPT terus meningkat, kemungkinan besar kita akan melihat lebih banyak kasus penipuan dan penyalahgunaan. Pemalsuan yang dalam ini dapat dengan mudah mengirimkan audio, video, atau gambar asli. Oleh karena itu, sangat penting bagi pengguna untuk waspada dan melaporkan setiap aktivitas mencurigakan kepada pihak yang berwenang.
Sumber/VIA:
