Polis di China telah menumpaskan dua kumpulan berbeza yang menggunakan ChatGPT untuk mencipta video palsu . Salah satu letupan berlaku pada bulan Mei manakala satu lagi pada bulan Jun. ChatGPT ialah bot sembang AI yang dibangunkan oleh OpenAI yang disokong Microsoft yang membolehkan pengguna menjana respons berdasarkan gesaan dan soalan pengguna. Menurut AP News, ChatGPT telah digunakan untuk mencipta palsu yang mendalam, yang merupakan imej digital rekaan, video atau media lain yang kelihatan nyata. Tambahan pula, Business Insider mendedahkan bahawa palsu dalam yang dibuat menggunakan ChatGPT adalah kebimbangan khusus kerana ia menjadi semakin canggih dan sukar untuk dikesan. Polis di China menumpaskan dua kumpulan yang terlibat dalam penggunaan ChatGPT untuk mencipta video palsu.
ChatGPT adalah haram di China
Pengawal selia China dilaporkan telah mengapit turun pada akses kepada ChatGPT. Walau bagaimanapun, firma dan sekolah teknologi China terus maju dengan membangunkan bot AI domestik. ChatGPT tidak tersedia secara rasmi di China, di mana kerajaan mengendalikan tembok api terperinci dan penapisan internet yang ketat. Tetapi ramai yang telah mengaksesnya melalui VPN. Selain itu, beberapa pembangun pihak ketiga telah menghasilkan program yang memberikan sedikit akses kepada perkhidmatan tersebut. Carian untuk ChatGPT pada platform Cina tidak lagi mengembalikan hasil. Walau bagaimanapun, program penyelesaian telah dilumpuhkan atau digantikan dengan notis yang mengatakan ia telah digantung kerana”melanggar undang-undang dan peraturan yang berkaitan”. Pengharaman ChatGPT di China bukanlah sesuatu yang mengejutkan kerana negara Asia itu agak ketat dengan undang-undangnya. Kerajaan China telah bertindak keras terhadap propaganda politik dan maklumat salah. Menurut laporan, ia melihat keupayaan ChatGPT untuk menjana teks sebagai ancaman kepada kawalannya ke atas aliran maklumat.
China mempunyai salah satu sistem penapisan internet yang paling komprehensif dan canggih di dunia. Kerajaan China menyekat kandungan laman web dan memantau akses internet, dan platform internet utama di China telah mewujudkan mekanisme penapisan sendiri yang terperinci serta melaksanakan sistem nama sebenar. Kerajaan mempertahankan haknya untuk menapis internet dengan mendakwa bahawa hak ini merangkumi peraturan negara sendiri di dalam sempadannya[1]. Great Firewall kerajaan ialah alat penapisan internet yang paling canggih di dunia, dan kandungan yang disasarkan untuk menyekat termasuk tapak web berita utama, platform media sosial dan apl pemesejan[2].
Polis pecahkan kumpulan pertama pada bulan Mei
Laporan polis dari wilayah Gansu barat laut China menyebut seorang suspek yang merupakan sebahagian daripada kumpulan samseng. Hanya dikenali dengan nama keluarganya, Hong, dia menggunakan ChatGPT untuk mencipta artikel berita palsu tentang nahas yang kononnya menyebabkan kematian sembilan pekerja binaan di Gansu. Kisah ini menjadi viral malah sumber berita yang sah terpedaya dengan cerita palsu tersebut. Pada masa polis menyedari bahawa ia adalah palsu, ia sudah mempunyai 15,000 tontonan. Kenyataan polis menyatakan,
“Hong menggunakan teknologi moden untuk mengada-adakan maklumat palsu, menyebarkannya di internet, yang disebarkan secara meluas.”
Kembali dalam May, polis Shaoxing mendapati bahawa kumpulan yang sama telah membeli sekumpulan akaun video secara haram dan menggunakannya untuk buat video palsu menggunakan ChatGPT. Polis menahan seorang lelaki yang menggunakan ChatGPT untuk mencipta berita palsu tentang nahas kereta api. Ini adalah salah satu tindakan penguatkuasaan pertama di bawah undang-undang China yang digubal baru-baru ini yang mengawal selia”palsu mendalam”yang dijana AI. Menurut polis, kerja-kerja kumpulan itu kelihatan realistik tetapi rekaan imej digital, video atau media lain.
Gizchina News of the week
Unit polis keselamatan siber tempatan telah dimaklumkan mengenai artikel mengenai nahas kereta api itu — diterbitkan pada 25 April. Ia kemudian melancarkan siasatan ke atas perkara itu. Hong kemudian mengaku dia menggunakan ChatGPT untuk mencipta berita palsu tentang nahas kereta api sebelum menyiarkannya dalam talian. Penangkapan Hong adalah penahanan pertama sejak peraturan baharu China mengenai teknologi palsu mendalam berkuat kuasa pada Januari. Undang-undang itu bertujuan untuk mencegah penyalahgunaan teknologi yang boleh mengubah data muka dan suara. Dan sementara ChatGPT diharamkan di China, terdapat penyelesaian seperti rangkaian persendirian maya.
Polis China pecahkan geng lain pada Jun
Letupan besar kedua berlaku pada Jun 2023. Pada 2 Jun , polis Shangyu mendapati semasa siasatan dalam talian bahawa pengguna aplikasi bernama”Shangyi Explanation”mengeluarkan video tentang kebakaran di Taman Perindustrian Shangyu. Bilangan tontonan pada video itu meningkat dengan cepat dalam tempoh yang singkat. Polis menyemak semula video itu dan mendapati ia adalah berita palsu. Polis Shangyu juga melihat kumpulan teknologi di wilayah lain dikaitkan dengan jenayah itu. Pada 5 Jun, polis bergegas ke wilayah lain dan menahan tiga suspek.
Selepas siasatan, kumpulan geng pr itu telah secara haram memperoleh beberapa akaun video daripada Internet sejak Mei. Ia menggabungkan video dan menghasilkan video palsu melalui teknologi ChatGPT untuk menerbitkan rangkaian untuk mendapatkan trafik. Trafik membawa kepada keuntungan untuk kumpulan itu. Setakat ini, kumpulan itu telah membeli lebih daripada 1,500 akaun video secara haram dan mengeluarkan lebih daripada 3,000 video palsu. Suspek yang ditahan sejak itu telah mengaku melakukan jenayah itu tetapi polis masih menyiasat lebih lanjut untuk mendapatkan lebih banyak suspek.
Geng-geng ini tidak mempunyai sebarang hubungan dengan OpenAI atau ChatGPT. Mereka hanya menggunakan alat itu untuk mencipta palsu yang mendalam dan menjana trafik untuk keuntungan kewangan. Selain itu, menurut polis Shangyu, geng June Burst tidak mempunyai sebarang kaitan dengan geng May Burst. Oleh itu, polis perlu berbuat lebih banyak untuk mengelakkan lebih banyak kumpulan ini muncul.
Kata Akhir
Kes penipuan video ChatGPT mendedahkan keperluan untuk pengawalan dan kawalan teknologi AI dalam China. Walaupun ChatGPT boleh menjadi alat yang berguna untuk membuat sembang berdasarkan gesaan dan soalan pengguna, ia juga boleh digunakan untuk mencipta berita dan video palsu. Kerajaan China telah berusaha untuk mengawal selia dan mengawal penggunaan teknologi AI, termasuk ChatGPT, apabila teknologi itu semakin maju. Tindakan keras terhadap kumpulan yang menggunakan ChatGPT untuk mencipta video palsu adalah satu langkah ke arah yang betul ke arah memastikan teknologi AI digunakan secara bertanggungjawab dan beretika.
Selalu ada bahaya pemalsuan dalam ciptaan AI oleh itu, terdapat keperluan untuk mengawal selia penggunaan teknologi AI. Memandangkan populariti ChatGPT terus berkembang, kemungkinan besar kita akan melihat lebih banyak kes penipuan dan penyalahgunaan. Pemalsuan mendalam ini boleh menghantar audio, video atau imej sebenar dengan mudah. Oleh itu, adalah sangat penting bagi pengguna untuk berwaspada dan melaporkan sebarang aktiviti yang mencurigakan kepada pihak berkuasa yang berkenaan.
Sumber/VIA:
