Bukan satu rahsia lagi bahawa kritikan yang mengelilingi algoritma Instagram baru-baru ini mendorong syarikat itu untuk menjelaskan sedikit tentang cara ia berfungsi. Walau bagaimanapun, nampaknya algoritma Instagram sekali lagi dalam penelitian seperti menurut penyelidik dari Universiti Stanford dan Universiti Massachusetts Amherst, algoritma ini bukan sahaja dikaitkan dengan”rangkaian pedofil yang luas”, tetapi ia juga mempromosikannya dengan membenarkan pengguna mencari hashteg Instagram yang jelas berkaitan dengan CSAM.
Para penyelidik juga mendapati bahawa hashtags ini membawa pengguna ke akaun yang menjual bahan pedofilik, yang termasuk video yang menggambarkan kanak-kanak mencederakan diri mereka sendiri atau terlibat dalam tindakan kebinatangan. Apa yang mengejutkan, sesetengah akaun malah memberikan pilihan kepada pembeli untuk”melakukan tindakan khusus”atau mengatur pertemuan secara bersemuka.
“Instagram ialah laluan ke tempat-tempat di internet yang terdapat penderaan seksual kanak-kanak yang lebih eksplisit. Platform paling penting untuk rangkaian pembeli dan penjual ini nampaknya adalah Instagram,” kata Brian Levine, pengarah UMass Rescue Lab.
Respons Instagram
Sebagai tindak balas kepada laporan yang mengganggu ini, Meta, syarikat induk Instagram, telah menyediakan pasukan petugas dalaman dan melancarkan siasatan aktif. Selain itu, syarikat itu juga sedang berusaha untuk menyekat rangkaian yang terlibat dalam bahan penderaan seksual kanak-kanak (CSAM) dan melaksanakan perubahan sistem. Walau bagaimanapun, hakikat bahawa Instagram sering mengabaikan percubaan yang dibuat oleh pengguna untuk melaporkan akaun CSAM ini dan malah melihat akaun yang dikaitkan dengan penjual bawah umur mencetuskan algoritma untuk mengesyorkan akaun baharu menimbulkan beberapa kebimbangan serius.
“Eksploitasi kanak-kanak adalah jenayah ngeri. Kami secara berterusan meneroka cara untuk memerangi tingkah laku ini secara aktif,” kata Meta.
Walaupun Meta mendakwa bahawa mereka secara aktif mencari dan mengalih keluar pengguna yang terlibat dalam eksploitasi kanak-kanak, memetik alih keluar 490,000 akaun yang melanggar dasar keselamatan kanak-kanak pada bulan Januari sahaja , laporan ini datang pada masa platform media sosial, termasuk Instagram Meta, menghadapi peningkatan penelitian mengenai usaha mereka untuk mengawal selia dan mencegah penyebaran kandungan yang kesat. Selain itu, rancangan Meta baru-baru ini untuk mengembangkan penyulitan hujung ke hujung telah menyebabkan agensi penguatkuasaan undang-undang seperti FBI dan Interpol bimbang, kerana ia boleh menghalang pengesanan kandungan berbahaya yang berkaitan dengan penderaan seks kanak-kanak.
