Kebangkitan teknologi juga membuka jalan bagi penyebaran Materi Pelecehan Seksual Anak (CSAM) secara online. Australia adalah salah satu negara yang mencoba menerapkan undang-undang yang lebih ketat untuk menangani masalah seperti itu, dan sekarang menuntut raksasa teknologi seperti Microsoft untuk mengungkapkan strategi mereka dalam mendeteksi dan menghapus CSAM. Selain Microsoft, Reuters melaporkan bahwa raksasa teknologi besar Meta dan Apple juga menerima surat permintaan dari regulator Australia.
Permintaan tersebut menempatkan Microsoft dan lainnya dalam situasi serius karena Australia sekarang menerapkan undang-undang baru yang memperkuat tindakannya terhadap masalah online dan mengatur perusahaan teknologi. Menurut Komisaris Keamanan Elektronik, Microsoft dan pihak lain yang menerima surat tersebut memiliki waktu 28 hari untuk mengungkapkan tindakan mereka dalam menangani CSAM di platform mereka yang berbeda. Kegagalan untuk mematuhi dalam periode tersebut berarti perusahaan akan didenda A$555.000 atau $383.000 per hari.
“Aktivitas ini tidak lagi terbatas pada sudut-sudut tersembunyi dari web gelap tetapi lazim di platform arus utama kami dan digunakan anak-anak kami setiap hari,” kata komisaris Julie Inman Grant kepada Reuters dalam sebuah pernyataan. “Seiring semakin banyak perusahaan yang beralih ke layanan pesan terenkripsi dan menerapkan fitur seperti streaming langsung, dikhawatirkan materi mengerikan ini akan menyebar tanpa terkendali di platform ini.”
Meskipun tidak ada kejelasan tentang bentuk atau tingkat detail yang harus diungkapkan, juru bicara Microsoft sudah mengatakan bahwa pihaknya berencana untuk menanggapi dalam waktu 28 hari. Meskipun masih belum ada tanggapan dari Apple, juru bicara Meta mengatakan perusahaan terus”secara proaktif terlibat dengan Komisaris eSafety mengenai masalah penting ini.”
Tidak diungkapkan apa yang akan dilakukan regulator Australia dengan detail yang akan diungkapkan. Tetapi jika menuntut tindakan CSAM yang lebih ketat di masa depan, itu bisa berarti tantangan yang lebih besar bagi perusahaan teknologi besar yang sudah berjuang untuk menghasilkan sistem anti-CSAM yang efektif sambil mencegah pelanggaran privasi pengguna. Ini juga bisa berarti permintaan yang lebih besar untuk merancang sistem yang dapat secara tepat mengidentifikasi CSAM online. Baru tahun lalu, pengguna akun Android dan Google ditandai sebagai penjahat oleh AI Google setelah salah memberi label gambar foto telanjang terkait medis anaknya sebagai CSAM. Meskipun nama pria itu dibersihkan setelah penyelidikan, efisiensi sistem CSAM dipertanyakan.
