Sự phát triển của công nghệ cũng mở đường cho việc phát tán Tài liệu lạm dụng tình dục trẻ em (CSAM) trên mạng. Úc là một trong những quốc gia đang cố gắng thực hiện các luật cứng rắn hơn để xử lý các vấn đề như vậy và hiện họ đang yêu cầu những gã khổng lồ công nghệ như Microsoft tiết lộ chiến lược của họ trong việc phát hiện và loại bỏ các CSAM. Ngoài Microsoft, Reuters đưa tin rằng hai gã khổng lồ công nghệ lớn là Meta và Apple cũng đã nhận được thư yêu cầu từ một cơ quan quản lý của Úc.
Yêu cầu này khiến Microsoft và các hãng khác rơi vào tình thế nghiêm trọng vì Úc hiện đang thực hiện các luật mới. tăng cường các hành động chống lại các vấn đề trực tuyến và quản lý các công ty công nghệ. Theo Ủy viên An toàn điện tử, Microsoft và những người khác nhận được thư có 28 ngày để tiết lộ các biện pháp của họ trong việc giải quyết CSAM trên các nền tảng khác nhau của họ. Nếu không tuân thủ trong thời hạn đã nêu, các công ty sẽ bị phạt 555.000 đô la Úc hoặc 383.000 đô la Úc mỗi ngày.
“Hoạt động này không còn giới hạn trong các góc khuất của web đen mà đã phổ biến trên các nền tảng chính mà chúng tôi và con chúng tôi sử dụng hàng ngày, ”ủy viên Julie Inman Grant nói với Reuters trong một tuyên bố. “Khi ngày càng có nhiều công ty hướng tới các dịch vụ nhắn tin được mã hóa và triển khai các tính năng như phát trực tiếp, thì điều đáng sợ là tài liệu khủng khiếp này sẽ lan truyền không được kiểm soát trên các nền tảng này.”
Mặc dù không có sự rõ ràng về hình thức hoặc mức độ chi tiết. Người phát ngôn của Microsoft đã nói rằng họ đang lên kế hoạch trả lời trong vòng 28 ngày. Mặc dù vẫn không có phản hồi từ Apple, người phát ngôn của Meta cho biết công ty tiếp tục “chủ động tham gia với Ủy viên An toàn điện tử về những vấn đề quan trọng này.”
Nó không được tiết lộ những gì cơ quan quản lý Úc dự định làm với các chi tiết sẽ Được tiết lộ. Nhưng nếu nó yêu cầu các biện pháp CSAM chặt chẽ hơn trong tương lai, nó có thể đồng nghĩa với một thách thức lớn hơn đối với các công ty công nghệ lớn vốn đang phải vật lộn để sản xuất các hệ thống chống CSAM hiệu quả trong khi ngăn chặn vi phạm quyền riêng tư của người dùng. Nó cũng có thể có nghĩa là nhu cầu lớn hơn để thiết kế các hệ thống có thể xác định chính xác các CSAM trực tuyến. Mới năm ngoái, một người dùng Android và tài khoản Google đã bị AI của Google gắn cờ là tội phạm sau khi gắn nhãn sai hình ảnh trong các bức ảnh khỏa thân liên quan đến y tế của con mình là CSAM. Mặc dù tên của người đàn ông này đã bị xóa sau một cuộc điều tra, nhưng điều đó khiến hiệu quả của hệ thống CSAM bị nghi ngờ.