Rozwój technologii utorowało również drogę do rozpowszechniania materiałów dotyczących wykorzystywania seksualnego dzieci (CSAM) w Internecie. Australia jest jednym z krajów, które próbują wdrożyć surowsze przepisy, aby poradzić sobie z takimi problemami, a teraz wymaga od gigantów technologicznych, takich jak Microsoft, ujawnienia swoich strategii wykrywania i usuwania CSAM. Oprócz firmy Microsoft Reuters poinformował, że wielcy giganci technologiczni Meta i Apple również otrzymali list z żądaniem od australijskiego regulatora.
Zapotrzebowanie stawia Microsoft i inne podmioty w poważnej sytuacji, ponieważ Australia wdraża teraz nowe przepisy, które wzmocnić swoje działania przeciwko problemom internetowym i regulującym firmy technologiczne. Według komisarza ds. bezpieczeństwa elektronicznego, Microsoft i inne podmioty, które otrzymały pismo, mają 28 dni na ujawnienie swoich środków dotyczących CSAM na różnych platformach. Nieprzestrzeganie przepisów we wspomnianym okresie przekłada się na grzywnę w wysokości 555 000 USD lub 383 000 USD dziennie.
„Ta działalność nie ogranicza się już do ukrytych zakamarków ciemnej sieci, ale jest powszechna na głównych platformach, które my i my nasze dzieci używają na co dzień” – powiedziała w oświadczeniu agencji Reuters komisarz Julie Inman Grant. „Ponieważ coraz więcej firm przechodzi na usługi szyfrowania wiadomości i wdraża funkcje, takie jak transmisje na żywo, istnieje obawa, że ten przerażający materiał rozprzestrzeni się bez kontroli na tych platformach”.
Chociaż nie ma jasności co do formy ani zakresu szczegółów, które powinny zostać ujawnione, rzecznik Microsoftu powiedział już, że planuje odpowiedzieć w ciągu 28 dni. Chociaż nadal nie ma odpowiedzi ze strony Apple, rzecznik Meta powiedział, że firma nadal „aktywnie współpracuje z komisarzem ds. eBezpieczeństwa w tych ważnych kwestiach”.
Nie ujawniono, co australijski regulator planuje zrobić ze szczegółami, które będą ujawniać się. Ale jeśli w przyszłości będzie to wymagać bardziej rygorystycznych środków CSAM, może to oznaczać większe wyzwanie dla dużych firm technologicznych, które już zmagają się z tworzeniem skutecznych systemów anty-CSAM, jednocześnie zapobiegając naruszaniu prywatności użytkowników. Może to również oznaczać większe zapotrzebowanie na projektowanie systemów, które mogą precyzyjnie identyfikować CSAM online. Tylko w zeszłym roku użytkownik konta Android i Google został oznaczony przez sztuczną inteligencję Google jako przestępca po nieprawidłowym oznaczeniu obrazu nagich zdjęć jego dziecka związanych z medycyną jako CSAM. Chociaż nazwisko mężczyzny zostało oczyszczone po dochodzeniu, podważało to skuteczność systemu CSAM.
