Der Aufstieg der Technologie offenzulegen ebnete auch den Weg für die Verbreitung von Material zum sexuellen Missbrauch von Kindern (CSAM) im Internet. Australien ist eines der Länder, die versuchen, strengere Gesetze zur Behandlung solcher Probleme einzuführen, und fordert jetzt Technologiegiganten wie Microsoft auf, ihre Strategien zur Erkennung und Entfernung von CSAMs offenzulegen. Abgesehen von Microsoft Reuters berichtete, dass die großen Tech-Giganten Meta und Apple ebenfalls ein Forderungsschreiben von einer australischen Regulierungsbehörde erhalten haben.
Die Forderung bringt Microsoft und andere in eine ernsthafte Situation, da Australien nun neue Gesetze umsetzt seine Maßnahmen gegen Online-Probleme und die Regulierung von Technologieunternehmen verstärken. Laut dem e-Safety Commissioner haben Microsoft und die anderen, die das Schreiben erhalten haben, 28 Tage Zeit, um ihre Maßnahmen zur Bekämpfung von CSAM auf ihren verschiedenen Plattformen offenzulegen. Die Nichteinhaltung innerhalb des genannten Zeitraums führt dazu, dass die Unternehmen mit einer Geldstrafe von 555.000 AUD oder 383.000 USD pro Tag belegt werden.
„Diese Aktivität beschränkt sich nicht mehr auf versteckte Ecken des Dark Web, sondern ist auf den Mainstream-Plattformen wir und weit verbreitet unsere Kinder verwenden es jeden Tag“, sagte Kommissarin Julie Inman Grant gegenüber Reuters in einer Erklärung. „Da immer mehr Unternehmen auf verschlüsselte Messaging-Dienste umsteigen und Funktionen wie Livestreaming bereitstellen, besteht die Befürchtung, dass sich dieses schreckliche Material ungehindert auf diesen Plattformen verbreitet.“
Während es keine Klarheit über Form oder Umfang der Details gibt offengelegt werden sollten, sagte ein Sprecher von Microsoft bereits, dass man plane, innerhalb von 28 Tagen zu antworten. Obwohl es immer noch keine Antwort von Apple gibt, sagte der Sprecher von Meta, dass das Unternehmen weiterhin „in diesen wichtigen Fragen proaktiv mit dem eSafety Commissioner zusammenarbeitet“.
Es wurde nicht bekannt gegeben, was die australische Regulierungsbehörde mit den Details zu tun gedenkt offengelegt werden. Aber wenn es in Zukunft strengere CSAM-Maßnahmen erfordert, könnte dies eine größere Herausforderung für große Technologieunternehmen bedeuten, die bereits damit kämpfen, wirksame Anti-CSAM-Systeme zu entwickeln und gleichzeitig die Verletzung der Privatsphäre der Benutzer zu verhindern. Es könnte auch eine größere Nachfrage bedeuten, Systeme zu entwickeln, die CSAMs online genau identifizieren können. Erst letztes Jahr wurde ein Benutzer eines Android-und Google-Kontos von Googles KI als Krimineller gekennzeichnet, nachdem er das Bild der medizinischen Nacktfotos seines Kindes fälschlicherweise als CSAM gekennzeichnet hatte. Obwohl der Name des Mannes nach einer Untersuchung gelöscht wurde, stellte dies die Effizienz des CSAM-Systems in Frage.