Sebagai bagian dari upayanya untuk menciptakan platform yang aman bagi semua pengguna, terutama yang lebih muda, TikTok meluncurkan versi baru dari model sugestif garis batasnya. Model ini akan secara otomatis mengidentifikasi konten seksual eksplisit, menjurus, atau berisiko. Oleh karena itu, membantu TikTok mengidentifikasi video yang tidak selalu melanggar pedoman komunitasnya, tetapi mungkin tidak cocok untuk penonton yang lebih muda.
Model baru ini bertujuan untuk menciptakan lingkungan yang lebih aman bagi pengguna yang lebih muda
Menurut TikTok, model yang diperbarui lebih akurat dan efisien dalam mengidentifikasi konten yang mungkin tidak sesuai untuk semua pemirsa. Ini sangat penting mengingat popularitas platform di kalangan remaja. Dengan mengidentifikasi dan menghapus jenis konten ini secara lebih efektif, TikTok bertujuan untuk menciptakan lingkungan yang lebih aman dan ramah keluarga bagi penontonnya yang lebih muda.
“Kami membuat kemajuan untuk mengurangi prevalensi konten yang berisiko atau sugestif rekomendasi secara keseluruhan dan sekarang meluncurkan iterasi berikutnya dari model sugestif garis batas kami yang kami harapkan dapat meningkatkan deteksi konten semacam itu, sehingga menciptakan pengalaman yang lebih sesuai dan nyaman bagi pemegang akun remaja, ”kata TikTok dalam postingan blog.
Tantangan dalam mendeteksi dan menghapus konten berisiko
Sementara platform lain seperti Instagram juga telah mencoba memfilter konten garis batas dari rekomendasi, secara historis sulit bagi sistem otomatis untuk konsisten ly mendeteksi konten dengan tema lebih “dewasa” yang tidak mengandung ketelanjangan eksplisit. Hal ini karena garis antara”batas sugestif”dan konten yang dapat diterima dapat bersifat subyektif. Perusahaan perlu memastikan bahwa model baru ini adil dan tidak menghapus konten secara tidak adil yang mungkin dapat diterima oleh beberapa pengguna.
TikTok tidak memberikan detail spesifik tentang seberapa akurat sistem baru ini, tetapi perusahaan mengatakan bahwa mereka telah”mencegah akun remaja melihat lebih dari 1 juta video yang menjurus ke arah seksual”dalam 30 hari terakhir.
