Là một phần trong nỗ lực tạo ra một nền tảng an toàn cho tất cả người dùng, đặc biệt là những người trẻ tuổi, TikTok là ra mắt phiên bản mới của mô hình gợi ý đường viền. Mô hình này sẽ tự động xác định nội dung khiêu dâm, khêu gợi hoặc có giới hạn. Do đó, giúp TikTok xác định những video không nhất thiết vi phạm nguyên tắc cộng đồng nhưng có thể không phù hợp với khán giả nhỏ tuổi.
Mô hình mới nhằm tạo môi trường an toàn hơn cho người dùng nhỏ tuổi
Theo TikTok, mô hình cập nhật chính xác và hiệu quả hơn trong việc xác định nội dung có thể không phù hợp với tất cả người xem. Điều này đặc biệt quan trọng do sự phổ biến của nền tảng này đối với thanh thiếu niên. Bằng cách xác định và xóa loại nội dung này một cách hiệu quả hơn, TikTok đặt mục tiêu tạo ra một môi trường an toàn và thân thiện với gia đình hơn cho khán giả nhỏ tuổi.
“Chúng tôi đang đạt được tiến bộ trong việc giảm mức độ phổ biến của nội dung khiêu dâm hoặc ranh giới các đề xuất tổng thể và hiện đang tung ra phiên bản tiếp theo của mô hình gợi ý ranh giới mà chúng tôi hy vọng sẽ cải thiện khả năng phát hiện nội dung đó, do đó tạo ra trải nghiệm phù hợp và thoải mái hơn cho chủ tài khoản tuổi teen,” TikTok cho biết trong bài đăng trên blog.
Những thách thức trong việc phát hiện và xóa nội dung vi phạm pháp luật
Trong khi các nền tảng khác giống như Instagram cũng đã cố gắng lọc ra nội dung gần ranh giới khỏi các đề xuất, trước đây rất khó để các hệ thống tự động nhất quán ly phát hiện nội dung có chủ đề”người lớn”hơn không chứa ảnh khoả thân rõ ràng. Điều này là do ranh giới giữa “nội dung gợi ý có giới hạn” và nội dung chấp nhận được có thể mang tính chủ quan. Công ty sẽ cần đảm bảo rằng mô hình mới là công bằng và không xóa nội dung mà một số người dùng có thể chấp nhận được.
TikTok không cung cấp chi tiết cụ thể về mức độ chính xác của hệ thống mới, nhưng công ty cho biết họ đã “ngăn tài khoản thanh thiếu niên xem hơn 1 triệu video khiêu dâm công khai” trong 30 ngày qua.
