Amazon.com IncのライブストリーミングサイトであるTwitchは、禁止されたチャンネルにアクセスしようとするユーザーを検出するツールを立ち上げていると述べた。
疑わしいと呼ばれる新しいツールユーザー検出は、「可能性が高い」または「可能性のある」チャネル禁止回避者にフラグを立て、それらのチャネルの作成者とモデレーターがアクションを実行するかどうかを決定できるようにします。
Twitchは、ユーザーから虐待と戦うよう圧力を受けています。そのサイトでは、ターゲットを絞った嫌がらせや、ストリーマーのチャットに嫌がらせのメッセージが殺到する、いわゆるヘイトレイドが含まれています。
ビデオゲーマーに人気のあるプラットフォームは、禁止回避者との戦いを改善する方法の必要性に関するユーザーのフィードバックに応えてツールを立ち上げたと述べています。
「標的を絞った嫌がらせ」と語った。Twitchの地域保健製品担当ディレクター、アリソン・ハフマン氏はインタビューで述べた。 「クリエイターやそのモデレーターとの話し合いを通じて、これは彼らにとって永続的な問題であると聞いています。」
Twitchが数か月間取り組んできた機械学習ツールは、特定のタイプを検出するとハフマン氏は述べています。潜在的な禁止回避者にフラグを立てるためのユーザーの行動とアカウントの特性の分析。
このツールはすべてのチャネルでデフォルトでオンになりますが、調整または非アクティブ化することができます。また、ユーザーはより詳細に監視したいユーザーをツールに手動で追加できるとも述べています。
9月、Twitchは、作成者とモデレーターがチャットメッセージを送信する前に、電話とメールによる確認を要求する方法を追加しました。新しいハラスメント対策。その月、それはまた、2人の憎悪の襲撃者とされる者に対して米国連邦裁判所に訴状を提出した。
今年の初め、同社はプラットフォームから離れた場所で発生した重大な不正行為についてユーザーを禁止すると発表しました。
人工知能の一部である機械学習は、コンピューターアルゴリズムの研究です。
FacebookTwitterLinkedin