昨日、 The Verge は、過去6か月間に、Facebookのアルゴリズムに「大規模なランキングの失敗」があり、すべてのニュースフィードビューの半分に潜在的な「整合性リスク」を引き起こしたと報告しました。
この情報は、昨年10月にアルゴリズムの失敗を発見したエンジニアのグループからのものです。彼らは、ニュースフィードを介して大量の誤った情報が流れていたとき、拡散を阻止する代わりに、システムがそれらを宣伝していたと述べた。事実上、ニュースフィードに表示された誤った情報は30％多くのビューを獲得しました。奇妙なことに、Facebookは根本的な原因を見つけることができませんでした。彼らはそのような投稿がどのように機能しているかを監視しているだけでした。興味深いことに、このようなニュースは、数週間にわたってトップに立った後、それほど多くの視聴回数を獲得しませんでした。 Facebookのエンジニアは3月11日にバグを修正できました。
Facebookの内部調査によると、Facebookのアルゴリズムでは、投稿がヌードや暴力などで構成されていても、投稿が表示されるのを防ぐことはできませんでした。 SEVレベル。 SEVはサイトイベントの略です。ただし、これはシステムで発生する可能性のある最悪の事態ではありません。これはレベル1のバグですが、最も劇的な緊急事態に使用されるレベル0のSEVもあります。
Facebookは、バグがあったことをすでに公式に認めています。メタスポークスパーソンのジョーオズボーン氏は、同社は「5回の別々の機会にダウンランクの不一致を検出しました。これは、内部指標のわずかな一時的な増加と相関していました」と述べています。
内部文書によると、この技術的な問題は最初に2019年。ただし、当時は2021年10月まで目立った影響はありませんでした。「根本的な原因をソフトウェアのバグに突き止め、必要な修正を適用しました」とOsborne氏は述べています。 「このバグは、私たちの指標に意味のある長期的な影響を与えていません。」
必要なコンテンツを表示するための最良の方法としてのダウンランク
当面の間、Facebookはニュースフィードに表示されるコンテンツにどのような影響があるかを説明しました。ダウンランクは、Facebookアルゴリズムがニュースフィードの品質を向上させるために使用する方法であることを私たちは知っています。さらに、Facebookはこのアプローチに積極的に取り組んでおり、コンテンツを表示するための主要な方法になっています。
ある意味で、これは論理的なアプローチです。戦争や物議を醸す政治記事に関する投稿は、上位にランクされる可能性があることを意味します。しかし、ほとんどの場合、それらはFacebookの条件と一致せず、禁止される可能性があります。言い換えれば、マーク・ザッカーバーグが 2018年に説明したように、ダウンランクは取りつかれているという本能に逆らいます。 「よりセンセーショナルで挑発的な」コンテンツで。 「私たちの調査によると、許可されているものの線をどこに引いても、コンテンツの一部がその線に近づくにつれて、人々は平均してより多くのことに関与するようになります。後でコンテンツが気に入らないと言われたとしても。 」。
いわゆる「境界線」コンテンツに対しても「機能」を格下げします。したがって、Facebookは、ルールに違反しそうなコンテンツだけでなく、違反していると判断されたコンテンツも表示します。 FacebookのAIシステムはすべての投稿をチェックします。ただし、その後、対応する従業員が「違反」コンテンツを自分でチェックします。
昨年9月、Facebookはランクが下がったコンテンツのリストを共有しました。ただし、降格が影響を受けるコンテンツの配布にどのように影響するかについての情報は提供されていません。将来的には、ニュースフィードのランクが下がったコンテンツに関して、Facebookの透明性が高まることを願っています。
ニュースフィードに気に入ったコンテンツが表示されていますか?
同時に、 Facebookは、AIシステムがどのように機能するかを披露する機会を逃しません。彼らは、アルゴリズムが毎年改善されており、悪意のある表現などのコンテンツとの戦いに成功していることを証明しています。 Facebookは、テクノロジーがコンテンツをそのような範囲でモデレートするための最良の方法であると確信しています。たとえば、2021年に、ニュースフィード内のすべての政治的コンテンツのランクを下げることを公式に発表しました。
多くの人が、この最近のランキングの背後に悪意がないことを確認します。しかし、Facebookのレポートによると、Webベースのプラットフォームとそれらが使用するアルゴリズムは可能な限り透過的である必要があります。
「このような大規模で複雑なシステムでは、バグは避けられず、理解できます」とSaharMassachi氏は述べています。 FacebookのCivicIntegrityチームの元メンバー。 「しかし、強力なソーシャルプラットフォームにこれらの偶発的な障害のいずれかがあるとどうなりますか?どうやって知るのでしょうか?説明責任の持続可能なシステムを構築するには、真の透明性が必要です。そうすれば、これらの問題を迅速に捉えることができます。」
出典/VIA: