Ang Facebook ay napigilan sa pagpigil sa pinaghahati-hati na nilalaman ng gumagamit sa India, ipinapakita ng mga dokumento

Ang Facebook sa India ay pumipili sa pagpigil sa pagsasalita ng poot, maling impormasyon at nagpapaalab na mga post, partikular na nilalamang kontra-Muslim, ayon sa mga naipong dokumento na nakuha ng The Associated Press, kahit na may sariling mga empleyado. nagsumite ng pag-aalinlangan sa mga motibo at interes ng kumpanya.

Mula sa pagsasaliksik noong Marso ng taong ito sa mga memo ng kumpanya na nagsimula pa noong 2019, ang panloob na mga dokumento ng kumpanya sa India ay binibigyang diin ang patuloy na pakikibaka ng Facebook sa pagtanggal ng mapang-abusong nilalaman sa mga platform nito sa mundo pinakamalaking demokrasya at pinakamalaking merkado ng paglago ng kumpanya. Ang mga tensyon ng komunal at panrelihiyon sa India ay mayroong kasaysayan ng pag-kumukulo sa social media at paghimok ng karahasan.

Ipinapakita ng mga file na alam ng Facebook ang mga problema sa maraming taon, na nagtataas ng mga katanungan kung nagawa na ba ito sapat upang matugunan ang mga isyung ito. Maraming mga kritiko at digital na dalubhasa ang nagsabing nabigo itong gawin, lalo na sa mga kaso kung saan kasapi ng naghaharing Bharatiya Janata Party ng Punong Ministro na si Narendra Modi, ang nasangkot.

Sa buong mundo, ang Facebook ay lalong naging mahalaga sa politika, at Ang India ay hindi naiiba.

iwasan ang blowback mula sa BJP. Parehong chairman at CEO ng Modi at Facebook na si Mark Zuckerberg ay nagpalabas ng bonhomie, naalaala ng isang 2015 na imahe ng dalawang nagyayakapan sa punong tanggapan ng Facebook.

India Sa ilang mga kaso, karamihan sa mga ito ay pinaigting ng sarili nitong”inirekumenda”na tampok at mga algorithm. Ngunit isinasama din ang mga alalahanin ng mga tauhan ng kumpanya sa maling pag-aayos ng mga isyung ito at ang kanilang hindi kasiyahan na ipinahayag tungkol sa viral na”malcontent”sa platform. nanganganib na mga bansa”sa mundo at kinilala ang parehong wikang Hindi at Bengali bilang mga priyoridad para sa”awtomatiko sa paglabag sa pagalit na pananalita.”Gayunpaman, walang sapat na mga moderator ng lokal na wika o pag-flag ng nilalaman ang Facebook upang ihinto ang maling impormasyon na paminsan-minsan ay humantong sa karahasan sa totoong mundo.

Sa isang pahayag sa AP, sinabi ng Facebook na”namuhunan ito makabuluhang sa teknolohiya upang makahanap ng mapoot na pagsasalita sa iba`t ibang mga wika, kasama ang Hindi at Bengali”na nagresulta sa”nabawasan na halaga ng pagsasalita ng poot na nakikita ng kalahati ng mga tao”noong 2021.

“Mapoot na pagsasalita laban sa mga marginalized na pangkat, kabilang ang Ang mga Muslim, ay tumataas nang pandaigdigan. Kaya pinapabuti natin ang pagpapatupad at nakatuon sa pag-update ng aming mga patakaran habang umuusbong sa online ang poot ng poot,”sinabi ng tagapagsalita ng kumpanya.

kung saan isang pambihirang pangyayari ang yumanig sa India-isang militanteng atake sa pinagtatalunang Kashmir ang pumatay sa higit sa 40 sundalong India, na nagdala sa bansa sa malapit na digmaan sa karibal na Pakistan.

Sea of ​​Polarizing, Nationalistic Messages,”ang empleyado na ang pangalan ay na-redact ay nagsabi na sila ay”nabigla”sa nilalaman na bumabaha sa feed ng balita na”naging isang malapit na palagian ng polaralisasyon ng nasyonalistang nilalaman, maling impormasyon, at karahasan at gore.”

Parang hindi maganda at hindi nakapipinsalang mga pangkat na inirekumenda ng Facebook na mabilis na nag-iba sa kung ano man sa kabuuan, kung saan ang pagsasalita ng poot, hindi napatunayan na alingawngaw at nilalamang viral ay laganap.

Karamihan sa nilalaman ay labis na nakakakuha ng graphic.

Ang tampok na”Popular Across Facebook”ay nagpakita ng isang hindi napatunayan na nilalaman na nauugnay sa gumaganti na mga pag-atake ng India sa Pakistan pagkatapos ng pambobomba, kasama ang isang imahe ng isang napalm bomb mula sa isang video game clip na na-debunk ng isa sa mga kasosyo sa pagsusuri sa katotohanan ng Facebook.

“Kasunod sa News Feed ng gumagamit ng pagsubok na ito, nakakita ako ng maraming mga imahe ng mga patay sa nakaraang tatlong linggo kaysa sa nakita ko sa aking buong kabuuan ng buhay,”sumulat ang mananaliksik. nagsimula ng malalim na pag-aalala sa kung ano ang maaaring humantong sa naturang pinaghahati-hati na nilalaman sa totoong mundo, kung saan ang mga lokal na balita noong panahong iyon ay nag-uulat tungkol sa Kashmiris na inaatake sa pagbagsak.

pinipigilan ang mga pinsala sa integridad na bunga ng inirekumendang nilalaman?”tinanong ng mananaliksik sa kanilang konklusyon.

Ang memo, na ipinakalat sa iba pang mga empleyado, ay hindi sumagot sa katanungang iyon. Ngunit inilantad nito kung paano ang mga sariling algorithm ng platform o mga setting ng default ay naging bahagi sa pagpapasigla ng naturang malcontent. Sinabi ng empleyado na mayroong malinaw na”blind spot,”partikular sa”lokal na nilalaman ng wika.”Sinabi nila na inaasahan nila na ang mga natuklasan na ito ay magsisimula ng mga pag-uusap kung paano maiiwasan ang mga naturang”pinsala sa integridad,”lalo na para sa mga”magkakaiba-iba”mula sa karaniwang gumagamit ng US. ay hindi isang average na representasyon, kinikilala nila na ipinakita nito kung paano ganap na sakupin ng”hindi nagbago”at may problemang nilalaman”ang”habang”isang pangunahing kaganapan sa krisis.”inspirasyon ng mas malalim, mas mahigpit na pag-aaral”ng mga system ng rekomendasyon nito at”nag-ambag sa mga pagbabago sa produkto upang mapabuti ang mga ito.”apat na mga wikang Indian,”sinabi ng tagapagsalita. Ang iba pang mga file ng pagsasaliksik tungkol sa maling impormasyon sa India ay nagha-highlight kung gaano kalaki ang isang problema para sa platform.

Noong Enero 2019, isang buwan bago ang subukan ang eksperimento ng gumagamit, isa pang pagtatasa ang nagtataas ng katulad na mga alarma ab ang nakaliligaw na nilalaman. Sa isang pagtatanghal na ipinakalat sa mga empleyado, napagpasyahan ng mga natuklasan na ang mga maling impormasyon sa Facebook ay hindi malinaw para sa mga gumagamit, na binibigyang diin na kailangan nitong gumawa ng higit pa upang mapigilan ang pagsasalita ng poot at pekeng balita. Sinabi ng mga gumagamit sa mga mananaliksik na”malinaw na ang impormasyon sa pag-label ay gagawing mas madali ang kanilang buhay.”

Muli, nabanggit na ang platform ay walang sapat na mga lokal na tagasuri ng katotohanan sa wika, na nangangahulugang maraming nilalaman ang hindi napatunayan.

-Halos 400 milyong mga Indiano din ang gumagamit ng serbisyo sa pagmemensahe ng kumpanya na WhatsApp. Ngunit kapwa inaakusahan bilang mga sasakyang nagpapalaganap ng poot na pagsasalita at pekeng balita laban sa mga minorya.

Noong Pebrero 2020, nabuhay ang mga tensyon na ito sa Facebook nang mag-upload ang isang politiko mula sa partido ni Modi ng isang video sa platform kung saan nanawagan siya sa kanyang mga tagasuporta na alisin ang karamihan sa mga nagprotesta ng Muslim mula sa isang kalsada sa New Delhi kung ang pulis ay hindi. Marahas na kaguluhan ang sumabog sa loob ng ilang oras, na ikinamatay ng 53 katao. Karamihan sa kanila ay Muslim. Pagkatapos lamang ng libu-libong panonood at pagbabahagi na inalis ng Facebook ang video.-19 kaso. Ang hashtag ay sikat sa Facebook nang maraming araw ngunit kalaunan ay tinanggal ng kumpanya. > Ang ilang mga video clip at post ay sinasabing ipinakita ang pagdura ng mga Muslim sa mga awtoridad at kawani ng ospital. Mabilis silang napatunayan na peke, ngunit noong mga linya ng komunal na kasalanan ng India, na binibigyang diin pa rin ng nakamamatay na mga kaguluhan isang buwan na ang nakalilipas, ay muling pinaghiwalay.

talumpati sa mga Muslim. Libu-libo mula sa pamayanan, kasama ang Abbas, ay nakakulong sa institusyon na kuwarentenas sa loob ng maraming linggo sa buong bansa. Ang ilan ay naipadala pa rin sa mga kulungan, ngunit sa paglaon ay napalaya ng mga korte.

sinabi.

Ang mga kritiko sa paghawak ng Facebook ng naturang nilalaman ay pinalakas noong Agosto ng nakaraang taon nang ang The Wall Street Journal ay naglathala ng isang serye ng mga kwento na nagdedetalye kung paano pinagdebatehan ng panloob ang kumpanya kung uuri-uriin ang isang matitigong mambabatas ng Hindu na malapit sa partido ni Modi bilang isang”mapanganib na indibidwal”-isang pag-uuri na magbabawal sa kanya mula sa platform-pagkatapos ng isang serye ng mga anti-Muslim na post mula sa kanyang account.

mga alalahanin ng ilang mga empleyado, kung kanino isinulat ng isa na ang Facebook ay nagtatalaga lamang ng mga hindi-Hindu na organisasyong ekstremista bilang”mapanganib.”mga post sa kanyang personal Profile sa Facebook. Noong panahong iyon, pinagtalo rin niya na ang pag-uuri ng pulitiko bilang mapanganib ay makakasakit sa mga prospect ng Facebook sa India.

Regular na gumagawa ng mga pagbubukod ang Facebook para sa mga makapangyarihang aktor kapag nagpapatupad ng patakaran sa nilalaman.”Ang dokumento ay binanggit din ang isang dating pinuno ng seguridad sa Facebook na nagsasabing sa labas ng Estados Unidos,”ang mga lokal na pinuno ng patakaran ay karaniwang hinihila mula sa naghaharing pampulitika na partido at bihirang makuha mula sa mga hindi pinahihintulutang pangkat-etniko, relihiyosong mga kredo o cast”na”natural na bends paggawa ng desisyon patungo sa makapangyarihang.”

Pagkalipas ng buwan, ang opisyal ng India ay umalis sa Facebook. Inalis din ng kumpanya ang pulitiko mula sa platform, ngunit ipinakita ng mga dokumento na maraming empleyado ng kumpanya ang naramdaman na ang platform ay hindi maayos ang sitwasyon, na inakusahan ito ng pili na bias upang maiwasan na mapunta sa mga crosshair ng gobyerno ng India. ang mga kasamahan ay labis na nabalisa/nasaktan ng ilan sa wikang ginamit sa mga post mula sa pamumuno ng patakaran ng India sa kanilang personal na profile sa FB,”isang empleyado ang sumulat. sa aming network.”

ang”takot na galit, mga salaysay na kontra-Muslim”na itinulak ni Rashtriya Swayamsevak Sangh, isang kanang-kanan na grupong nasyonalista ng Hindu na bahagi rin ni Modi, sa platform nito.

“nabanggit ng kumpanya na ang mga kasapi na may mga link sa BJP ay lumikha ng maraming Facebook account upang palakasin ang nilalamang kontra-Muslim, mula sa”mga panawagan upang patalsikin ang mga populasyon ng Muslim mula sa India”at”Love Jihad,”isang hindi napatunayan na teorya ng pagsasabwatan ng mga hard-liner ng Hindu na nag-akusa sa mga lalaking Muslim na gumagamit ng mga kasal sa interfaith upang pilitin ang mga kababaihang Hindu na baguhin ang kanilang relihiyon.

Napag-alaman ng pananaliksik na ang karamihan sa nilalamang ito ay”hindi na-flag o kumilos”dahil kulang sa”mga classifier”at”moderator”ang Facebook sa mga wikang Hindi at Bengali. Sinabi ng Facebook na idinagdag nito ang mga tagapagsama ng poot ng pagsasalita sa Hindi simula sa 2018 at ipinakilala ang Bengali noong 2020.

Sinulat din ng mga empleyado na ang Facebook ay hindi pa”naglalagay ng nominasyon para sa pagtatalaga ng grupong ito na binigyan ng sensitibong pampulitika.”

Sinabi ng kumpanya na ang proseso ng pagtatalaga nito ay nagsasama ng isang pagsusuri sa bawat kaso ng mga nauugnay na mga koponan sa buong kumpanya at agnostiko sa rehiyon, ideolohiya o relihiyon at tumututok sa halip sa mga tagapagpahiwatig ng karahasan at poot. Gayunpaman, hindi ito nagsiwalat kung ang pangkat pambansang nasyonal ng Hindu ay itinalaga bilang”mapanganib.”

FacebookTwitterLinkedin

mga nagpapaalab na post, partikular ang nilalaman na kontra-Muslim, ayon sa mga leak na dokumento na nakuha ng The Associated Press, kahit na ang sarili nitong mga empleyado ay nagdududa sa mga pagganyak at interes ng kumpanya.