Žvižg in v zajčjo luknjo

Slabe tri tedne po tem, ko je najnovejša žvižgačica Frances Haugen pred ameriškim senatom pričala o kršitvah, ki jih je zaznala kot zaposlena na družbenem omrežju Facebook, javnost še kar pretresajo nova razkritja in razsežnosti Facebookovega vpliva na njegove uporabnike. Včeraj je v javnost pricurljala informacija, da je leta 2019 podjetje Apple Facebooku zagrozilo, da bo umaknilo njegovo aplikacijo iz trgovine Apple Store, če ne bo onemogočil objav, v katerih uporabniki, večinoma iz Saudove Arabije, prodajajo svoje hišne pomočnice, ki največkrat prihajajo iz azijskih in afriških držav. Kot razkrivajo dokumenti, so se na Facebooku zavedali, da taka trgovina z ljudmi obstaja, niso pa v zvezi s tem ukrepali niti po Applovi grožnji. Tako je z nekaj pravimi ključnimi besedami še vedno mogoče najti objave na Instagramu in Facebooku, v katerih posamezniki prodajajo ženske, ki so nekdaj opravljale suženjsko delo v njihovih domovih. Nedavno razkritje je le ena od mnogih problematik, ki jih je širši javnosti s kopico dokumentov predstavila žvižgačica Frances Haugen. V današnjem OFFsajdu se z novinarjem Pod črto Lenartom Kučićem spuščamo v zajčjo luknjo in skušamo osvetliti vsaj del temne plati družbenega omrežja Facebook in njegovih hčerinskih družb. 

Kot pojasni Kučić, razkritja, ki jih je pred senatom podala nekdanja uslužbenka Facebooka Haugen, za kritike tega družbenega omrežja niso novost. Vendar imajo toliko večjo težo, ker jih je izpostavila nekdanja uslužbenka in pa, pomembneje, ker je jasno pokazala, da se omrežje škodljivih vplivov zaveda, vendar glede njih zavestno ne ukrepa. 

Izjava

Izjava

Haugen je pred senatom izpostavila pomembno podrobnost. Facebook je zasvojljiv, in kar 5 odstotkov mladoletnikov po svoji lastni presoji zatrjuje, da so odvisni od Facebooka in njegovih hčerinskih družb, predvsem Instagrama. Še pomembneje je, da se Facebook te težave zaveda, vendar ne glede na škodljiv vpliv na mentalno in fizično zdravje uporabnikov njegovi algoritmi dajejo prednost vsebinam, ki bodo uporabnike še za dlje časa prikovale pred zaslon. 

Izjava

Vsebine, ki dajejo prednost odzivnosti, pa ponavadi pomenijo več sovražnega govora, več politične skrajnosti, posnetkov nasilja in tako dalje. 

Izjava

Med dokumenti, vključenimi v sveženj razkritij, ki jih je Haugen podala pred senatom, izstopa tudi poročilo o testnem uporabniku v Indiji. Facebookov uslužbenec je ustvaril testnega indijskega uporabnika in tri tedne všečkal ter sledil le vsebinam in stranem, ki mu jih je predlagal Facebookov algoritem. V poročilu o raziskavi Facebookov uslužbenec zaključi, da ga je sledenje takim stranem po treh tednih privedlo do skrajno desnih vsebin, sovražnih do indijskih muslimanov, in do več posnetkov nasilja, ‘kot jih je prej videl v celem življenju’. 

Več o težavah s Facebookom v Indiji in njegovi zlizanosti z oblastjo predsednika vlade Narendre Modija pove Anita Gurumurthy z nevladne organizacije IT for Change [aj ti for čejnđ]. 

Izjava

Nadzor nad sovražnimi vsebinami je pomanjkljiv in celo škodljiv, je pričala Haugen. O notranjih politikah Facebookove moderacije sovražnega govora pa je znanega izredno malo. Dokumenti, ki pričajo o sovražnem govoru na afganistanskem trgu, dokazujejo, da v podjetju sovražni govor moderirajo tako zunanji in notranji zaposleni kot umetna inteligenca. V Afganistanu več kot 98 odstotkov prijavljenih vsebin preverijo ljudje, nekaj manj kot 2 odstotka pa umetna inteligenca. Od vseh prijavljenih vsebin so jih na afganistanskem trgu odstranili 0,23 odstotka. Tisto malo, kar je znanega o Facebookovi notranji politiki nadzora nad sovražnim govorom, kaže, da podjetje pogosto zaposluje zunanje sodelavce in podjetja, da nadzorujejo sovražni govor, medtem ko se na podjetju samem bolj ponašajo z novimi zaposlenimi na področju razvoja tehnoloških rešitev. 

Izjava

Veliko težavo pri nadzorovanju sovražnega govora predstavljajo jezikovne prepreke. Facebook na primer slabo razume različne dialekte arabskega jezika, ki se med seboj zelo razlikujejo. Prav tako se, ker je osredotočen na dobičkonosne trge, raje posveča obliki jezikov, ki jih v določeni standardizirani obliki govori celotna regija, medtem ko se z lokalnimi jeziki sploh ne ukvarja. Za Etiopijo je v razkritih dokumentih razvidno, da so pomanjkanje nadzora nad sovražnim govorom in pa algoritmi, ki dajejo prednost odzivnosti uporabnikov, povzročili stopnjevanje medetničnih napetosti in nasilja. Facebookove politike za nadzor nad sovražnim govorom pa sploh niso prevedene v vse uradne jezike, ki jih govorijo v Etiopiji. Več o jezikovnih preprekah za strojno učenje Kučić:

Izjava

Gurumurthy izpostavi podobno problematiko in dodaja, da ima Facebookovo zanemarjanje lokalnih jezikov izredno škodljive posledice:

Izjava

Kljub temu da so nova razkritja žvižgačke Frances Haugen nekatere že obstoječe kritike družbenega omrežja podkrepila z dokazi in kljub odmevu, ki so ga prejela, pa je verjetnost, da bodo razkritja podjetje prisilila v spremembo, izredno nizka. Kljub povsem upravičeni kritiki, ki jo je Facebooku namenila Haugen, ostaja dejstvo, da tudi ona sama, tako kot večina drugih tehnoloških mogotcev, rešitev za Facebook še vedno vidi v tehnoloških rešitvah, v spremembah algoritmov za odzivnost uporabnikov, ne pa tudi v sami lastniški zasnovi Facebooka, v kateri odločitve de facto sprejema en človek, ustanovitelj Mark Zuckerberg. Facebook je namreč po svoji lastniški strukturi specifičen med tehnološkimi velikani. Po sicer ne edinstveni praksi je podjetje izdalo več različnih vrst delnic, od katerih večina prinaša samo dividende, ne pa tudi odločevalskih pravic. Kar 55 odstotkov odločevalskih pravic ima v lasti Mark Zuckerberg. Facebook lahko vodi povsem svojevoljno, saj ni nikomur odgovoren in ga nihče ne more zamenjati.