Tlak na to, aby sociálne siete sprísnili kontrolu obsahu má aj svoju odvrátenú tvár. Drvivú väčšinu kontroly totiž robí umelá inteligencia, o ktorej nikto nevie ako funguje a zároveň má zjavné problémy rozlišovať obsah na hrane.

V poslednej dobe na to doplatilo niekoľko ľudskoprávnych hnutí ako napríklad Black Lives Matter alebo Missing and Murdered Indigenous Women and Girls, ktorých príspevky na Instagrame boli bez vysvetlenia zmazané.

Umelá inteligencia je síce násobne rýchlejšia ako ľudia, môže byť však zaujatá alebo robiť zúfalo zlé rozhodnutia. Napríklad ohroziť ľudí tým, že ich nesprávne klasifikuje ako útočníkov, zločincov alebo dokonca teroristov.

V polovici roka 2020 takto Facebook odstránil najmenej 35 účtov sýrskych novinárov a aktivistov pod zámienkou terorizmu, zatiaľ čo v skutočnosti proti nemu bojovali.

Spoliehanie sa len na umelú inteligenciu môže vyústiť do toho, že v skutočnosti to môže skončiť zosilnením existujúcich predsudkov. Bez AI sa kontrola obsahu robiť nedá, ale do budúcnosti je dôležité tlačiť na platformy, aby umožňovali čo najväčšiu transparentnosť a verejný dohľad nad ich fungovaním.

Viac info tu: https://theconversation.com/beyond-a-technical-bug-biased-algorithms-and-moderation-are-censoring-activists-on-social-media-160669