Ani soudní proces za 2.4 miliardy dolarů nezastaví online nenávist – Silicon Valley bylo účelově vytvořeno pro její rozšíření

V říjnu 2021 byl profesor Meareg Amare doxxed na Facebooku. O několik týdnů později byl brutálně zavražděn ve svém vlastním domě - píše Courteney Mukoyi . Nyní čelí mateřská společnost Facebooku Meta Soudní spor 2.4 miliardy $, obviněný z podněcování násilí v Amareově rodné Etiopii. Amareho doxxing nebyla náhoda. Jeho informace se nedostaly jen do nesprávných rukou – byly záměrně zesíleny jako výzva k násilné a bdělé spravedlnosti. 

V dnešním světě byla úloha státu při vyšetřování provinění a ochraně nevinných nahrazena online davy, které působí jako soudci, porotci a popravčí.

A nejen v Etiopii. 

V Indii 20 lidí byli zavražděni během dvou měsíců poté, co byl v roce 2018 obviněn z únosu dětí přes WhatsApp. 

Brzy poté bylo Německo svědkem xenofobních nepokojů fámy na sociálních sítích tvrdili, že žadatelé o azyl zabili Němce. A právě v loňském roce propukly ve Spojeném království historické nepokoje po tragickém zabití tří mladých dívek v Southportu – podpořené vlnou dezinformace o totožnosti údajného vraha.

V každém z těchto případů se dezinformace zaměřovaly na menšinové nebo muslimské komunity, kterým již čelí rekordních úrovní zločinu z nenávisti. 

Od chvíle, kdy se zrodí algoritmus, začne mutovat a na základě dat a vzorců, ze kterých se učí, se učí, jak – a koho – nenávidět. Stejně jako motýlí efekt je i ta nejmenší stopa zkreslení nebo diskriminace okamžitě zesílena. 

Od té doby se rychle změní k nepoznání. Nekontrolovatelné. Dokonce i svému tvůrci. 

Ale i kdyby chtěl, Mark Zuckerberg nemůže vytáhnout zástrčku. 

Nejde jen o to, že stroj přerostl svého výrobce, ale také o to, že žádný z relevantních hráčů nemá úplnou sadu nástrojů, která by jej mohla obsahovat. Techničtí giganti mají technické znalosti, ale chybí jim vůle nebo právní svoboda jednat. Národní vlády mají zákonodárnou moc, ale postupují příliš pomalu, aby udržely krok s inovacemi. A organizace občanské společnosti mohou chápat škody lépe než kdokoli jiný, ale nemají infrastrukturu nebo vliv na prosazení změny.

Vezměte si například EU Zákon o digitálních službách – poprvé navrženo koncem roku 2020, ale prosazeno až v roce 2024. V dlouhém období svého vývoje – ChatGPT byl vydán až v roce 2022 – se digitální prostředí dramaticky posunulo a jeho pravidla zůstala zastaralá ještě předtím, než byla vůbec zavedena. 

Od zavedení zákona vymáhání – což zahrnuje opatření omezovat online nenávistné projevy a algoritmické zesilování extremistického obsahu – se ukázalo jako obtížné. Útoky na menšiny, včetně muslimů a Židů, jsou na historickém maximu. Krajní pravice má dokonce použitý jednat jako ospravedlnění za jejich vlastní dehumanizující rétoriku. 

Minulý měsíc v OSN, Mohammad Al-Issa, generální tajemník Muslimská světová liga, tvrdil, že islamofobie je rostoucí krize. Al-Issa opakovaně Varoval že umělá inteligence by mohla vyzbrojit sociální média, šířit dezinformace a rekrutovat extremisty – což je přesně důvod, proč tvrdí, že do vývoje etických rámců musí být zahrnuti vůdci víry. Jeho varování jsou ozvěnou těch od papeže Františka a Vatikánu, kteří tvrdí, že umělá inteligence je 'stín zla'.

Snahy Al-Issa čelit nenávisti dávno předcházely dnešní debatě o AI. V lednu 2020 on vedl delegaci muslimských vůdců k památníku Auschwitz-Birkenau – jedné z nejvyšších islámských návštěv na místě – podtrhující širší odhodlání čelit dědictví nenávisti a násilí. Dnes, kdy na Blízkém východě zuří válka, je závazek podporovat mezináboženské porozumění naléhavější než kdy jindy.

"Pokud vůdci víry nemají místo na akcích [AI]," varoval Al-Issa v a Nedávný článek„...v rozvíjející se debatě o umělé inteligenci by chyběli důležití odborníci na dané téma, kteří jsou nezbytní k odvrácení jakékoli možnosti nové éry extremismu poháněného umělou inteligencí.“

Pokud má být dosaženo nějakého pokroku, musí technologie, politika a komunita přestat fungovat izolovaně a začít budovat sdílenou, koordinovanou reakci. 

Za prvé, musíme investovat do výzkumu a vývoje mimo bublinu Silicon Valley a zároveň snížit naši závislost na stále nevyzpytatelnějším vládnutí prezidenta Trumpa. Dále bychom měli zavést nová pravidla, která budou vyžadovat, aby korporace a organizace konzultovaly zainteresované strany komunity během jejich provozu a zajistily, že algoritmy budou vyškoleny na inkluzivních souborech dat.

Zároveň musí EU prozkoumat nové nástroje k odhalování a zmírňování nevyhnutelné zaujatosti systémů umělé inteligence. Měli bychom také zavést univerzální programy gramotnosti v oblasti umělé inteligence a platformy odpovědnosti, které by veřejnost poučily o potenciálních hrozbách a umožnily jim hlásit jakékoli stížnosti. 

To, co se stalo v Etiopii nebo Southportu, není anomálie, je to varování, že dnešní platformy již nejsou neutrálními prostory. Jsou aktivními činiteli při utváření veřejného mínění a chování – příliš často způsoby, které podněcují násilí a polarizují společnosti.

V konečném důsledku tato žaloba proti společnosti Meta není jen o odpovědnosti – jde o prevenci. Regulační standardy jistě pomohou, ale omezení musí vyvážit dPhoto by Timothy Hales Bennett on Unsplashdiverzifikace.

Jen tak si můžeme zachovat výhody těchto technologií, aniž bychom se vzdali samotné myšlenky spravedlnosti nekontrolovatelnému algoritmickému davu.

O autorovi:

Courteney Mukoyi je zakladatelkou a ředitelkou nadace Justice Code Foundation, která využívá stávající a vznikající technologie k prosazování lidských práv v zimbabwských komunitách. Je nadšencem pro CivicTech s titulem Master of Laws v oboru mezinárodní obchod z University of Cape Town.

Muyoki získal několik ocenění, včetně ceny za inovaci demokracie v roce 2022 a ceny Wangari Maathai AI Impact Award za rok 2023. V roce 2023 byl vybrán do stipendia Mandela Washington Fellowship. V současné době působí v Poradním výboru pro mládež UNHRC a v Evropské unii Youth Sounding Board. Spolupracoval s různými organizacemi, včetně Accountability Lab a Africké unie, na rozvoji využívání technologií a umělé inteligence v oblasti lidských práv a občanské angažovanosti. Je sériovým podnikatelem, který také založil startup InsurTech s názvem TopSure, který zahájil jeho cestu k vytvoření jednorožcových startupů v Africe.

Foto Timothy Hales Bennett on Unsplash

Sdílet tento článek: