Může inteligentní strategie #AI přesvědčit EU, že moderování obsahu #Facebook je šňupavé?

17. února, během setkání s evropskými tvůrci politik v Bruselu, generální ředitel Facebooku Mark Zuckerberg (na snímku) vydal bílou knihu, která nastiňuje jeho strategii řešení škodlivého obsahu na platformách sociálních médií. V reakci na přání Evropské unie rozšířit dohled nad technologickým odvětvím miliardář uvedl, že by toto odvětví mělo být regulováno spíše na celosvětové než místní úrovni.

Tvrdil také, že odpovědnost technologických společností za škodlivý obsah na jejich platformách by měla být omezena - pokud mají zavedeny účinné systémy moderování obsahu. Zuckerbergovy návrhy však v Bruselu přijaly rozhodně mrazivou recepci. I po setkání se Zuckerbergem EU trvala na tom, že nový návrh na moderování obsahu na Facebooku na mnoha frontách zaostal, zejména pokud nevymyslel konkrétní kroky, které by platforma podnikla v boji proti nezákonnému obsahu online. "To nestačí. Je to příliš pomalé, příliš nízké, pokud jde o odpovědnost a regulaci, “opáčil komisař pro datovou strategii Thierry Breton po svém sedění u vrcholového manažera Facebooku.

Kde je současný systém Facebooku nedostatek?

Tech giganti mají poměrně úzké okno, ve kterém přesvědčují evropské tvůrce politik, že jejich vlastní úsilí o omezení problematického obsahu je dostatečné. Zákon Komise o digitálních službách, dlouho očekávaná revize 20leté směrnice EU o elektronickém obchodu, by měl být uveden do konce letošního roku. Jak poznamenal Breton, „pokud zjistíme, že [vlastní postup Facebooku pro moderování obsahu] není tím, co potřebujeme, pokud jde o naše vlastní standardy, musíme to upravit a vložit do [Zákona o digitálních službách]“.

Facebook je rozhodnut, že je schopen vyřešit problém moderování obsahu sám - pomocí vylepšení v umělé inteligenci (AI) a strojového učení k posílení svého současného systému. Těžký úkol identifikace a odstranění problematického materiálu je v současné době zadáván externím profesionálům, kteří na základě vlastního uvážení určují, proč je obraz nebo video nevhodné.

Spoléhání se na takový lidský dohled je problematické vzhledem k příšerné povaze některých moderátorů obsahu, kteří jsou nuceni prosít - skutečnost, že zaměstnanci moderující obsah pro Facebook v Lisabonu, Dublinu a Varšavě potvrdili, že jejich práce jim dala PTSD, určitě zvýší červené vlajky v evropských institucích. Efektivita lidského umírnění byla navíc zpochybněna poté, co Facebook opakovaně nedokázal rychle odstranit škodlivý obsah, jako je živý přenos útoku mešity Christchurch v roce 2019.

AI může připojit některá z slepých míst na Facebooku

Inzerát

Umělá inteligence má potenciál významně snížit takovou závislost na moderování člověka. Algoritmy vyškolené strojovým učením mohou podporovat moderátory nejen snížením jejich vystavení škodlivému obsahu online, ale také zvýšením jejich produktivity a přesnosti. Facebook tvrdí, že doposud ve svých experimentech s umělou inteligencí viděl slibné výsledky - podle platformy se v druhé polovině roku 2019 platformě podařilo označit 99.8% grafického obsahu a 99.5% nahoty a vykořisťování dětí ještě předtím, než je uživatelé signalizovali. . Technologie samozřejmě potřebuje finetuning - algoritmy moderování obsahu založené na umělé inteligenci, které se stále zvlášť potýkají s rozpoznáváním nuancí nenávistných projevů, například - problémem, jemuž se Evropská unie zvlášť zabývá.

Evropská unie se navíc obává toho, aby Facebooku umožnila svobodnou vládu ve využívání tak citlivé technologie, jakou je AI. Tyto obavy pramení zejména ze špatných výsledků Facebooku při plnění evropských standardů transparentnosti - zvyšujících se přízraků, že by společnost mohla vyvinout „algoritmy černé skříňky“, které zabrání auditům třetích stran nebo vládních auditů na platformě.

V jádru digitální politiky - vydané minulý týden digitálním carem a šéfem soutěže EU, Margrethe Vestagerem - se reguluje, jak společnosti používají umělou inteligenci. Zatímco EU chce, aby vlády sledovaly rizikovější aspekty, jako je používání technologie rozpoznávání obličeje, mnoho aplikací ve vlastním dvorku Evropy ukazuje, jak ji lze bezpečně a efektivně používat. Může Facebook od nich vzít narážku?

Aplikace sociálních médií příští generace se vyznačují inovativním používáním AI

Zejména jedna evropská aplikace kreativně využila umělou inteligenci, aby svým mladým uživatelům poskytla bezpečnější a příjemnější zážitek. Yubo, live-streaming aplikace pro věk 13-25 let, spoléhá na rovnováhu mezi složitými algoritmy a vzdělává mladé lidi o online škodách, aby udržel své 20 milionů uživatelů v bezpečí na platformě. Pečlivě vyškolený algoritmus detekuje problematický obsah, jako je nahota nebo někdo pouze v jejich spodním prádle, v živém proudu - což je okamžik, kdy se spustí intervenční systém v reálném čase Yubo, který uživatelům pošle varovnou zprávu s vysvětlením, proč je takové chování nežádoucí. Pokud uživatel své chování neopraví, může být stream vzdáleně vypnut.

Aby bylo zajištěno, že aplikace je vyhrazena pro teenagery a mladé dospělé, mezitím Yubo uzavřela partnerství s populárním poskytovatelem digitální identity se sídlem ve Velké Británii, Yoti, který porovnává nahrané identifikační dokumenty s selfies uživatele pomocí softwaru pro rozpoznávání obličeje. Technologii Yoti - která je také nasazována v supermarketech, aby se zajistilo, že mladší 18 let nekupuje omezené zboží, jako jsou cigarety nebo alkohol -, mohou jiné aplikace v sociálních médiích použít k „věkové bráně“ své komunity nebo k zajištění toho, aby uživatelé byli kdo říkají, že jsou.

Yuboovy pokusy o utlumení problematického online obsahu v zárodku - kombinací moderování pomocí počítače a senzibilizace mladých uživatelů o tom, co dělat a co ne dobrého online protokolu - přinesly úvod do technologického sektoru. Měli by také poskytnout povzbudivý příklad jak pro technologické giganty, jako je Facebook, tak pro regulátory, jako je Evropská unie, že platformy sociálních médií mohou dosáhnout zdravé rovnováhy mezi přílišnou závislostí na umělé inteligenci nebo lidském dohledu.

Umělá inteligence není lék na výzvy, kterým čelí platformy sociálních médií. Protože se Facebook snaží přesvědčit EU o tom, že je schopen moderovat svůj vlastní obsah, bylo by to dobře posloužit tím, že se podá narážka z aplikací nové generace, kterým se podařilo vyvinout holistickou strategii, zahrnující AI, pro zajištění bezpečnosti uživatelů .

Sdílet tento článek: