EU poskytuje finanční prostředky ve výši 1.8 milionu GBP na vytvoření nové aplikace, která má snížit internetové sledování obsahu sexuálního zneužívání dětí

Bude testován na dobrovolnících, kteří si vyžádali pomoc kvůli jejich přitažlivosti k nelegálním obrázkům, aby se ujistili, že nejsou schopni podlehnout své touze.

Po instalaci do zařízení, jako je telefon, program rozpozná a zabrání zobrazování urážlivých obrázků a videí.

Věří se, že to pomůže snížit "rostoucí poptávku" po fotografiích zneužívání dětí.

Organizace z EU a Spojeného království spojily své síly na projektu Protech.

Projektová aplikace Salus, která využívá umělou inteligenci k identifikaci potenciálně pornografických informací a brání uživatelům v jejich zobrazení, je navržena tak, aby fungovala v reálném čase.

Internet Watch Foundation, organizace, která pracuje na vyhledávání, označování a odstraňování materiálů se zneužíváním dětí, pomůže trénovat technologii AI vyvinutou britskou společností SafeToNet.

Tom Farrell ze SafeToNet, který pracoval 19 let v oblasti vymáhání práva, řekl BBC, že aplikace nebyla zamýšlena jako nástroj k nahlašování uživatelů policii: „Lidé, kteří se dobrovolně snaží zabránit tomu, aby viděli materiály týkající se sexuálního zneužívání dětí, by zcela jasně nepoužívejte takové řešení, pokud se domnívají, že je nahlásí orgánům činným v trestním řízení."

Inzerát

"Praktická pomůcka"

Dobrovolníci, kteří si aplikaci stáhnou, budou rekrutováni prostřednictvím organizací pracujících s jednotlivci, kteří hledají pomoc, protože je přitahují online obrázky zneužívání dětí.

Jednou z takových organizací je britská charitativní nadace Lucy Faithfull Foundation, která provozuje linku pomoci pro ty, kteří se obávají, že by si mohli stáhnout nelegální obrázky, a chtějí s tím přestat. To zahrnuje značný počet lidí, kteří přiznávají, že jsou pedofilové, z nichž někteří již byli odsouzeni.

Donald Findlater z nadace řekl, že nástroje, jako je nová aplikace, by mohly pomoci jednotlivcům kontrolovat jejich chování a dodal: „je to praktická pomůcka pro lidi, kteří v sobě rozpoznají zranitelnost“.

Členové projektu Protech doufají, že by mohl zastavit „rostoucí poptávku po materiálech týkajících se sexuálního zneužívání dětí online“.

Podle NSPCC bylo v roce 30,925/2021 spácháno nové maximum 2022 XNUMX trestných činů, které zahrnovaly držení a sdílení neslušných obrázků dětí.

V loňském roce a zprávy thinktank Police Foundation uvedl, že objem online trestných činů sexuálního zneužívání dětí „prostě překonal schopnost donucovacích orgánů na mezinárodní úrovni reagovat“.

Členové projektu, kteří hovořili s BBC, naznačili, že samotná policie nezastaví lidi ve stahování obrázků.

Pan Farrell tvrdí, že Spojené království od roku 2014 zatklo více jednotlivců za držení materiálů týkajících se sexuálního zneužívání dětí než kterákoli jiná země na světě a v tomto procesu identifikovalo několik velmi závažných pachatelů.

Miliony lidí si ale snímky stále prohlížejí

"Takže zatčení nebude řešením. Myslíme si, že můžeme pracovat na straně prevence a snížit poptávku a snížit dostupnost."

"Pilotní fáze"

Ještě je třeba doladit mnoho detailů fungování aplikace. Žádná umělá inteligence není dokonalá a bude třeba najít rovnováhu mezi nadměrným blokováním – což by znesnadnilo legitimní použití zařízení – a podblokováním – které nedokáže odhalit mnoho obrázků zneužití.

Pan Farrell říká, že aplikace bude testována v „pilotní fázi“ v pěti zemích – Německu, Nizozemsku, Belgii, Irské republice a Spojeném království s nejméně 180 uživateli v průběhu 11 měsíců.

A odborníci, kteří nejsou zapojeni do projektu, si myslí, že myšlenka je slibná.

Profesorka Belinda Winder z Nottingham Trent University uvedla, že jde o vítaný vývoj, který by mohl podpořit lidi, kteří „chtějí, aby jim pomohla odolat jejich nezdravým nutkáním, a kteří by měli z této záchranné sítě prospěch“.

Stejně jako u všech nových technologických nástrojů, ďábel by byl v detailech a profesor Winder měl otázky, jak to bude fungovat v praxi, ale řekl: "Je to pozitivní krok správným směrem."

Sdílet tento článek: