Umělá inteligence: Hrozby a příležitosti

Růst a bohatství Evropy úzce souvisí s tím, jak bude využívat data a související technologie. AI může pro naše životy udělat velký rozdíl a společnost - v dobrém i horším - a Evropský parlament zřídil výbor zkoumat dopad technologie. Níže uvádíme některé klíčové příležitosti a hrozby spojené s budoucími aplikacemi AI.

Přečtěte si více o tom, co je umělá inteligence a jak se používá.

Výhody AI

Země EU jsou již v digitálním průmyslu a aplikacích mezi podniky silné. Díky vysoce kvalitní digitální infrastruktuře a regulačnímu rámci, který chrání soukromí a svobodu projevu, by EU mohla stát se světovým lídrem v oblasti datové ekonomiky a jejích aplikací.

Výhody AI pro lidi

AI by mohla pomoci lidem se zlepšenou zdravotní péčí, bezpečnějšími auty a jinými dopravními systémy, přizpůsobenými, levnějšími a trvanlivějšími produkty a službami. Může také usnadnit přístup k informacím, vzdělání a odborné přípravě. Potřeba distančního vzdělávání se stala důležitější z důvodu Pandemie COVID-19. AI může také zvýšit bezpečnost pracoviště, protože roboty mohou být použity pro nebezpečné části pracovních míst, a otevírat nové pracovní pozice, jak průmyslová odvětví založená na AI rostou a mění se.

Příležitosti umělé inteligence pro podniky

U podniků může umělá inteligence umožnit vývoj nové generace produktů a služeb, a to i v odvětvích, kde evropské společnosti již mají silné postavení: zelená a oběhová ekonomika, stroje, zemědělství, zdravotnictví, móda, cestovní ruch. Může zvýšit prodej, zlepšit údržbu strojů, zvýšit produkční výkon a kvalitu, zlepšit služby zákazníkům a ušetřit energii.

Příležitosti AI ve veřejných službách

Umělá inteligence používaná ve veřejných službách může snížit náklady a nabídnout nové možnosti ve veřejné dopravě, vzdělávání, energetice a nakládání s odpady a mohla by také zlepšit udržitelnost produktů. Tímto způsobem by umělá inteligence mohla přispět k dosažení cílů EU Zelená dohoda EU.

Posílení demokracie

Demokracie by mohla být posílena pomocí kontroly založené na datech a prevence dezinformace a kybernetické útoky a zajištění přístupu ke kvalitním informacím. Umělá inteligence by také mohla podporovat rozmanitost a otevřenost, například zmírněním možnosti předsudků při rozhodování o přijímání zaměstnanců a používáním analytických údajů.

AI, bezpečnost a ochrana

Předpokládá se, že umělá inteligence se bude více používat v prevenci kriminality a v systému trestního soudnictví, protože by mohly být zpracovány rozsáhlé soubory dat rychleji, rizika útěku vězňů hodnocena přesněji, předvídána a předcházena trestná činnost nebo dokonce teroristické útoky. Online platformy ji již používají k detekci a reakci na nezákonné a nevhodné chování online.

Ve vojenských záležitostech lze umělou inteligenci použít k obranným a útočným strategiím při hackování a phishingu nebo k cílení na klíčové systémy v kybernetické válce, zatímco hlavní výhodou autonomních zbraňových systémů je potenciál zapojit se do ozbrojeného konfliktu se sníženým rizikem fyzického poškození.

Hrozby a výzvy AI

Zvyšující se závislost na systémech AI také představuje potenciální rizika.

Nedostatečné a nadužívání AI

Nedostatečné využívání umělé inteligence je považováno za hlavní hrozbu: nevyužité příležitosti pro EU by mohly znamenat špatné provádění hlavních programů, jako je EU Green Deal, ztráta konkurenční výhody vůči jiným částem světa, ekonomická stagnace a horší možnosti pro lidi. Nedostatečné využití by mohlo být způsobeno nedůvěrou veřejnosti a podniků v umělou inteligenci, špatnou infrastrukturou, nedostatkem iniciativy, nízkými investicemi nebo, protože strojové učení umělé inteligence závisí na datech, z fragmentovaných digitálních trhů.

Problematické může být také nadužívání: investice do aplikací umělé inteligence, které se ukázaly jako nepoužitelné, nebo aplikace umělé inteligence na úkoly, pro které není vhodná, například její použití k vysvětlení složitých společenských problémů.

Odpovědnost: Kdo je odpovědný za škody způsobené AI?

Důležitým úkolem je určit, kdo je odpovědný za škodu způsobenou zařízením nebo službou ovládanou umělou inteligencí: při nehodě, která zahrnovala auto s vlastním pohonem. Měla by být škoda kryta vlastníkem, výrobcem automobilu nebo programátorem?

Pokud by byl producent absolutně bez odpovědnosti, nemusel by existovat žádný podnět k poskytování dobrého produktu nebo služby a mohlo by to poškodit důvěru lidí v technologii; ale předpisy mohou být také příliš přísné a potlačovat inovace.

Hrozby AI pro základní práva a demokracii

Výsledky, které AI produkuje, závisí na tom, jak je navržena a jaká data používá. Návrh i data mohou být záměrně nebo neúmyslně ovlivněny. Například některé důležité aspekty problému nemusí být naprogramovány do algoritmu nebo mohou být naprogramovány tak, aby odrážely a replikovaly strukturální předsudky. Kromě toho by použití čísel k reprezentaci složité sociální reality mohlo způsobit, že AI bude vypadat věcně a přesně, i když tomu tak není. Toto se někdy označuje jako mathwashing.

Pokud by to nebylo provedeno správně, AI by mohla vést k rozhodnutím ovlivněným údaji o etnickém původu, pohlaví, věku při najímání nebo propouštění, nabízení půjček nebo dokonce v trestním řízení.

AI by mohla vážně ovlivnit právo na soukromí a ochranu údajů. Může být například použit v zařízeních pro rozpoznávání tváří nebo pro online sledování a profilování jednotlivců. Kromě toho umělá inteligence umožňuje slučování informací, které osoba poskytla, do nových dat, což může vést k výsledkům, které by osoba neočekávala.

Může to také představovat hrozbu pro demokracii; AI již byla obviňována z vytváření online ozvěnových komor založených na předchozím online chování člověka, zobrazování pouze obsahu, který by si člověk přál, namísto vytvoření prostředí pro pluralistickou, stejně přístupnou a inkluzivní veřejnou debatu. Může být dokonce použit k vytvoření extrémně realistického falešného videa, zvuku a obrazu, známého jako deepfakes, který může představovat finanční rizika, poškodit pověst a zpochybnit rozhodování. To vše by mohlo vést k oddělení a polarizaci ve veřejné sféře a manipulaci voleb.

AI by také mohla hrát roli při poškozování svobody shromažďování a protestů, protože by mohla sledovat a profilovat jednotlivce spojené s určitými vírami nebo činy.

Dopad AI na pracovní místa

Očekává se, že používání AI na pracovišti povede k eliminaci velkého počtu pracovních míst. Ačkoli se také očekává, že umělá inteligence vytvoří a zlepší pracovní místa, vzdělávání a odborná příprava budou hrát zásadní roli v prevenci dlouhodobé nezaměstnanosti a zajišťování kvalifikované pracovní síly.

Shromažďování informací by také mohlo vést k narušení hospodářské soutěže, protože společnosti s více informacemi by mohly získat výhodu a účinně eliminovat konkurenty.

Bezpečnostní a bezpečnostní rizika

Aplikace AI, které jsou ve fyzickém kontaktu s lidmi nebo jsou integrovány do lidského těla, mohou představovat bezpečnostní riziko, protože mohou být špatně navrženy, zneužity nebo hacknuty. Špatně regulované používání AI ve zbraních by mohlo vést ke ztrátě lidské kontroly nad nebezpečnými zbraněmi.

Problémy transparentnosti

Mohla by být využívána nerovnováha v přístupu k informacím. Například na základě online chování člověka nebo jiných údajů a bez jeho vědomí může online prodejce pomocí AI předpovědět, že je někdo ochoten zaplatit, nebo může jeho sdělení přizpůsobit politická kampaň. Dalším problémem transparentnosti je, že lidem někdy nemusí být jasné, zda interagují s AI nebo s osobou.