Do AI nebo ne do AI? Směrem ke smlouvě o umělé inteligenci

Vzhledem k tomu, že umělá inteligence způsobuje revoluci ve světě, zákonodárci EU se ji snaží regulovat z hlediska hodnot a zachování bezpečnosti. Zákon o umělé inteligenci, první zákon svého druhu, má sloužit nejlepším zájmům občanů EU. Protože jsou však technologie dostupné pro kohokoli a vyvíjejí se rychleji, než mohou předpisy držet krok, je zapotřebí globální strategie. Světová strategie „propojování nepropojených“ čelí významným a složitým výzvám, které vyžadují řešení v širším měřítku. V této souvislosti by EU měla zvážit uspořádání mezinárodního summitu s cílem stanovit základní zásady pro bezpečnější postupy umělé inteligence směrem ke Smlouvě o umělé inteligenci., píše Francesco Cappelletti, Senior Policy & Research Officer, Evropské liberální fórum (ELF); výuka kybernetické bezpečnosti na bruselské škole vládnutí; Výzkumný pracovník, CDSL, Vrije Universiteit Brussels.

AI a související trendy

Přestože má neregulovaná a zneužitá umělá inteligence daleko ke scénáři podobnému Matrixu, může pro naše společnosti vytvářet výzvy. Může ovlivnit naše chápání informací a v důsledku toho ohrozit zásadní základ v srdci naší společnosti: demokracii.

Ohledně umělé inteligence existují různé obavy: mohla by nahradit lidi v zaměstnání, pokud by byla zneužita, činit neobjektivní rozhodnutí a zvýšit nerovnost. Největším problémem však může být, že umělá inteligence nahlodává naši svobodnou vůli používáním shromážděných dat a manipulací s naším chováním, možná aniž bychom si to uvědomovali.

Seznam hrozeb sahá tak daleko, jak se spiklenci mohou dostat, posílený bezpočtem sci-fi filmů v průběhu desetiletí. Klíčovým principem je zde však spíše zachovat pozitivní postoj k technologiím, než je zakazovat, vypínat aplikace nebo omezovat přístup k (jakýmkoli) inovacím. Technologie je ze své podstaty neutrální a její společenský dopad je dán tím, jak ji používáme. Tento koncept také znamená, že jednotlivci si mohou svobodně vybrat, kterou technologii použijí. Výzva tedy spočívá v nalezení rovnováhy mezi samotnou technologií a tím, jak ji integrujeme do naší společnosti.

Zatímco technologická neutralita je zásadním milníkem v dnešním rychle se vyvíjejícím digitálním prostředí, obraz kolem umělé inteligence je mírně ohraničený (a složitý). Mnoho nedemokratických zemí, jako je Čína se svým sociálním kreditním systémem nebo Severní Korea s přísnou kontrolou informací, může být v pokušení (pokud ještě nejsou) používat umělou inteligenci k ovládání informací, občanů a manipulaci demokracie do kvazi- totalitního režimu. Zůstává náročné eticky kontrolovat technologii, když je sdílena se zeměmi, které zastávají různé hodnoty. Definici a taxonomii umělé inteligence v EU je také třeba posuzovat v kontextu její regulační pravomoci (známé také jako „Bruselský efekt“), u níž je méně pravděpodobné, že bude mít dopad na bezhraniční oblast kyberprostoru.

AI a regulační přístup EU

Inzerát

Navzdory obavám ze svých aplikací se umělá inteligence neustále vyvíjí, přinese významné změny napříč různými sektory a průmyslovými odvětvími, jako jsou informační technologie, finance, zdravotnictví, marketing a robotika, a promění společnost tak, jak ji známe dnes. Učiní Schumpeterovu „kreativní destrukci“ realitou a vyplní mezery v úplné realizaci síťové společnosti. Za těchto okolností má včasná regulace zajistit postavení EU jako lídra v řízení technologií AI.

Trialog zahrnující Evropskou komisi, Radu a Parlament, soustředěný kolem „zákona o AI“, připravuje půdu pro vůbec první nařízení o AI ze strany klíčového globálního hráče, Evropské unie. Aktualizovaná pravidla EU zpřehledňují definice umělé inteligence, harmonizují pravidla a zaměřují se na transparentnost a etiku. Revidované nařízení také usnadňuje dodržování pravidel, podporuje testování nových nápadů AI a pomáhá připravit se na dopad AI na budoucnost.

I když nová pravidla AI znamenají důležitý krok vpřed v řešení problémů souvisejících s AI, nemusí stačit k řešení mezinárodních dimenzí a dimenzí otevřeného přístupu, ve kterých se technologie vyvíjí – a tedy i jejích budoucích výzev.

Navigace AI a (kyber) supervelmoc

Technologie a budoucnost jsou rozsáhlá témata, která mohou být obtížně uchopitelná. Naše životy mění technologie: ovlivňuje to, jak myslíme, chováme se, a dokonce utváří naši kulturu. Žijeme ve stavu „neustálých inovací“, kde se naše priority mohou rychle měnit a víra v základní hodnoty bude možná muset být za několik let přehodnocena. To, co dříve trvalo desítky let a přešlo několik generací, se nyní může stát během několika měsíců nebo let s vydáním nejnovější technologie. Nové generace ponořené do „metaverzní“ společnosti mohou upřednostnit přístup ke vylepšeným službám před obavami o kontrolu dat nebo soukromí, jak to děláme nyní.

Tyto potenciálně související trendy by neměly vést k tomu, že předpisy budou zastaralé. Místo toho zdůrazňují potřebu chytřejších předpisů, politik a politických přístupů. To zahrnuje vytvoření flexibilních legislativních rámců, které mohou držet krok s budoucím technologickým pokrokem.

Objevuje se nová, nekonvenční supervelmoc, kterou bychom mohli nazvat „kyberprostor“ a zahrnuje superpočítače, AI, metaverse a všechny budoucí technologie. Zvládnutí této supervelmoci vyžaduje strategickou rovnováhu sil. Ve světle této situace musí EU úzce spolupracovat s průkopníky umělé inteligence – a stejně smýšlejícími partnery – jako jsou USA a Spojené království, protože žádný samostatný subjekt, organizace ani národ nemohou tyto výzvy samostatně řešit.

Svět je propojený a má významné a složité výzvy, které je třeba řešit v širším měřítku. Proto by měl být vytvořen globální konsenzus o upřednostňování hodnot v aplikacích AI, aby bylo zajištěno sdílené porozumění výhodám spolupráce při bezpečném nasazení AI. „Zákon o AI“ se zdá být slibným výchozím bodem pro vytvoření základu v této oblasti. K řešení této výzvy je však zapotřebí globálního přístupu. Evropa by měla udělat krok vpřed a vytvořit platformu pro globální summit, na kterém by se dohodly základní principy pro bezpečnější praktiky umělé inteligence, a potenciálně dokonce vytvořit základy pro Smlouvu o umělé inteligenci.

Sdílet tento článek: