Harari varuje před umělou inteligencí, která vytváří své vlastní hodnoty a přebírá kontrolu nad světem na propojené konferenci 2024 v Astaně

Varování před umělou inteligencí (AI) vyvíjenou „bez dostatečného přemýšlení a pozornosti k morálním zásadám“ a také před nebezpečím, že „AI vytváří své vlastní hodnoty“, „jediná sjednocující myšlenka, která lidstvu zbývá v rychle se rozvíjejícím světě strojů“ a technologie je vědomí její biologické podstaty,“ řekl spisovatel a humanista Yuval Noah Harari v přímém přenosu na konferenci „Connected 2024: Reimagining the Future“, která se konala v Paláci nezávislosti v Astaně v Kazachstánu dne 18. října 2024. 

S odkazem na AI nebo Alien Intelligence jako na „cizí“ zdůraznil, že rozhodnutí učiněná takovou anorganickou entitou se zásadně liší od lidských bytostí nebo zvířat a nebyla by „vhodná“ pro organické bytosti. "Myslím, že si musíme v 21. století připomenout naši biologickou podstatu, která je společná všem. Musíme zajistit, aby byl svět vhodný pro organické bytosti. Neměli bychom dovolit anorganickým bytostem, aby se toho zmocnily, vytvořily si vlastní časové osy a převzaly kontrolu nad světem," potvrdil autor bestsellerů Sapiens, Homo Deus a Nexus.

Zdůraznil, že „sociální média jsou prvním vážným setkáním lidí s umělou inteligencí“, vysvětlil, že nejdůležitější zpravodajské platformy, jako je TikTok, X, Facebook a YouTube, jsou z velké části řízeny umělou inteligencí, která se „nezajímá o hodnoty ani pravdu“, jejímž cílem je „zvýšit zapojení publika“.

"A co tato umělá inteligence objevila pokusem a omylem, experimentováním na milionech nebo miliardách lidských "laboratorních krys"? Zjistilo se, že je velmi snadné upoutat pozornost a udržet člověka na platformě déle šířením falešných zpráv, konspiračních teorií, nenávisti, chamtivosti a strachu, protože takový obsah nás aktivně přitahuje," pokračoval a dodal, že "jsme svědky úbytku racionálních a lidských rozhodnutí po celém světě." morálka nebo zásady“.

"AI může začít vymýšlet nové typy hodnot napříč všemi sférami - od finančních systémů po náboženství. Musíme nyní pochopit, co se stane s vládami a lidskou společností, když lidé ztratí kontrolu nad tak zásadními prvky, jako jsou politické nebo finanční systémy," poznamenal Harari.

Harari zdůraznil, že by se neměly opakovat chyby, ke kterým došlo během éry industrializace, jako je nástup totalitních režimů, jejichž cílem byla úplná kontrola nad politikou a společností s postavami jako Stalin a Hitler, a prohlásil, že „technologie sama o sobě není zlo. Problém je v tom, že nevíme, jak vybudovat kvalitní společnost založenou na používání AI“.

Prohlásil také, že nevěří v zásadní rozpory mezi lidmi, národy a zeměmi, které nelze překonat, a srovnává izolované kmeny z doby kamenné s propojenějšími lidmi dneška: Podle futuristy, více než 10,000 8 let historie, lidé našli způsoby, jak překlenout své rozdíly a naučili se spolupracovat s cizinci. "Dnes spolupráce přesahuje národní hranice. V jistém smyslu mluvíme o globální síti, která zahrnuje všech XNUMX miliard lidí na planetě," uzavřel Harari.

V panelu, který následoval po Harariho intervenci, tibetský lama a mistr Shyalpa Tenzin Rinpočhe (Nepál) předali podobné poselství a zdůraznili, že univerzální hodnoty, jako je mír, by mohly sjednotit Východ a Západ v jejich snaze o udržitelný rozvoj v těchto náročných časech politického života. nestabilita a rostoucí nerovnosti. Serik Tolukpayev, podnikatel, investor a zakladatel holdingu AITAS v Kazachstánu, uvedl, že „boj proti vlastnímu egu by byl prvním krokem k dosažení cílů udržitelného rozvoje OSN na celém světě“, zatímco mládežnická aktivistka Jakhini Bisselink z think-tanku Whetston v Nizozemsku poznamenala, že generace vůdců by měla být podporována vedením EQ, aby bylo možné bojovat proti rostoucí klimatické úzkosti ve světě.

Konference se zúčastnilo 2000 delegátů z více než 20 zemí, včetně místopředsedkyně vlády Kazachstánu Tamary Duisenové; humanista Gerd Leonhard; laureát Nobelovy ceny za zelenou ekonomiku Rae Kwon Chung; Předsedkyně Asociace futuristů a prognostická poradkyně Evropské komise Tanya Schindler; profesor na univerzitě v Oxfordu a autor bestselleru Hedvábná stezka: Nová historie světa Petr Frankopan; Zelená bohyně Číny a obhájkyně zeleného rozvoje Peggy Liu; Profesor Stanfordské univerzity a autor kurzů umělé inteligence Younes Bensouda; a nejprodávanější autor a první šéfredaktor WIRED časopis David Rowan.

Sdílet tento článek: