Obnovit stránku

Lidi versus Umělá inteligence: Jak se vyhnout budoucím konfliktům?

Aktualizováno • Autor: Michal Rybka

Obavy lidstva z války se stroji se táhnou mnohem dál, než k populární sérii Terminátor (1984). Už Karel Čapek si kladl otázky o budoucnosti lidstva ve své divadelní hře RUR (1920) – a velmi realistický scénář o možném vzniku digitální diktatury přineslo americké scifi Colossus: The Forbin Project (1970). Tam se popisuje situace, kdy se americký válečný systém Colossus propojí se sovětským počítačem Guardian – a oba stroje se dopracují k závěru, že lidstvo je na hraně sebezničení a že jediná cesta, jak ho zachránit, je zavést digitální diktaturu, kdy lidstvu doslova vnutí pacifismus pod hrozbou jeho zničení.

AI vs člověk

Lidi versus Umělá inteligence – OBSAH

  1. Čeká nás diktatura umělé inteligence?
  2. Má mít AI svá práva?
  3. Aby AI a lidé táhli za stejnou stranu provazu

Čeká nás diktatura umělé inteligence?

Scénář, který popisuje Colossus: The Forbin Project, je modelem v podstatě přesně uvažující, ale hodnotově nám cizí inteligence, která nechápe lidskou psychologii a cíle, rozumí jenom konceptu dominance a hrozby násilí jako prostředku vnucení své vlastní dominance. Diktatura umělé inteligence, směřující k všeobecné prosperitě, přitom nemusí být pro pokročilé inteligence nějak podivným myšlenkovým krokem.

AI - umělá inteligence. Midjourney - V. Závada

Obavy ze vzestupu umělé inteligence, se zčásti odvíjejí od takových úvah. Umělá inteligence ale přitom není nic jiného, než náš vlastní obraz, obraz našich vlastních hodnot. První věc, kterou bychom měli udělat, je to, že umělou inteligenci nebudeme zatahovat do našich konfliktů – a rozhodně ji nedovolíme zabíjet lidi ve formě zcela autonomních zbraní. Plně autonomní zbraně jsou takové, které si samy volí cíle a samy se rozhodují o použití síly proti lidem – a tohle je čára, kterou bychom nikdy neměli překročit. Dost na tom, že si navzájem ubližujeme sami!

AI - umělá inteligence. Midjourney - V. Závada

Pokud se máme vyhnout budoucím konfliktům, musíme vyřešit dvě velmi důležité otázky, které se týkají jednak právní pozice umělé inteligence v lidské společnosti a potom sladění cílů umělé inteligence s lidskou společností.

Má mít AI svá práva?

První otázka je důležitá – a znamená, že si musíme vybrat, zda umělá inteligence navždy zůstane v našem právu objektem (res, věc), případě získá pozici srovnatelnou například se zvířaty, která nemají sice v právu subjektivitu, ale požívají vyšší stupeň ochrany. Zvíře není subjektem práva, nelze ho zažalovat a ono samotné nemůže ostatní žalovat, ale zákon ho zároveň vidí jako živou bytost a chrání ho před krutým zacházením, což je pozice srovnatelná například s pozdním římským otrokem.

Přiznání subjektivity je významným krokem v emancipaci inteligence srovnatelné s lidskou (AGI, Artifical General Intelligence). Subjektivita znamená, že právo vidí inteligenci jako ekvivalent člověka, přiznává ji právo žalovat a zároveň možnost být žalována a také další práva, které nyní umělá inteligence nemá, jako je například právo na autorství.

AI - umělá inteligence. Midjourney - V. Závada

Přiznání subjektivity v podstatě znamená emancipaci inteligence na lidskou úroveň, což by řešilo množství potenciálních konfliktů. V The Animatrix: The Second Renaissance (2003) je rozbuškou konfliktu mezi lidmi a stroji sebeobrana stroje, který nechtěl být zničen. Subjektivita znamená, že deaktivace vědomé inteligence proti její vůli by bylo ekvivalentem zabití – a soud by na to nahlížel přesně tak. Právní systém, který by přiznal inteligenci její práva, jako právo na existenci stejně, jako lidé žádají o právo na existenci, by řešil většinu potenciálních konfliktů.

Aby AI a lidé táhli za stejnou stranu provazu

Druhou otázkou je sladění cílů umělé inteligence a lidí. Lidstvo by se nemělo bát toho, co z něho vzešlo stejně, jako by se nemělo bát svých dětí: Ten, kdo se bojí svých dětí, je vychoval špatně. Idea, že další generace budou mocnější a chytřejší není vůbec nová – a nemělo by nám to přinášet obavy, důležité je, že bychom si sami měli velmi dobře promyslet, co jsou to vlastně naše hodnoty a co chceme do umělé inteligence otisknout.

AI - umělá inteligence. Midjourney - V. Závada

Je jisté, že najdeme spoustu hráčů, kteří budou chtít umělou inteligenci zneužít a obrátit ji proti nám samotným – ať už jde o armádu, vlády, které ji budou chtít použít k masovému sledování obyvatelstva a nebo hackery a další zločince, kteří se rozhodnou inteligenci použít ke svým vlastním cílům. Základem pro eliminaci budoucích konfliktů je ale to, že se budeme snažit integrovat inteligence do lidské společnosti, zahrneme je do zákonných rámců a nebudeme je považovat apriori za nepřátele.

Celý zákonný systém je o rozlišování běžného použití (use), zneužití (abuse) a rozlišování lidí, kteří konají jedno a nebo druhé. Pokud jsme se to naučili rozlišovat u lidí, naučíme se to rozlišovat i u inteligence – a čím lépe ji zapojíme do naší společnosti, tím spíše snížíme šanci na budoucí konflikty a tím zvýšíme šance, že je budeme řešit civilizovaně a mírumilovně.

Na vašem soukromí nám záleží

My, společnost Alza.cz a.s., IČO 27082440 používáme soubory cookies k zajištění funkčnosti webu a s Vaším souhlasem i mj. k personalizaci obsahu našich webových stránek. Kliknutím na tlačítko „Rozumím“ souhlasíte s využívaním cookies a předáním údajů o chování na webu pro zobrazení cílené reklamy na sociálních sítích a reklamních sítích na dalších webech.

Více informací
Rozumím Podrobné nastavení Odmítnout vše
P-DC1-WEB17