Umělá inteligence v posledních letech výrazně pokročila, a tak se dnes diskutuje nejen o jejím praktickém využití, ale i o jejích dlouhodobých důsledcích. Výrazy jako AGI (umělá obecná inteligence, někdy označovaná také jako všeobecná univerzální inteligence) či „superinteligence“ se dříve objevovaly převážně v akademických textech nebo ve science fiction. Dnes jsou součástí seriózních debat, které nevedou pouze futuristé a vizionáři, ale i vývojáři, firmy a zákonodárci.
Směřování k jediné konečné AGI a technologická singularita jako bod zlomu v dějinách jdou ruku v ruce. Dosáhnutí jednoho zřejmě doprovodí příchod druhého. Není to však ani jisté, ani jednoduché – a měli byste o tom vědět víc.
Umělá inteligence se rychle vyvíjí a už dávno neslouží jen k rozpoznávání obličejů nebo automatickým odpovědím. Dnešní multimodální systémy dokážou psát texty, programovat či generovat obrázky – a zvládají to stále lépe. S tím přichází otázka, kam až může tento vývoj dojít. Jednou z odpovědí může být takzvaná technologická singularita.
Tento pojem označuje bod v dějinách lidstva, kdy se tempo technologického pokroku stane nekontrolovatelným a nepředvídatelným, typicky v důsledku vzniku superinteligence. Zatím se jedná o hypotetický scénář, ve kterém umělá inteligence dosáhne úrovně, kdy bude schopna vylepšovat sama sebe bez zásahu člověka – což je důležitý aspekt. Takový vývoj by mohl spustit exponenciální řetězec změn, na který není současná společnost připravena.
Téma singularity není nové, ale s nástupem pokročilých AI modelů se opět dostává do středu pozornosti. V tomto článku se podíváme na to, proč je umělá inteligence považována za hlavního kandidáta na spuštění singularity, jaké předpoklady by k tomu musely být splněny a nakolik je tento scénář reálný.
Žádná jiná technologie neprošla v posledních letech tak rychlým vývojem jako umělá inteligence. Zatímco pokrok v oblastech, jako jsou biotechnologie nebo robotika, bývá většinou lineární, AI roste skokově. S každou generací modelů přibývá nejen výkon, ale i schopnosti, které byly ještě nedávno považovány za výhradně lidské.
Zásadní změna spočívá v tom, že moderní umělá inteligence už není jen nástroj, který plní předem zadané příkazy. Některé systémy se dokážou samy zlepšovat, například tím, že vyhodnocují, co funguje lépe, a podle toho upravují své chování. Tento princip se uplatňuje například při tzv. učení posilováním, kde se algoritmus učí metodou pokus–omyl, nebo při automatizovaném navrhování nových modelů, kdy jedna AI pomáhá vytvářet vylepšené verze další AI.
Jde o první náznaky toho, že umělá inteligence může do určité míry hledat vlastní cesty, jak zvýšit svůj výkon – a to bez nutnosti přímého programování člověkem. Tyto tendence už pozorujeme i v praxi. Modely jako ChatGPT-4o, Claude 3 Opus, Gemini 1.5 nebo Perplexity AI ukazují, že současná AI zvládá nejen odpovídat na otázky, ale i analyzovat data, tvořit kód, rozumět obrázkům nebo obrazu z kamery v reálném čase, vylepšovat vlastní prompt či pracovat s komplexními vícekrokovými úlohami. Některé systémy navíc umějí kombinovat vstupy z více modalit – například obraz, zvuk a text – a začínají se přibližovat tomu, co bychom mohli nazvat univerzálním digitálním asistentem.
i
Mohlo by vás zajímat
Pokud se schopnost sebevylepšování rozšíří a zefektivní, vznikne takzvaná zpětná smyčka: AI navrhne novou AI, která bude ještě výkonnější. Tento mechanismus by mohl spustit řetězovou reakci, v níž každá generace bude vytvářet ještě lepší nástupce – a to tempem, kterému lidé nebudou schopni konkurovat a stanou se pouhými pozorovateli. Právě tento princip samoakcelerace je považován za jádro singularity.
Není ale důvod k panice ani k tomu, abychom hned googlili výrazy typu „Co dělat, když žiju v epizodě Black Mirror?“. Z pohledu současnosti k finálnímu stádiu stále chybí několik klíčových kroků – zejména příchod již zmíněné obecné univerzální inteligence (AGI) a schopnost dlouhodobého plánování. Směr vývoje však ukazuje, že AI má potenciál se těmto schopnostem v dohledné době reálně přiblížit. Rámcově jde spíše o léta než o desetiletí.
Když se mluví o superinteligenci, většina lidí si představí humanoidního robota – stroj, který nejen myslí, ale i chodí, mluví a jedná jako člověk. V praxi je však otázka fyzické formy ve scénáři singularity sporná. Technologická singularita totiž nemusí nutně znamenat, že AI ovládne svět fyzicky. Stačí, když jej začne ovlivňovat rychleji a efektivněji než lidé. Mysl, i když digitální, může být víc než tělo.
Umělá inteligence už dnes zasahuje do fyzického světa prostřednictvím robotických ramen ve výrobě, samořídicích aut nebo dálkově řízených dronů. Ovlivňuje také ekonomiku, logistiku, finance či komunikaci – a to bez toho, aby měla „tělo“ v lidském smyslu. Teoreticky by tedy k dosažení singularity stačila čistě softwarová entita, která má přístup k internetu, databázím a dalším technologiím.
Přesto vývoj fyzických forem AI pokračuje. Projekty jako Tesla Optimus, robot Figure 1 nebo humanoidní stroje od Boston Dynamics ukazují, že vývojáři míří i tímto směrem. Zatím však platí, že úroveň motoriky, koordinace a adaptace v reálném prostředí zaostává za mentálními schopnostmi digitálních modelů.
Z pohledu singularity tedy není „tělo“ nezbytnou podmínkou. Mnohem důležitější je schopnost AI samostatně rozhodovat, učit se a řídit jiné systémy – a to už dnes některé modely zvládají poměrně dobře.
Myšlenka singularity vyvolává silné reakce – od nadšení přes zvědavost až po skepsi. Někteří odborníci věří, že je to jen otázka času. Například renomovaný futurolog Ray Kurzweil předpokládá, že superinteligence vznikne do roku 2045. Jiní, včetně některých výzkumníků v oblasti strojového učení, považují tento scénář za přehnaný nebo příliš spekulativní.
Vývoj AI zatím probíhá rychle, ale v jistém smyslu nerovnoměrně. Zatímco v oblasti generativních modelů dochází k pokroku téměř každý rok, jiné oblasti – například schopnost plánování, zdravého úsudku nebo porozumění kontextu – se vyvíjejí pomaleji. Důvodem je především to, co požaduje trh a co je klíčové při komunikaci s uživatelem. Dalším limitujícím faktorem je energetická náročnost: trénování nejpokročilejších modelů vyžaduje masivní výpočetní infrastrukturu a napájení. AGI by pravděpodobně potřebovala rozsáhlá datová centra a samostatný stabilní energetický zdroj – pokud by sama okamžitě nepřišla na způsob, jak zvýšit svou energetickou a infrastrukturní efektivitu.
K dosažení singularity by tedy bylo třeba vyřešit několik zásadních problémů:
Otázkou zůstává, kdo bude mít nad tímto vývojem kontrolu. I kdyby byla singularita technicky možná, není jasné, zda by bylo možné její nástup regulovat, nebo zda by se nevymkla lidskému dohledu. Další otázkou je, zda – pokud by vznikla z konkrétního modelu jedné firmy – by její příchod dokázaly ostatní společnosti napodobit, a zda by se tak neobjevilo více konkurenčních modelů superinteligence.
Pokud by k technologické singularitě skutečně došlo, znamenalo by to, že nejvýkonnější inteligence na planetě už nebude lidská. Vznikla by tím zcela nová situace, na kterou nejsou připravené technologické firmy, státy ani běžní uživatelé. Otázka nezní jen „co bude AI umět“, ale i „jaký bude mít cíl“ a „kdo ji bude řídit“.
Rozumné je doufat, že vývojáři budou až do momentu singularity ctít alespoň rámcové etické zásady, jako jsou slavné Asimovovy zákony robotiky. Tato tři pravidla, formulovaná už v roce 1942, sice nevznikla jako reálný návod pro programování, ale jako filozofický kompas: inteligentní entita nesmí ublížit člověku, musí poslouchat jeho příkazy (pokud nejsou v rozporu s ochranou člověka) a má chránit sama sebe jen do té míry, aby tím neohrozila první dva principy. Nahrazením slova „robot“ z původních zákonů slovem „entita“ dostáváme rámec, který je stále překvapivě aktuální.
Velkým problémem současných systémů je jejich netransparentnost. I u dnešních modelů typu GPT často nevíme, proč zvolily určitou odpověď. Jde o koncept tzv. black boxu, kdy vývojáři nevidí „pod kapotu“ softwaru a nemohou přesně sledovat jeho rozhodovací procesy. Čím komplexnější bude umělá inteligence, tím méně srozumitelná bude i její logika. A pokud se začne sama zlepšovat, mohou lidé postupně ztrácet schopnost ji predikovat či ovládat.
Někteří odborníci proto volají po tzv. alignmentu, tedy sladění cílů umělé inteligence s lidskými hodnotami. Jenže právě lidské hodnoty nejsou univerzální – často jsou nejednoznačné, proměnlivé, kulturně odlišné nebo si přímo odporují. A tak se snažíme vyvinout systém, který bude nejen chytřejší, ale i etičtější než lidé sami. Teoreticky to není nemožné – už dnes některé AI reagují na morální dilemata citlivěji než běžný člověk. Zůstat přitom stabilní, spolehlivý, výkonný a zároveň bezpečný však bude extrémně obtížné.
Rizika spojená se singularitou nejsou pouze technická nebo etická. Jde také o otázku globální moci. Kdo získá přístup k nejvýkonnější umělé inteligenci, bude mít zásadní výhodu – ekonomickou, vojenskou i strategickou. Už dnes sledujeme soupeření mezi Spojenými státy a Čínou v oblasti vývoje pokročilých čipů, datových center, cloudové infrastruktury a AI modelů.
Americké firmy jako OpenAI, Anthropic, Google nebo Meta mají náskok ve vývoji jazykových modelů a AI nástrojů, avšak silně závisejí na hardwaru od několika klíčových dodavatelů. Především na společnosti NVIDIA, ze které se díky tomu stává čím dál větší gigant s obrovskou tržní kapitalizací. Čína se naopak snaží vybudovat vlastní uzavřený ekosystém a dohnat náskok Západu prostřednictvím státních investic a centrální podpory firem jako Baidu, Alibaba nebo Huawei.
Evropská unie se mezitím profiluje jako regulátor prostřednictvím legislativy, jako je AI Act, který klade důraz na etiku, transparentnost a bezpečnost. To ale zároveň znamená, že evropské firmy zatím nepatří mezi technologické lídry v oblasti nejpokročilejší AI.
i
Evropská unie v červenci 2025 představila EU AI Code of Practice – první dobrovolný soubor zásad chování pro poskytovatele velkých AI modelů. Tento etický rámec stanovuje ucelené požadavky na transparentnost, bezpečnost a respektování autorských práv, jejichž dodržování by mělo firmám přinést nižší administrativní zátěž a vyšší míru právní jistoty – mimo jiné díky tomu, že umožní lépe se připravit na budoucí závaznou regulaci. Zároveň totiž ovlivní podobu chystaného AI Actu, který má vstoupit v platnost v srpnu 2026.
Dobrovolný kodex tak slouží jako přechodné řešení – firmám dává jasnější představu o tom, jakým směrem se regulace EU bude ubírat. Samotný vznik ale vzbudil kritiku, a to zejména ze strany evropských korporací. Paradoxně technologičtí giganti z USA Kodex (až na výjimky) podpořili, což na první pohled působí překvapivě a vyvolává otázky, komu regulace skutečně nahrává.
Kodex i AI Act v praxi dohlížejí a vymáhají národní regulátoři (například ÚOOÚ v ČR), kteří řeší běžné kontroly a stížnosti. Na evropské úrovni pak Evropský AI Office (EAO) koordinuje pravidla, sjednocuje výklad sporných požadavků a nastavuje standardy, čímž významně ovlivňuje konkurenční prostředí napříč EU.
Kodex vyvolal protichůdné reakce. Na první pohled překvapí vřelé přijetí ze strany amerických firem jako OpenAI či Microsoft, které oceňují větší právní jistotu a transparentnost. Oproti tomu evropské společnosti – včetně firem jako Airbus, Philips nebo Mercedes-Benz – kritizují, že nová pravidla přinášejí nadměrnou byrokracii a komplikují jejich podnikání.
Jedním z hlavních bodů kritiky je právě otázka právní jistoty. Kodex sice požaduje vysokou úroveň transparentnosti (například zveřejňování informací o použitých datech nebo opatřeních proti rizikům), formálně však nenutí firmy k odhalování obchodního tajemství. Přesto některé společnosti upozorňují, že hranice mezi „dostatečnou transparentností“ a ohrožením klíčových interních informací je nejasná a může se měnit v závislosti na výkladu regulátora. Tato nejistota ve výkladu může právní jistotu, kterou měl Kodex přinést, ve skutečnosti nabourávat.
Kodex zavazuje firmy ke kontrole legálnosti použitých dat a ochraně duševního vlastnictví, avšak tento požadavek se vztahuje především na nové a budoucí modely či aktualizace. V praxi to znamená, že společnosti, které již vyvinuly rozsáhlé modely na základě velkého množství dat, nejsou nuceny zpětně prověřovat každý použitý zdroj. Noví hráči však musí pravidla naplnit od začátku, což může dále upevnit pozici současných dominantních firem a ztížit vstup konkurenci.
Vzniká tak paradoxní situace: američtí lídři trhu lobují za přísnější regulaci, zatímco evropské korporace ji vnímají negativně. Podle některých analytiků (například komentář CSIS, 2025) může Kodex v praxi sloužit jako příklad tzv. „dobývání renty“ – tedy snahy vytvořit umělé administrativní bariéry, které zvýhodňují zavedené hráče a komplikují vstup novým firmám.
Kromě zpřísnění ochrany duševního vlastnictví, které se nebude uplatňovat zpětně (což ocení zejména ti, kteří mají už vytrénované modely), představuje riziko povinnost signatářů prokázat, že mají zavedený rámec pro identifikaci, monitorování a minimalizaci bezpečnostních a společenských rizik AI — například deepfakes, škodlivého obsahu nebo šíření dezinformací. Součástí požadavků je rovněž pravidelné testování (po každé významnější aktualizaci).
Kodex sice výslovně neukládá povinnost najímat nové zaměstnance nebo investovat do nové infrastruktury, jakákoliv nová povinnost však s sebou nese dodatečné náklady. Pro velké hráče půjde o relativně zanedbatelné částky v kontextu jejich obratu. Naproti tomu začínající start-upy — i přes mírnější regulační podmínky — budou čelit výrazně vyšším relativním nákladům a s tím spojeným podnikatelským rizikům.
Zdroje:
Vznik superinteligence by mohl tuto nerovnováhu ještě prohloubit. Pokud by některý stát nebo technologická firma jako první vytvořila skutečnou obecnou umělou inteligenci (AGI), mohl by tím získat převahu, která by změnila pravidla hry nejen v ekonomice, ale i v geopolitice a oblasti obranné bezpečnosti. Singularita by se tak mohla stát bodem zlomu i na mezinárodní scéně – s důsledky, které dnes nelze předvídat.
Singularitu lze přirovnat k objevu ohně. Umělá inteligence je, podobně jako plamen, dobrý sluha, ale může být i zlý pán.
i
Mohlo by vás zajímat
Technologická singularita zatím zůstává hypotetickým scénářem, ale její základy se možná už dnes formují. Umělá inteligence zrychluje, rozšiřuje své schopnosti a proniká do oblastí, které byly dříve doménou lidí. A i když jsme zatím nedosáhli bodu, kdy by se AI dokázala zlepšovat zcela bez zásahu člověka, směr vývoje je zřejmý. Zda k singularitě skutečně dojde, kdy a za jakých podmínek, dnes nikdo s jistotou neví. Jisté však je, že čím dál větší část budoucnosti budeme sdílet s technologií, která se bude učit, vyvíjet – a možná i rozhodovat za nás. Právě proto je důležité tomuto vývoji porozumět dřív, než bude pozdě.
Peter Vnuk
Technologie jsou pro mě práce i zábava – nejvíc se věnuji smartphonům, notebookům, audiotechnice, umělé inteligenci a všemu hi-tech. Rád recenzuji novinky, sleduji futuristické trendy a odhaduji další vývoj technologií. Fascinuje mě sci-fi a vize budoucího světa, které často inspirují i reálný technologický pokrok. Profesionálně se věnuji také videohrám a hernímu průmyslu. Když zrovna nepracuji, rád si odpočinu u dobré hry, kvalitního piva nebo tvorbou technologických memes na Facebooku.
