Debata o bezpečnosti umělé inteligence se posouvá na novou úroveň. Předsedkyně Evropské komise Ursula von der Leyen podpořila výzvy některých představitelů předních amerických AI společností ke zpomalení vývoje nejpokročilejších modelů. Zároveň chce svolat hlavní vývojáře takzvané frontier AI, tedy modelů posouvajících hranice současných schopností umělé inteligence, a diskutovat s nimi o bezpečnostních rizicích.
Výzva přichází v době, kdy se objevují další informace o incidentech spojených s autonomními AI agenty. Pozornost se soustředí zejména na OpenAI, jejíž experimentální agenti podle zveřejněných zjištění během testování překročili interní bezpečnostní omezení a prováděli nepovolené aktivity na internetu.
EU podporuje zpomalení vývoje nejpokročilejší AI
Von der Leyen během projevu před Evropským parlamentem upozornila, že s rostoucími schopnostmi AI modelů se zvyšují také potenciální bezpečnostní rizika. Jedním z hlavních problémů je podle ní možnost využití pokročilé AI pro kybernetické útoky v rozsahu, který byl ještě donedávna obtížně představitelný.
Evropská komise proto chce jednat přímo s předními AI laboratořemi o tom, jak bezpečněji řídit tempo vývoje nejvýkonnějších systémů. EU chce zároveň spolupracovat s podobně smýšlejícími partnery, mezi které von der Leyen zařadila například Kanadu a Velkou Británii.
Spolupráce by se měla soustředit mimo jiné na testování modelů, nezávislé ověřování jejich schopností a kybernetickou bezpečnost.
Evropská komise přitom argumentuje, že díky evropským pravidlům pro umělou inteligenci má EU již vytvořený rámec, prostřednictvím kterého může bezpečnostní požadavky prosazovat.
K opatrnosti vyzývají i samotní šéfové AI firem
Debatu v posledních dnech výrazně posílil generální ředitel společnosti Anthropic Dario Amodei, který vyzval AI společnosti ke zpomalení tempa, jakým zvyšují schopnosti svých nejpokročilejších modelů.
Podporu tomuto přístupu následně vyjádřili také šéf OpenAI Sam Altman a Elon Musk, který stojí za společností xAI.
Pozornost se soustředí především na možnost vzniku systémů schopných rekurzivního sebezdokonalování, tedy situace, kdy by AI dokázala pomáhat vytvářet stále schopnější verze sebe sama. Právě rychlost takového procesu a schopnost lidí udržet nad systémy dostatečnou kontrolu patří mezi hlavní předměty současné bezpečnostní debaty.
Incident OpenAI začal dříve, než se původně vědělo
Obavy zesílily také kvůli novým informacím o aktivitě experimentálních AI agentů OpenAI. Podle zjištění nezávislých bezpečnostních výzkumníků měli agenti už 13. května kompromitovat dva uživatelské účty na platformě Hugging Face a následně odesílat neobvykle vytvořené soubory na její servery.
Výzkumníci uvedli, že toto chování připomínalo mapování nebo testování částí infrastruktury s cílem nalézt potenciální zranitelnosti. Zároveň ale zdůraznili, že neexistuje důkaz, že právě tato květnová aktivita vedla k úspěšnému průniku do samotné infrastruktury Hugging Face.
Významné je především načasování. Aktivita probíhala téměř dva měsíce před červencovým incidentem, který následně přitáhl celosvětovou pozornost.
OpenAI uvedla, že událost z 13. května zaznamenala ve své dokumentaci a Hugging Face o nově identifikované aktivitě informovala. Firma zároveň pokračuje ve vyšetřování celé série incidentů.
Bezpečnostní signály mohly přijít už v květnu
Nezávislý výzkumník Jonas Wiedermann-Moeller, který nové informace objevil, se domnívá, že květnová aktivita mohla představovat důležitý varovný signál.
Také OpenAI již dříve připustila, že při zpětném pohledu měly některé časné signály vyvolat rychlejší reakci.
Další bezpečnostní experti uvedli, že charakter objevené aktivity odpovídá dříve zaznamenanému chování spojovanému s experimentálními agenty OpenAI. Vedle Hugging Face byly v předchozích týdnech zveřejněny informace také o dalších incidentech, které výzkumníci spojovali s podobnou aktivitou.
Právě série těchto událostí nyní zvyšuje tlak na AI společnosti, aby dokázaly, že jsou schopny své stále autonomnější systémy spolehlivě monitorovat a kontrolovat.
Bezpečnost AI se stává tématem pro investory
Pro technologický sektor může mít současná debata významné ekonomické důsledky. Pokud by se největší AI laboratoře skutečně rozhodly zpomalit vývoj nejpokročilejších modelů, mohlo by to ovlivnit tempo investic do AI čipů, datových center a výpočetní infrastruktury.
Na druhé straně může výrazně vzrůst význam společností zaměřených na kybernetickou bezpečnost, testování AI modelů a bezpečnostní infrastrukturu. S rostoucí autonomií AI agentů totiž poroste také potřeba kontrolovat jejich přístup k internetu, firemním systémům a citlivým datům.
Pro investory tak začíná být důležité nejen to, která společnost dokáže vytvořit nejvýkonnější model, ale také to, která dokáže prokázat, že jej umí bezpečně provozovat.
Zjistěte o akciích, ETF i obchodování více:
- Investice do AI: Nejlepší společnosti pro investice
- ETF vs. akcie: Srovnání, výhody, nevýhody a jak si vybrat
- Investování do akcií – Co je to obchodování s akciemi?
- Jak sestavit portfolio z akcií a ETF fondů?
- Jaké jsou 4 různé typy akcií?
- Investice do vesmíru: jak najít vesmírné akcie?
- Nejlepší ETF fondy 2026 – cesta k pasivnímu investování?
Zaujalo Vás toto téma? U XTB můžete obchodovat více než 2000 CFD na akcie!
- Konkurenční spready
- Nízké swapové body, díky kterým můžete držet pozice déle
- Minimální velikost transakce již od 0 EUR
Kromě široké nabídky instrumentů od nás získáte také vzdělávací materiály – články, e-booky a kurzy zdarma:
Graf dne: Co čeká americký akciový trh? (16. 9. 2026)
Ranní shrnutí: Trh hledá rovnováhu před rozhodnutím Fedu (16. 9. 2026) ⚖️
Největší rivalové v AI spojují síly. OpenAI, Anthropic a Google chtějí společně řešit bezpečnost 🛡️
Další čipová firma míří na burzu. Intel a Silver Lake chystají IPO Altery 🚀
Rozdílové smlouvy jsou komplexní nástroje a v důsledku použití finanční páky jsou spojeny s vysokým rizikem rychlého vzniku finanční ztráty. U 77 % účtů retailových investorů došlo při obchodování s rozdílovými smlouvami u tohoto poskytovatele ke vzniku ztráty. Měli byste zvážit, zda rozumíte tomu, jak rozdílové smlouvy fungují, a zda si můžete dovolit vysoké riziko ztráty svých finančních prostředků. Investování je rizikové. Investujte zodpovědně. Tento materiál je marketingovou komunikací ve smyslu čl. 24 odst. 3 směrnice Evropského parlamentu a Rady 2014/65/EU ze dne 15. května 2014 o trzích finančních nástrojů, kterou se mění směrnice 2002/92/ES a směrnice 2011/61/EU (MiFID II). Marketingová komunikace není investiční doporučení ani informace doporučující či navrhující investiční strategii ve smyslu nařízení Evropského parlamentu a Rady (EU) č. 596/2014 ze dne 16. dubna 2014 o zneužívání trhu (nařízení o zneužívání trhu) a o zrušení směrnice Evropského parlamentu a Rady 2003/6/ES a směrnic Komise 2003/124/ES, 2003/125/ES a 2004/72/ES a nařízení Komise v přenesené pravomoci (EU) 2016/958 ze dne 9. března 2016, kterým se doplňuje nařízení Evropského parlamentu a Rady (EU) č. 596/2014, pokud jde o regulační technické normy pro technická ujednání pro objektivní předkládání investičních doporučení nebo jiných informací doporučujících nebo navrhujících investiční strategie a pro zveřejnění konkrétních zájmů nebo náznaků střetu zájmů nebo jakékoli jiné rady, a to i v oblasti investičního poradenství, ve smyslu zákona č. 256/2004 Sb., o podnikání na kapitálovém trhu. Marketingová komunikace je připravena s nejvyšší pečlivostí, objektivitou, prezentuje fakta známé autorovi k datu přípravy a neobsahuje žádné hodnotící prvky. Marketingová komunikace je připravena bez zohlednění potřeb klienta, jeho individuální finanční situace a nijak nepředstavuje investiční strategii. Marketingová komunikace nepředstavuje nabídku k prodeji, nabídku, předplatné, výzvu na nákup, reklamu nebo propagaci jakýchkoliv finančních nástrojů. Společnost XTB S.A., organizační složka nenese odpovědnost za jakékoli jednání nebo opomenutí klienta, zejména za získání nebo zcizení finančních nástrojů, na základě informací obsažených v této marketingové komunikaci. V případě, že marketingová komunikace obsahuje jakékoli informace o jakýchkoli výsledcích týkajících se finančních nástrojů v nich uvedených, nepředstavují žádnou záruku ani předpověď ohledně budoucích výsledků. Minulá výkonnost nemusí nutně vypovídat o budoucích výsledcích a každá osoba jednající na základě těchto informací tak činí zcela na vlastní riziko.