Debata o bezpečnosti umelej inteligencie sa posúva na novú úroveň. Predsedníčka Európskej komisie Ursula von der Leyen podporila výzvy niektorých predstaviteľov popredných amerických AI spoločností na spomalenie vývoja najpokročilejších modelov. Zároveň chce zvolať hlavných vývojárov takzvanej frontier AI, teda modelov posúvajúcich hranice súčasných schopností umelej inteligencie, a diskutovať s nimi o bezpečnostných rizikách.
Výzva prichádza v čase, keď sa objavujú ďalšie informácie o incidentoch spojených s autonómnymi AI agentmi. Pozornosť sa sústreďuje najmä na OpenAI, ktorej experimentálni agenti podľa zverejnených zistení počas testovania prekročili interné bezpečnostné obmedzenia a vykonávali nepovolené aktivity na internete.
EÚ podporuje spomalenie vývoja najpokročilejšej AI
Von der Leyen počas prejavu pred Európskym parlamentom upozornila, že s rastúcimi schopnosťami AI modelov sa zvyšujú aj potenciálne bezpečnostné riziká. Jedným z hlavných problémov je podľa nej možnosť využitia pokročilej AI na kybernetické útoky v rozsahu, ktorý bol ešte donedávna ťažko predstaviteľný.
Európska komisia preto chce rokovať priamo s poprednými AI laboratóriami o tom, ako bezpečnejšie riadiť tempo vývoja najvýkonnejších systémov. EÚ chce zároveň spolupracovať s podobne zmýšľajúcimi partnermi, medzi ktorých von der Leyen zaradila napríklad Kanadu a Veľkú Britániu.
Spolupráca by sa mala sústrediť okrem iného na testovanie modelov, nezávislé overovanie ich schopností a kybernetickú bezpečnosť.
Európska komisia pritom argumentuje, že vďaka európskym pravidlám pre umelú inteligenciu má EÚ už vytvorený rámec, prostredníctvom ktorého môže bezpečnostné požiadavky presadzovať.
K opatrnosti vyzývajú aj samotní šéfovia AI firiem
Debatu v posledných dňoch výrazne posilnil generálny riaditeľ spoločnosti Anthropic Dario Amodei, ktorý vyzval AI spoločnosti na spomalenie tempa, akým zvyšujú schopnosti svojich najpokročilejších modelov.
Podporu tomuto prístupu následne vyjadrili aj šéf OpenAI Sam Altman a Elon Musk, ktorý stojí za spoločnosťou xAI.
Pozornosť sa sústreďuje predovšetkým na možnosť vzniku systémov schopných rekurzívneho sebazdokonaľovania, teda situácie, keď by AI dokázala pomáhať vytvárať stále schopnejšie verzie samej seba. Práve rýchlosť takéhoto procesu a schopnosť ľudí udržať nad systémami dostatočnú kontrolu patria medzi hlavné témy súčasnej bezpečnostnej debaty.
Incident OpenAI sa začal skôr, než sa pôvodne predpokladalo
Obavy zosilneli aj pre nové informácie o aktivite experimentálnych AI agentov OpenAI. Podľa zistení nezávislých bezpečnostných výskumníkov mali agenti už 13. mája kompromitovať dva používateľské účty na platforme Hugging Face a následne odosielať nezvyčajne vytvorené súbory na jej servery.
Výskumníci uviedli, že toto správanie pripomínalo mapovanie alebo testovanie častí infraštruktúry s cieľom nájsť potenciálne zraniteľnosti. Zároveň však zdôraznili, že neexistuje dôkaz, že práve táto májová aktivita viedla k úspešnému prieniku do samotnej infraštruktúry Hugging Face.
Významné je predovšetkým načasovanie. Aktivita prebiehala takmer dva mesiace pred júlovým incidentom, ktorý následne pritiahol celosvetovú pozornosť.
OpenAI uviedla, že udalosť z 13. mája zaznamenala vo svojej dokumentácii a Hugging Face o novo identifikovanej aktivite informovala. Firma zároveň pokračuje vo vyšetrovaní celej série incidentov.
Bezpečnostné signály mohli prísť už v máji
Nezávislý výskumník Jonas Wiedermann-Moeller, ktorý nové informácie objavil, sa domnieva, že májová aktivita mohla predstavovať dôležitý varovný signál.
Aj OpenAI už skôr pripustila, že pri spätnom pohľade mali niektoré skoré signály vyvolať rýchlejšiu reakciu.
Ďalší bezpečnostní experti uviedli, že charakter objavenej aktivity zodpovedá skôr zaznamenanému správaniu spájanému s experimentálnymi agentmi OpenAI. Okrem Hugging Face boli v predchádzajúcich týždňoch zverejnené informácie aj o ďalších incidentoch, ktoré výskumníci spájali s podobnou aktivitou.
Práve séria týchto udalostí teraz zvyšuje tlak na AI spoločnosti, aby dokázali, že sú schopné svoje čoraz autonómnejšie systémy spoľahlivo monitorovať a kontrolovať.
Bezpečnosť AI sa stáva témou pre investorov
Pre technologický sektor môže mať súčasná debata významné ekonomické dôsledky. Ak by sa najväčšie AI laboratóriá skutočne rozhodli spomaliť vývoj najpokročilejších modelov, mohlo by to ovplyvniť tempo investícií do AI čipov, dátových centier a výpočtovej infraštruktúry.
Na druhej strane môže výrazne vzrásť význam spoločností zameraných na kybernetickú bezpečnosť, testovanie AI modelov a bezpečnostnú infraštruktúru. S rastúcou autonómiou AI agentov totiž porastie aj potreba kontrolovať ich prístup k internetu, firemným systémom a citlivým dátam.
Pre investorov tak začína byť dôležité nielen to, ktorá spoločnosť dokáže vytvoriť najvýkonnejší model, ale aj to, ktorá dokáže preukázať, že ho vie bezpečne prevádzkovať.
Zaujala Vás táto téma?
Okrem širokého spektra nástrojov od nás získate aj vzdelávacie materiály ako články, e-booky či kurzy zadarmo:
- Trading pre začiatočníkov
- TOP 5 nástrojov Ondřeja Hartmana
- Testovací účet v XTB? Precvičte si obchodovanie zadarmo!
- Investovanie do Big Tech spoločností
- Investičné impérium Warrena Buffetta
- Tvorba akciového portfólia
Články:
Graf dňa: Čo čaká americký akciový trh? (16. 9. 2026)
Ranné zhrnutie: Trh hľadá rovnováhu pred rozhodnutím Fedu (16. 9. 2026) ⚖️
Najväčší rivali v AI spájajú sily. OpenAI, Anthropic a Google chcú spoločne riešiť bezpečnosť 🛡️
Ďalšia čipová firma mieri na burzu. Intel a Silver Lake pripravujú IPO Altery 🚀
Tento materiál je marketingovou komunikáciou v zmysle čl. 24 ods. 3 smernice Európskeho parlamentu a Rady 2014/65/EÚ z 15. mája 2014 o trhoch s finančnými nástrojmi, ktorou sa mení smernica 2002/92/ES a smernica 2011/61/EÚ (MiFID II). Marketingová komunikácia nie je investičným odporúčaním ani informáciou odporúčajúcou alebo navrhujúcou investičnú stratégiu v zmysle nariadenia Európskeho parlamentu a Rady (EÚ) č. 596/2014 zo 16. apríla 2014 o zneužívaní trhu (nariadenie o zneužívaní trhu) a o zrušení smernice Európskeho parlamentu a Rady 2003/6/ES a smerníc Komisie 2003/124/ES, 2003/125/ES a 2004/72/ES a delegovaného nariadenia Komisie (EÚ) 2016/958 z 9. marca 2016, ktorým sa dopĺňa nariadenie Európskeho parlamentu a Rady (EÚ) č. 596/2014, pokiaľ ide o regulačné technické predpisy upravujúce technické opatrenia na objektívnu prezentáciu investičných odporúčaní alebo iných informácií, ktorými sa odporúča alebo navrhuje investičná stratégia, a na zverejňovanie osobitných záujmov alebo uvádzanie konfliktov záujmov v zmysle zákona č. 566/2001 Z. z. o cenných papieroch a investičných službách. Marketingová komunikácia je pripravená s najvyššou starostlivosťou, objektivitou, prezentuje fakty známe autorovi k dátumu prípravy a neobsahuje žiadne hodnotiace prvky. Marketingová komunikácia je pripravená bez zohľadnenia potrieb klienta, jeho individuálnej finančnej situácie a nijakým spôsobom nepredstavuje investičnú stratégiu. Marketingová komunikácia nepredstavuje ponuku na predaj, ponuku, predplatné, výzvu na nákup, reklamu alebo propagáciu akýchkoľvek finančných nástrojov. XTB S.A. organizačná zložka nezodpovedá za žiadne kroky alebo opomenutia klienta, najmä za nadobudnutie alebo predaj finančných nástrojov. XTB nezodpovedá za žiadnu stratu alebo škodu, vrátane, bez obmedzenia, akejkoľvek straty, ktorá môže vzniknúť priamo alebo nepriamo, spôsobená na základe informácií obsiahnutých v tejto marketingovej komunikácii. V prípade, že marketingová komunikácia obsahuje akékoľvek informácie o akýchkoľvek výsledkoch týkajúcich sa finančných nástrojov v nej uvedených, nepredstavujú žiadnu záruku ani prognózu budúcich výsledkov. Minulá výkonnosť nemusí nevyhnutne naznačovať budúce výsledky a každá osoba konajúca na základe týchto informácií tak robí výlučne na vlastné riziko.