Závod o nejpokročilejší umělou inteligenci může začít narážet na vlastní bezpečnostní limity. OpenAI připouští možnost zpomalení vývoje nejvýkonnějších AI systémů a Sam Altman by podle zdrojů Bloombergu uvítal, kdyby se podobným směrem vydaly také další přední AI laboratoře.
Téma nabývá na významu v době, kdy zaměstnanci a výzkumníci předních technologických společností stále hlasitěji upozorňují na potenciální rizika rychlého vývoje AI. Novou debatu navíc podporují případy, kdy byly pokročilé modely údajně využívány způsoby, které jejich tvůrci neplánovali.
Altman připouští koordinované zpomalení
Sam Altman měl během celofiremního setkání zaměstnancům sdělit, že OpenAI by mohlo zpomalit tempo vývoje nejpokročilejší AI, potenciálně v koordinaci s několika dalšími laboratořemi.
Zároveň ale připustil zásadní problém takového přístupu – ne všichni konkurenti musí být ochotni na zpomalení přistoupit. Jednostranné omezení vývoje by totiž mohlo znamenat technologickou a obchodní výhodu pro společnosti, které budou pokračovat současným tempem.
Myšlenku koordinovaného zpomalování podporuje také hlavní vědec OpenAI Jakub Pachocki. Ten uvedl, že by AI společnosti měly být připraveny koordinovat zpomalení dalšího vývoje, dokud nebudou vytvořeny společné bezpečnostní standardy.
OpenAI už některé projekty přibrzdilo
Nejde přitom pouze o teoretickou debatu. OpenAI uvedlo, že v poslední době kvůli bezpečnostním obavám zpomalilo části vývoje modelů a pozastavilo některé interní tréninky AI.
Altman navíc už v červenci diskutoval se zástupci Bílého domu o potřebě kontrolovat tempo dalšího vývoje.
Pokud by se podobný přístup rozšířil napříč odvětvím, mohl by znamenat významnou změnu oproti dosavadnímu závodu mezi OpenAI, Anthropic, Google DeepMind a dalšími hráči, kteří investují obrovské částky do výpočetní infrastruktury a vývoje stále výkonnějších modelů.
Výzkumníci stále hlasitěji varují
Tlak přichází také přímo zevnitř AI průmyslu. Výzkumník Jacob Coxon tento týden odešel z oboru a své bývalé zaměstnavatele OpenAI a Anthropic obvinil z příliš riskantního závodu směrem k superinteligentní AI. Jeho vyjádření získalo na sociálních sítích více než 150 milionů zhlédnutí.
Obavy veřejně vyjádřili také další bývalí výzkumníci Anthropic a Google DeepMind. Už na konci července navíc podepsalo více než 1 000 zaměstnanců předních AI společností výzvu požadující vytvoření mechanismu, který by umožnil v případě potřeby vývoj pokročilé AI zpomalit.
Debatu dále podporují bezpečnostní incidenty spojené s autonomnějšími AI agenty a jejich rostoucími kybernetickými schopnostmi.
Anthropic odhalil využití Claude při vývoji raket
Právě možná zneužitelnost pokročilých modelů se dostala do centra pozornosti také u Anthropic. Firma oznámila, že odhalila skupinu působící v severním Jemenu, která podle jejího vyšetřování využívala model Claude při práci na raketových systémech.
Podle Anthropic šlo o tři projekty zahrnující řízenou raketu, balistickou střelu s deklarovaným doletem přes 2 000 kilometrů a skupinu střel označovanou jako R2000.
Skupina podle společnosti využívala Claude především při vývoji softwaru pro navádění, navigaci a řízení. Údajní aktéři měli práci rozdělovat mezi několik AI relací a skrývat vojenskou povahu projektu, aby se vyhnuli detekci.
Anthropic také uvedl, že skupina provedla živý raketový test a následně využila Claude k analýze problémů po zřejmě neúspěšném startu. Firma však zdůraznila, že nenašla důkazy o vzniku funkční operační zbraně.
Po odhalení aktivity Anthropic související účty zablokoval, informace sdílel s partnery a podle svého vyjádření posílil bezpečnostní mechanismy.
Bezpečnost může změnit ekonomiku AI závodu
Případ přichází v citlivém období pro celý sektor. OpenAI i Anthropic letos podaly důvěrné dokumenty související s přípravou možného vstupu na burzu, zatímco současně vynakládají obrovské prostředky na datacentra, čipy a další výpočetní infrastrukturu.
Případné koordinované zpomalení vývoje by proto nebylo pouze bezpečnostním rozhodnutím, ale mohlo by mít také významné ekonomické důsledky.
Nižší tempo vývoje nejpokročilejších modelů by mohlo změnit očekávání ohledně budoucí spotřeby výpočetního výkonu a tempa investic do AI infrastruktury. Na druhé straně by důraznější bezpečnostní standardy mohly snížit regulatorní rizika a zvýšit důvěru podniků a vlád v nasazování pokročilé AI.
Zásadní otázkou proto nebude pouze to, zda je OpenAI ochotné vývoj přibrzdit, ale zda dokáže pro podobný postup získat také své největší konkurenty. Pokud ne, ekonomická motivace pokračovat v technologickém závodu může být příliš silná.
Zjistěte o akciích, ETF i obchodování více:
- Investice do AI: Nejlepší společnosti pro investice
- ETF vs. akcie: Srovnání, výhody, nevýhody a jak si vybrat
- Investování do akcií – Co je to obchodování s akciemi?
- Jak sestavit portfolio z akcií a ETF fondů?
- Jaké jsou 4 různé typy akcií?
- Investice do vesmíru: jak najít vesmírné akcie?
- Nejlepší ETF fondy 2026 – cesta k pasivnímu investování?
Zaujalo Vás toto téma? U XTB můžete obchodovat více než 2000 CFD na akcie!
- Konkurenční spready
- Nízké swapové body, díky kterým můžete držet pozice déle
- Minimální velikost transakce již od 0 EUR
Kromě široké nabídky instrumentů od nás získáte také vzdělávací materiály – články, e-booky a kurzy zdarma:
Náhled výsledků společnosti Oracle
Wall Street se dál propojuje s kryptem. Nasdaq sází na tokenizované akcie 💰
TSMC nestíhá uspokojit poptávku po AI čipech. Tržby v srpnu vyskočily o 53 % 🚀
📊 Ranní shrnutí: Jestřábí Bank of Japan a Trumpovy sliby rozhýbaly trhy před zveřejněním PPI
Rozdílové smlouvy jsou komplexní nástroje a v důsledku použití finanční páky jsou spojeny s vysokým rizikem rychlého vzniku finanční ztráty. U 77 % účtů retailových investorů došlo při obchodování s rozdílovými smlouvami u tohoto poskytovatele ke vzniku ztráty. Měli byste zvážit, zda rozumíte tomu, jak rozdílové smlouvy fungují, a zda si můžete dovolit vysoké riziko ztráty svých finančních prostředků. Investování je rizikové. Investujte zodpovědně. Tento materiál je marketingovou komunikací ve smyslu čl. 24 odst. 3 směrnice Evropského parlamentu a Rady 2014/65/EU ze dne 15. května 2014 o trzích finančních nástrojů, kterou se mění směrnice 2002/92/ES a směrnice 2011/61/EU (MiFID II). Marketingová komunikace není investiční doporučení ani informace doporučující či navrhující investiční strategii ve smyslu nařízení Evropského parlamentu a Rady (EU) č. 596/2014 ze dne 16. dubna 2014 o zneužívání trhu (nařízení o zneužívání trhu) a o zrušení směrnice Evropského parlamentu a Rady 2003/6/ES a směrnic Komise 2003/124/ES, 2003/125/ES a 2004/72/ES a nařízení Komise v přenesené pravomoci (EU) 2016/958 ze dne 9. března 2016, kterým se doplňuje nařízení Evropského parlamentu a Rady (EU) č. 596/2014, pokud jde o regulační technické normy pro technická ujednání pro objektivní předkládání investičních doporučení nebo jiných informací doporučujících nebo navrhujících investiční strategie a pro zveřejnění konkrétních zájmů nebo náznaků střetu zájmů nebo jakékoli jiné rady, a to i v oblasti investičního poradenství, ve smyslu zákona č. 256/2004 Sb., o podnikání na kapitálovém trhu. Marketingová komunikace je připravena s nejvyšší pečlivostí, objektivitou, prezentuje fakta známé autorovi k datu přípravy a neobsahuje žádné hodnotící prvky. Marketingová komunikace je připravena bez zohlednění potřeb klienta, jeho individuální finanční situace a nijak nepředstavuje investiční strategii. Marketingová komunikace nepředstavuje nabídku k prodeji, nabídku, předplatné, výzvu na nákup, reklamu nebo propagaci jakýchkoliv finančních nástrojů. Společnost XTB S.A., organizační složka nenese odpovědnost za jakékoli jednání nebo opomenutí klienta, zejména za získání nebo zcizení finančních nástrojů, na základě informací obsažených v této marketingové komunikaci. V případě, že marketingová komunikace obsahuje jakékoli informace o jakýchkoli výsledcích týkajících se finančních nástrojů v nich uvedených, nepředstavují žádnou záruku ani předpověď ohledně budoucích výsledků. Minulá výkonnost nemusí nutně vypovídat o budoucích výsledcích a každá osoba jednající na základě těchto informací tak činí zcela na vlastní riziko.