Preteky o najpokročilejšiu umelú inteligenciu môžu začať narážať na vlastné bezpečnostné limity. OpenAI pripúšťa možnosť spomalenia vývoja najvýkonnejších AI systémov a Sam Altman by podľa zdrojov Bloombergu uvítal, keby sa podobným smerom vydali aj ďalšie popredné AI laboratóriá.
Téma naberá na význame v čase, keď zamestnanci a výskumníci popredných technologických spoločností čoraz hlasnejšie upozorňujú na potenciálne riziká rýchleho vývoja AI. Novú diskusiu navyše podporujú prípady, keď boli pokročilé modely údajne využívané spôsobmi, ktoré ich tvorcovia neplánovali.
Altman pripúšťa koordinované spomalenie
Sam Altman mal počas celofiremného stretnutia zamestnancom oznámiť, že OpenAI by mohlo spomaliť tempo vývoja najpokročilejšej AI, potenciálne v koordinácii s niekoľkými ďalšími laboratóriami.
Zároveň však pripustil zásadný problém takéhoto prístupu – nie všetci konkurenti musia byť ochotní pristúpiť na spomalenie. Jednostranné obmedzenie vývoja by totiž mohlo znamenať technologickú a obchodnú výhodu pre spoločnosti, ktoré budú pokračovať súčasným tempom.
Myšlienku koordinovaného spomalenia podporuje aj hlavný vedec OpenAI Jakub Pachocki. Uviedol, že AI spoločnosti by mali byť pripravené koordinovať spomalenie ďalšieho vývoja, kým nebudú vytvorené spoločné bezpečnostné štandardy.
OpenAI už niektoré projekty pribrzdilo
Nejde pritom iba o teoretickú diskusiu. OpenAI uviedlo, že v poslednom období pre bezpečnostné obavy spomalilo časti vývoja modelov a pozastavilo niektoré interné tréningy AI.
Altman navyše už v júli diskutoval so zástupcami Bieleho domu o potrebe kontrolovať tempo ďalšieho vývoja.
Ak by sa podobný prístup rozšíril naprieč odvetvím, mohol by znamenať významnú zmenu oproti doterajším pretekom medzi OpenAI, Anthropic, Google DeepMind a ďalšími hráčmi, ktorí investujú obrovské sumy do výpočtovej infraštruktúry a vývoja čoraz výkonnejších modelov.
Výskumníci varujú čoraz hlasnejšie
Tlak prichádza aj priamo zvnútra AI priemyslu. Výskumník Jacob Coxon tento týždeň odišiel z odvetvia a svojich bývalých zamestnávateľov OpenAI a Anthropic obvinil z príliš riskantných pretekov smerom k superinteligentnej AI. Jeho vyjadrenie získalo na sociálnych sieťach viac ako 150 mil. zhliadnutí.
Obavy verejne vyjadrili aj ďalší bývalí výskumníci Anthropic a Google DeepMind. Už na konci júla navyše podpísalo viac ako 1 000 zamestnancov popredných AI spoločností výzvu požadujúcu vytvorenie mechanizmu, ktorý by v prípade potreby umožnil vývoj pokročilej AI spomaliť.
Diskusiu ďalej podporujú bezpečnostné incidenty spojené s autonómnejšími AI agentmi a ich rastúcimi kybernetickými schopnosťami.
Anthropic odhalil využitie Claude pri vývoji rakiet
Práve možné zneužitie pokročilých modelov sa dostalo do centra pozornosti aj v prípade Anthropic. Firma oznámila, že odhalila skupinu pôsobiacu v severnom Jemene, ktorá podľa jej vyšetrovania využívala model Claude pri práci na raketových systémoch.
Podľa Anthropic išlo o tri projekty zahŕňajúce riadenú raketu, balistickú strelu s deklarovaným doletom viac ako 2 000 kilometrov a skupinu striel označovanú ako R2000.
Skupina podľa spoločnosti využívala Claude predovšetkým pri vývoji softvéru na navádzanie, navigáciu a riadenie. Údajní aktéri mali prácu rozdeľovať medzi viacero AI relácií a skrývať vojenskú povahu projektu, aby sa vyhli detekcii.
Anthropic tiež uviedol, že skupina vykonala živý raketový test a následne využila Claude na analýzu problémov po zrejme neúspešnom štarte. Firma však zdôraznila, že nenašla dôkazy o vytvorení funkčnej operačnej zbrane.
Po odhalení aktivity Anthropic súvisiace účty zablokoval, informácie zdieľal s partnermi a podľa svojho vyjadrenia posilnil bezpečnostné mechanizmy.
Bezpečnosť môže zmeniť ekonomiku AI pretekov
Prípad prichádza v citlivom období pre celý sektor. OpenAI aj Anthropic tento rok podali dôverné dokumenty súvisiace s prípravou možného vstupu na burzu, pričom zároveň vynakladajú obrovské prostriedky na dátové centrá, čipy a ďalšiu výpočtovú infraštruktúru.
Prípadné koordinované spomalenie vývoja by preto nebolo iba bezpečnostným rozhodnutím, ale mohlo by mať aj významné ekonomické dôsledky.
Nižšie tempo vývoja najpokročilejších modelov by mohlo zmeniť očakávania týkajúce sa budúcej spotreby výpočtového výkonu a tempa investícií do AI infraštruktúry. Na druhej strane by prísnejšie bezpečnostné štandardy mohli znížiť regulačné riziká a zvýšiť dôveru podnikov a vlád v nasadzovanie pokročilej AI.
Zásadnou otázkou preto nebude iba to, či je OpenAI ochotné vývoj pribrzdiť, ale aj to, či dokáže pre podobný postup získať svojich najväčších konkurentov. Ak nie, ekonomická motivácia pokračovať v technologických pretekoch môže byť príliš silná.
Zaujala Vás táto téma?
Okrem širokého spektra nástrojov od nás získate aj vzdelávacie materiály ako články, e-booky či kurzy zadarmo:
- Trading pre začiatočníkov
- TOP 5 nástrojov Ondřeja Hartmana
- Testovací účet v XTB? Precvičte si obchodovanie zadarmo!
- Investovanie do Big Tech spoločností
- Investičné impérium Warrena Buffetta
- Tvorba akciového portfólia
Články:
Náhľad výsledkov spoločnosti Oracle
Wall Street sa ďalej prepája s kryptom. Nasdaq stavia na tokenizované akcie 💰
TSMC nestíha uspokojiť dopyt po AI čipoch. Tržby v auguste vyskočili o 53 % 🚀
📊 Ranné zhrnutie: Jastrabia Bank of Japan a Trumpove sľuby rozhýbali trhy pred zverejnením PPI
Tento materiál je marketingovou komunikáciou v zmysle čl. 24 ods. 3 smernice Európskeho parlamentu a Rady 2014/65/EÚ z 15. mája 2014 o trhoch s finančnými nástrojmi, ktorou sa mení smernica 2002/92/ES a smernica 2011/61/EÚ (MiFID II). Marketingová komunikácia nie je investičným odporúčaním ani informáciou odporúčajúcou alebo navrhujúcou investičnú stratégiu v zmysle nariadenia Európskeho parlamentu a Rady (EÚ) č. 596/2014 zo 16. apríla 2014 o zneužívaní trhu (nariadenie o zneužívaní trhu) a o zrušení smernice Európskeho parlamentu a Rady 2003/6/ES a smerníc Komisie 2003/124/ES, 2003/125/ES a 2004/72/ES a delegovaného nariadenia Komisie (EÚ) 2016/958 z 9. marca 2016, ktorým sa dopĺňa nariadenie Európskeho parlamentu a Rady (EÚ) č. 596/2014, pokiaľ ide o regulačné technické predpisy upravujúce technické opatrenia na objektívnu prezentáciu investičných odporúčaní alebo iných informácií, ktorými sa odporúča alebo navrhuje investičná stratégia, a na zverejňovanie osobitných záujmov alebo uvádzanie konfliktov záujmov v zmysle zákona č. 566/2001 Z. z. o cenných papieroch a investičných službách. Marketingová komunikácia je pripravená s najvyššou starostlivosťou, objektivitou, prezentuje fakty známe autorovi k dátumu prípravy a neobsahuje žiadne hodnotiace prvky. Marketingová komunikácia je pripravená bez zohľadnenia potrieb klienta, jeho individuálnej finančnej situácie a nijakým spôsobom nepredstavuje investičnú stratégiu. Marketingová komunikácia nepredstavuje ponuku na predaj, ponuku, predplatné, výzvu na nákup, reklamu alebo propagáciu akýchkoľvek finančných nástrojov. XTB S.A. organizačná zložka nezodpovedá za žiadne kroky alebo opomenutia klienta, najmä za nadobudnutie alebo predaj finančných nástrojov. XTB nezodpovedá za žiadnu stratu alebo škodu, vrátane, bez obmedzenia, akejkoľvek straty, ktorá môže vzniknúť priamo alebo nepriamo, spôsobená na základe informácií obsiahnutých v tejto marketingovej komunikácii. V prípade, že marketingová komunikácia obsahuje akékoľvek informácie o akýchkoľvek výsledkoch týkajúcich sa finančných nástrojov v nej uvedených, nepredstavujú žiadnu záruku ani prognózu budúcich výsledkov. Minulá výkonnosť nemusí nevyhnutne naznačovať budúce výsledky a každá osoba konajúca na základe týchto informácií tak robí výlučne na vlastné riziko.