Prezident Microsoftu Brad Smith vyzval na urýchlené zavedenie globálnych bezpečnostných pravidiel pre umelú inteligenciu. Podľa neho súčasný dohľad zaostáva za rýchlosťou vývoja a AI čelí menším bezpečnostným požiadavkám než bežné spotrebné výrobky. Riešením majú byť nezávislé kontroly, povinné hlásenie incidentov a možnosť zastaviť systémy, ktoré konajú nebezpečne.
AI potrebuje kontroly aj „núdzovú brzdu“
V rozhovore pre BBC zverejnenom dnes Smith uviedol, že nové AI systémy majú posudzovať nezávislí hodnotitelia, ktorí dokážu preveriť ich schopnosti a riziká.
Súčasťou pravidiel by podľa neho mala byť povinnosť informovať dotknuté osoby či organizácie, ak ich systém naruší AI agent konajúci nežiaducim spôsobom. Firmy by tiež mali mať zákonnú povinnosť vypracúvať správy o incidentoch a zabezpečiť dostupnosť „núdzovej brzdy“.
Smith prirovnal situáciu k bezpečnostným kontrolám bežných výrobkov. Podľa neho dnes podliehajú práčky prísnejším bezpečnostným pravidlám než AI a každé balenie mlieka v obchode musí spĺňať požiadavky a prechádzať kontrolami. Skúsenosti s dohľadom nad inými produktmi by podľa neho mali poslúžiť aj pri vytváraní pravidiel pre umelú inteligenciu.
Nežiaduce správanie agentov zvyšuje tlak na dohľad
Spoločnosti Anthropic a OpenAI už začali zverejňovať informácie o nežiaducom správaní AI agentov. Tieto prípady posilňujú debatu o tom, či súčasné bezpečnostné opatrenia zodpovedajú schopnostiam rýchlo sa rozvíjajúcich systémov.
Časť výskumníkov upozorňuje aj na možné dlhodobé existenčné hrozby. Niektoré spoločnosti preto vyzývajú na spomalenie vývoja, motivácie takýchto požiadaviek však vyvolávajú spory.
Kritici sa pýtajú, či firmy popri bezpečnosti neusilujú aj o ochranu svojho náskoku, zmiernenie budúcich zásahov vlád alebo spomalenie prudko rastúcich výdavkov. Debata sa tak týka nielen rozsahu regulácie, ale aj toho, kto bude určovať jej pravidlá.
Smith vidí vedúcu úlohu pre Britániu
Za krajinu vhodnú na vedenie medzinárodného úsilia Smith označil Veľkú Britániu, najmä vďaka jej AI Security Institute, založenému počas vlády Rishiho Sunaka.
Inštitút na základe dobrovoľných dohôd získava prístup k významným AI modelom ešte pred ich uvedením do prevádzky. Môže tak skúmať ich schopnosti a bezpečnostné riziká.
Smith zároveň uviedol, že predstavitelia vo Washingtone vnímajú londýnsky prístup inak než prístup Bruselu. Európska únia prostredníctvom AI Actu upravuje pravidlá podľa miery rizika, zatiaľ čo britský systém sa pri pokročilých modeloch opiera o dobrovoľnú spoluprácu a testovanie.
Dobrovoľné opatrenia nemusia zostať jediným nástrojom
Britský minister pre AI Kanishka Narayan už Reuters uviedol, že vláda zváži reguláciu pokročilých modelov, ak sa súčasné opatrenia ukážu ako nedostatočné.
Smithova výzva tak prichádza v čase, keď sa hľadá rovnováha medzi podporou inovácií a zodpovednosťou za bezpečnosť AI systémov. Kľúčovou otázkou zostáva, či dobrovoľné záväzky firiem postačia, alebo ich budú musieť doplniť právne vymáhateľné povinnosti.
Zaujala Vás táto téma?
Okrem širokého spektra nástrojov od nás získate aj vzdelávacie materiály ako články, e-booky či kurzy zadarmo:
- Trading pre začiatočníkov
- TOP 5 nástrojov Ondřeja Hartmana
- Testovací účet v XTB? Precvičte si obchodovanie zadarmo!
- Investovanie do Big Tech spoločností
- Investičné impérium Warrena Buffetta
- Tvorba akciového portfólia
Články:
Tesla čelí ďalšiemu bezpečnostnému preverovaniu 🚨
TSMC smeruje k šiestemu rekordnému štvrťroku v rade. Zisk môže vyskočiť o 65 % 🚀
Ranné zhrnutie: Ropa zlacňuje napriek útokom na Saudskú Arábiu, trhy čakajú na CPI (12.10.2026)
Denné zhrnutie: Mierne zotavenie pred výsledkovou sezónou
Tento materiál je marketingovou komunikáciou v zmysle čl. 24 ods. 3 smernice Európskeho parlamentu a Rady 2014/65/EÚ z 15. mája 2014 o trhoch s finančnými nástrojmi, ktorou sa mení smernica 2002/92/ES a smernica 2011/61/EÚ (MiFID II). Marketingová komunikácia nie je investičným odporúčaním ani informáciou odporúčajúcou alebo navrhujúcou investičnú stratégiu v zmysle nariadenia Európskeho parlamentu a Rady (EÚ) č. 596/2014 zo 16. apríla 2014 o zneužívaní trhu (nariadenie o zneužívaní trhu) a o zrušení smernice Európskeho parlamentu a Rady 2003/6/ES a smerníc Komisie 2003/124/ES, 2003/125/ES a 2004/72/ES a delegovaného nariadenia Komisie (EÚ) 2016/958 z 9. marca 2016, ktorým sa dopĺňa nariadenie Európskeho parlamentu a Rady (EÚ) č. 596/2014, pokiaľ ide o regulačné technické predpisy upravujúce technické opatrenia na objektívnu prezentáciu investičných odporúčaní alebo iných informácií, ktorými sa odporúča alebo navrhuje investičná stratégia, a na zverejňovanie osobitných záujmov alebo uvádzanie konfliktov záujmov v zmysle zákona č. 566/2001 Z. z. o cenných papieroch a investičných službách. Marketingová komunikácia je pripravená s najvyššou starostlivosťou, objektivitou, prezentuje fakty známe autorovi k dátumu prípravy a neobsahuje žiadne hodnotiace prvky. Marketingová komunikácia je pripravená bez zohľadnenia potrieb klienta, jeho individuálnej finančnej situácie a nijakým spôsobom nepredstavuje investičnú stratégiu. Marketingová komunikácia nepredstavuje ponuku na predaj, ponuku, predplatné, výzvu na nákup, reklamu alebo propagáciu akýchkoľvek finančných nástrojov. XTB S.A. organizačná zložka nezodpovedá za žiadne kroky alebo opomenutia klienta, najmä za nadobudnutie alebo predaj finančných nástrojov. XTB nezodpovedá za žiadnu stratu alebo škodu, vrátane, bez obmedzenia, akejkoľvek straty, ktorá môže vzniknúť priamo alebo nepriamo, spôsobená na základe informácií obsiahnutých v tejto marketingovej komunikácii. V prípade, že marketingová komunikácia obsahuje akékoľvek informácie o akýchkoľvek výsledkoch týkajúcich sa finančných nástrojov v nej uvedených, nepredstavujú žiadnu záruku ani prognózu budúcich výsledkov. Minulá výkonnosť nemusí nevyhnutne naznačovať budúce výsledky a každá osoba konajúca na základe týchto informácií tak robí výlučne na vlastné riziko.