Prezident Microsoftu Brad Smith vyzval k urychlenému zavedení globálních bezpečnostních pravidel pro umělou inteligenci. Podle něj současný dohled zaostává za rychlostí vývoje a AI čelí menším bezpečnostním požadavkům než běžné spotřební výrobky. Řešením mají být nezávislé kontroly, povinné hlášení incidentů a možnost zastavit nebezpečně jednající systémy.
AI potřebuje kontroly i „nouzovou brzdu“
V rozhovoru pro BBC zveřejněném dnes Smith uvedl, že nové AI systémy mají posuzovat nezávislí hodnotitelé, kteří dokážou prověřit jejich schopnosti a rizika.
Součástí pravidel by podle něj měla být povinnost informovat postižené osoby či organizace, pokud jejich systém naruší AI agent jednající nežádoucím způsobem. Firmy by také měly mít zákonnou povinnost vypracovávat zprávy o incidentech a zajistit dostupnost „nouzové brzdy“.
Smith přirovnal situaci k bezpečnostním kontrolám běžných výrobků. Podle něj dnes podléhají pračky přísnějším bezpečnostním pravidlům než AI a každé balení mléka v obchodě musí splňovat požadavky a procházet kontrolami. Zkušenosti s dohledem nad jinými produkty by podle něj měly posloužit také při vytváření pravidel pro umělou inteligenci.
Nežádoucí chování agentů zvyšuje tlak na dohled
Společnosti Anthropic a OpenAI již začaly zveřejňovat informace o nežádoucím chování AI agentů. Tyto případy posilují debatu o tom, zda stávající bezpečnostní opatření odpovídají schopnostem rychle se rozvíjejících systémů.
Část výzkumníků upozorňuje i na možné dlouhodobé existenční hrozby. Některé společnosti proto vyzývají ke zpomalení vývoje, motivace takových požadavků však vyvolávají spory.
Kritici se ptají, zda firmy vedle bezpečnosti neusilují také o ochranu svého náskoku, zmírnění budoucího zásahu vlád nebo zpomalení prudce rostoucích výdajů. Debata se tak týká nejen rozsahu regulace, ale i toho, kdo bude její pravidla určovat.
Smith vidí vedoucí roli pro Británii
Za zemi vhodnou k vedení mezinárodního úsilí Smith označil Velkou Británii, zejména díky jejímu AI Security Institute, založenému za vlády Rishiho Sunaka.
Institut na základě dobrovolných dohod získává přístup k významným AI modelům ještě před jejich uvedením do provozu. Může tak zkoumat jejich schopnosti a bezpečnostní rizika.
Smith zároveň uvedl, že představitelé ve Washingtonu vnímají londýnský přístup jinak než přístup Bruselu. Evropská unie prostřednictvím AI Actu upravuje pravidla podle míry rizika, zatímco britský systém se u pokročilých modelů opírá o dobrovolnou spolupráci a testování.
Dobrovolná opatření nemusí zůstat jediným nástrojem
Britský ministr pro AI Kanishka Narayan již Reuters sdělil, že vláda zváží regulaci pokročilých modelů, pokud se současná opatření ukážou jako nedostatečná.
Smithova výzva tak přichází v době, kdy se hledá rovnováha mezi podporou inovací a odpovědností za bezpečnost AI systémů. Klíčovou otázkou zůstává, zda dobrovolné závazky firem postačí, nebo je budou muset doplnit právně vymahatelné povinnosti.
Zjistěte o akciích, ETF i obchodování více:
- Investice do AI: Nejlepší společnosti pro investice
- ETF vs. akcie: Srovnání, výhody, nevýhody a jak si vybrat
- Investování do akcií – Co je to obchodování s akciemi?
- Jak sestavit portfolio z akcií a ETF fondů?
- Jaké jsou 4 různé typy akcií?
- Investice do vesmíru: jak najít vesmírné akcie?
- Nejlepší ETF fondy 2026 – cesta k pasivnímu investování?
Zaujalo Vás toto téma? U XTB můžete obchodovat více než 2000 CFD na akcie!
- Konkurenční spready
- Nízké swapové body, díky kterým můžete držet pozice déle
- Minimální velikost transakce již od 0 EUR
Kromě široké nabídky instrumentů od nás získáte také vzdělávací materiály – články, e-booky a kurzy zdarma:
- Trading pro začátečníky
- TOP 5 Trading nástrojů Ondřeje Hartmana
- Kurz tradingu vs. investování
- Investování do akcií – Co je to obchodování s akciemi?
- Testovací účet u XTB? Procvičte si obchodování zdarma!
Tesla čelí dalšímu bezpečnostnímu prověřování 🚨
TSMC míří k šestému rekordnímu čtvrtletí v řadě. Zisk může vyskočit o 65 % 🚀
Ranní shrnutí: Ropa zlevňuje navzdory útokům na Saúdskou Arábii, trhy čekají na CPI (12.10.2026)
Denní shrnutí: Mírné zotavení před výsledkovou sezonou
Rozdílové smlouvy jsou komplexní nástroje a v důsledku použití finanční páky jsou spojeny s vysokým rizikem rychlého vzniku finanční ztráty. U 77 % účtů retailových investorů došlo při obchodování s rozdílovými smlouvami u tohoto poskytovatele ke vzniku ztráty. Měli byste zvážit, zda rozumíte tomu, jak rozdílové smlouvy fungují, a zda si můžete dovolit vysoké riziko ztráty svých finančních prostředků. Investování je rizikové. Investujte zodpovědně. Tento materiál je marketingovou komunikací ve smyslu čl. 24 odst. 3 směrnice Evropského parlamentu a Rady 2014/65/EU ze dne 15. května 2014 o trzích finančních nástrojů, kterou se mění směrnice 2002/92/ES a směrnice 2011/61/EU (MiFID II). Marketingová komunikace není investiční doporučení ani informace doporučující či navrhující investiční strategii ve smyslu nařízení Evropského parlamentu a Rady (EU) č. 596/2014 ze dne 16. dubna 2014 o zneužívání trhu (nařízení o zneužívání trhu) a o zrušení směrnice Evropského parlamentu a Rady 2003/6/ES a směrnic Komise 2003/124/ES, 2003/125/ES a 2004/72/ES a nařízení Komise v přenesené pravomoci (EU) 2016/958 ze dne 9. března 2016, kterým se doplňuje nařízení Evropského parlamentu a Rady (EU) č. 596/2014, pokud jde o regulační technické normy pro technická ujednání pro objektivní předkládání investičních doporučení nebo jiných informací doporučujících nebo navrhujících investiční strategie a pro zveřejnění konkrétních zájmů nebo náznaků střetu zájmů nebo jakékoli jiné rady, a to i v oblasti investičního poradenství, ve smyslu zákona č. 256/2004 Sb., o podnikání na kapitálovém trhu. Marketingová komunikace je připravena s nejvyšší pečlivostí, objektivitou, prezentuje fakta známé autorovi k datu přípravy a neobsahuje žádné hodnotící prvky. Marketingová komunikace je připravena bez zohlednění potřeb klienta, jeho individuální finanční situace a nijak nepředstavuje investiční strategii. Marketingová komunikace nepředstavuje nabídku k prodeji, nabídku, předplatné, výzvu na nákup, reklamu nebo propagaci jakýchkoliv finančních nástrojů. Společnost XTB S.A., organizační složka nenese odpovědnost za jakékoli jednání nebo opomenutí klienta, zejména za získání nebo zcizení finančních nástrojů, na základě informací obsažených v této marketingové komunikaci. V případě, že marketingová komunikace obsahuje jakékoli informace o jakýchkoli výsledcích týkajících se finančních nástrojů v nich uvedených, nepředstavují žádnou záruku ani předpověď ohledně budoucích výsledků. Minulá výkonnost nemusí nutně vypovídat o budoucích výsledcích a každá osoba jednající na základě těchto informací tak činí zcela na vlastní riziko.