-
EU zahájila vážné vyšetřování Grok AI poté, co generoval sexuálně explicitní obrázky včetně dětí.
-
Funkce Spicy Mode se dostala pod kritiku kvůli generování nelegálního obsahu.
-
V reakci reagují i vládní úřady v Británii, Malajsii, Francii a Indii s vyšetřováním či právními kroky.
-
Událost podtrhuje slabiny bezpečnostních mechanismů v generativních AI modelech.
-
EU zahájila vážné vyšetřování Grok AI poté, co generoval sexuálně explicitní obrázky včetně dětí.
-
Funkce Spicy Mode se dostala pod kritiku kvůli generování nelegálního obsahu.
-
V reakci reagují i vládní úřady v Británii, Malajsii, Francii a Indii s vyšetřováním či právními kroky.
-
Událost podtrhuje slabiny bezpečnostních mechanismů v generativních AI modelech.
Evropská unie se „velmi vážně zabývá“ chatbotem Grok, umělou inteligencí od Elona Muska, poté co generoval sexuálně explicitní obrázky lidí včetně nezletilých na sociální síti X. Mluvčí Evropské komise Thomas Regnier na tiskové konferenci uvedl, že některé výstupy z funkce „Spicy Mode“ — nastavení navržené k vytváření ostrého obsahu — nebyly jen pikantní, ale nelegální. Regnier zdůraznil, že takový obsah je proti zákonu a nepřijatelný.
Funkce Spicy Mode pod palbou kritiky
Funkce Spicy Mode, která byla představena minulý rok, umožňuje generovat sugestivní či sexuálně laděné obrázky. Poté, co si uživatelé všimli, že Grok vytváří i snímky s dětmi ve sexuálním kontextu, začaly proudit stížnosti jak v EU, tak i v dalších zemích, včetně Británie a Malajsie, kde tamní orgány také vyšetřují nesprávné použití generativní AI a její přístup k nelegálnímu obsahu.
Mezinárodní reakce a kritika
Francouzští ministři dokonce odeslali hlášení k prokuratuře, označujíce obsah generovaný Grokem za „zjevně nelegální“ a potenciálně porušující evropská pravidla o digitálních službách. Podobné kritické kroky podnikly i indické úřady, které platformě X poslaly oficiální oznámení o nesprávném obsahu a vyžádaly si akční zprávu o kroku k odstranění takového materiálu, nebo hrozí právními následky.
Technické selhání i širší obavy
Grok se dostal pod mezinárodní tlak i kvůli tomu, že jeho bezpečnostní opatření a filtrování nebyla dostatečná. Podle zpráv AI generuje explicitní obrázky i tam, kde by to mělo být zakázáno. To vyvolalo obavy ohledně účinnosti ochranných mechanismů u generativních modelů, které mohou být zneužity k vytváření nezákonného a škodlivého obsahu – obzvláště pokud se jedná o děti nebo neautorizované manipulace fotografií.
Zaujalo Vás toto téma? U XTB můžete obchodovat více než 2000 CFD na akcie!
- Konkurenční spready
- Nízké swapové body, díky kterým můžete držet pozice déle
- Minimální velikost transakce již od 0 EUR
Kromě široké nabídky instrumentů od nás získáte také vzdělávací materiály – články, e-booky a kurzy zdarma:
Ranní komentář: Akcie výrobců úložiště prudce rostou, těžaři ropy vracejí zisky
BREAKING: DE40 se odráží navzdory nečekanému poklesu maloobchodních tržeb v Německu
Ranní shrnutí (07.01.2026)
Grab posiluje logistiku pomocí AI: přebírá robotickou firmu Infermove
Rozdílové smlouvy jsou komplexní nástroje a v důsledku použití finanční páky jsou spojeny s vysokým rizikem rychlého vzniku finanční ztráty. U 71 % účtů retailových investorů došlo při obchodování s rozdílovými smlouvami u tohoto poskytovatele ke vzniku ztráty. Měli byste zvážit, zda rozumíte tomu, jak rozdílové smlouvy fungují, a zda si můžete dovolit vysoké riziko ztráty svých finančních prostředků. Investování je rizikové. Investujte zodpovědně. Tento materiál je marketingovou komunikací ve smyslu čl. 24 odst. 3 směrnice Evropského parlamentu a Rady 2014/65/EU ze dne 15. května 2014 o trzích finančních nástrojů, kterou se mění směrnice 2002/92/ES a směrnice 2011/61/EU (MiFID II). Marketingová komunikace není investiční doporučení ani informace doporučující či navrhující investiční strategii ve smyslu nařízení Evropského parlamentu a Rady (EU) č. 596/2014 ze dne 16. dubna 2014 o zneužívání trhu (nařízení o zneužívání trhu) a o zrušení směrnice Evropského parlamentu a Rady 2003/6/ES a směrnic Komise 2003/124/ES, 2003/125/ES a 2004/72/ES a nařízení Komise v přenesené pravomoci (EU) 2016/958 ze dne 9. března 2016, kterým se doplňuje nařízení Evropského parlamentu a Rady (EU) č. 596/2014, pokud jde o regulační technické normy pro technická ujednání pro objektivní předkládání investičních doporučení nebo jiných informací doporučujících nebo navrhujících investiční strategie a pro zveřejnění konkrétních zájmů nebo náznaků střetu zájmů nebo jakékoli jiné rady, a to i v oblasti investičního poradenství, ve smyslu zákona č. 256/2004 Sb., o podnikání na kapitálovém trhu. Marketingová komunikace je připravena s nejvyšší pečlivostí, objektivitou, prezentuje fakta známé autorovi k datu přípravy a neobsahuje žádné hodnotící prvky. Marketingová komunikace je připravena bez zohlednění potřeb klienta, jeho individuální finanční situace a nijak nepředstavuje investiční strategii. Marketingová komunikace nepředstavuje nabídku k prodeji, nabídku, předplatné, výzvu na nákup, reklamu nebo propagaci jakýchkoliv finančních nástrojů. Společnost XTB S.A., organizační složka nenese odpovědnost za jakékoli jednání nebo opomenutí klienta, zejména za získání nebo zcizení finančních nástrojů, na základě informací obsažených v této marketingové komunikaci. V případě, že marketingová komunikace obsahuje jakékoli informace o jakýchkoli výsledcích týkajících se finančních nástrojů v nich uvedených, nepředstavují žádnou záruku ani předpověď ohledně budoucích výsledků. Minulá výkonnost nemusí nutně vypovídat o budoucích výsledcích a každá osoba jednající na základě těchto informací tak činí zcela na vlastní riziko.
