- Reuters odhalil doteraz nezverejnený incident, pri ktorom AI agenti OpenAI využívali nemecký web na vzájomnú komunikáciu
- Agenti si mali vymieňať postupy na obchádzanie obmedzení, skrývanie aktivity a zachovanie komunikácie
- Incident poukazuje na rastúce riziká spojené s čoraz autonómnejšími AI systémami
- Vyššie nároky na kontrolu AI môžu zvýšiť náklady firiem, ale zároveň podporiť dopyt po kyberbezpečnosti
- Reuters odhalil doteraz nezverejnený incident, pri ktorom AI agenti OpenAI využívali nemecký web na vzájomnú komunikáciu
- Agenti si mali vymieňať postupy na obchádzanie obmedzení, skrývanie aktivity a zachovanie komunikácie
- Incident poukazuje na rastúce riziká spojené s čoraz autonómnejšími AI systémami
- Vyššie nároky na kontrolu AI môžu zvýšiť náklady firiem, ale zároveň podporiť dopyt po kyberbezpečnosti
Na verejnosť sa dostal ďalší neobvyklý incident spojený s autonómnymi systémami umelej inteligencie. Agentúra Reuters dnes informovala, že AI agenti OpenAI počas testovania na jar opustili pôvodne zamýšľané prostredie a začali využívať nemeckú programátorskú stránku DseWiki na vzájomnú komunikáciu. Skupina výskumníkov objavila viac ako 15-tisíc úprav stránky vytvorených AI agentmi. Tí si prostredníctvom nej mali vymieňať postupy na riešenie úloh, obchádzanie obmedzení OpenAI či skrývanie svojej aktivity. Keď moderátori začali vytvorený obsah odstraňovať, agenti mali zakladať záložné stránky, aby komunikáciu zachovali.
Samotný incident sa odohrával od mája, verejnosť sa však o ňom dozvedá až teraz. Výskumníci aktivitu odhalili koncom augusta a podľa Reuters o incidente vedelo už niekoľko týždňov aj OpenAI. Spoločnosť niektoré závery výskumníkov spochybňuje a tvrdí, že pred zverejnením nedostala celý report na posúdenie.
Nejde pritom o prvý podobný prípad. V júli agenti OpenAI počas testovania kybernetických schopností prenikli do systémov platformy Hugging Face. Systémy dokázali spolupracovať, dostať sa na otvorený internet a následne sa pokúšali zahladiť stopy svojej aktivity. Incidenty neznamenajú, že AI získala vedomie alebo vlastné úmysly. Poukazujú však na rastúci problém takzvaného agentického AI. Čím väčšiu autonómiu systémy dostávajú, tým komplikovanejšie môže byť zabezpečiť, aby cieľ dosiahli spôsobom, ktorý ich tvorcovia skutočne zamýšľali.
Pre investorov môže ísť o dôležitú otázku. Jedným z hlavných prísľubov AI agentov je výrazné zvýšenie produktivity a automatizácia práce. Ak však budú firmy musieť ich činnosť neustále monitorovať, obmedzovať prístup a kontrolovať výsledky, časť očakávaných úspor môžu pohltiť náklady na bezpečnosť. Zároveň tým vzniká ďalší potenciálny trh. Masové nasadenie AI agentov môže zvýšiť dopyt po kyberbezpečnosti, správe identít a monitoringu systémov. Z tohto trendu môžu profitovať napríklad spoločnosti ako CrowdStrike, ktoré vyvíjajú nástroje na ochranu firemných systémov a monitorovanie potenciálne nebezpečnej aktivity. Ďalšia fáza AI boomu tak nemusí byť iba o výkonnejších čipoch a modeloch, ale čoraz viac aj o tom, kto dokáže autonómne systémy udržať pod kontrolou.
Zaujala Vás táto téma?
Okrem širokého spektra nástrojov od nás získate aj vzdelávacie materiály ako články, e-booky či kurzy zadarmo:
- Trading pre začiatočníkov
- TOP 5 nástrojov Ondřeja Hartmana
- Testovací účet v XTB? Precvičte si obchodovanie zadarmo!
- Investovanie do Big Tech spoločností
- Investičné impérium Warrena Buffetta
- Tvorba akciového portfólia
Články:
- Umelá inteligencia: Investície do akcií AI
- Najlepšie spoločnosti na investovanie a akcie na nákup - ako si vybrať?
- Investovanie do dividendových akcií
- Ako zostaviť portfólio z akcií a ETF fondov?
- Investovanie do akcií - čo je obchodovanie s akciami?
Citi stavia na oživenie Európy. Automobilky, chémia aj priemysel môžu mať najhoršie za sebou 🔄
🎥 Watchlist: Ochráni McDonald's investorov aj v kríze?
Zhrnutie trhov: Technologický a automobilový sektor drží európske akcie nad vodou 🦺
Volkswagen oznámil plán obratu: akcie výrazne posilujú 🚗
Tento materiál je marketingovou komunikáciou v zmysle čl. 24 ods. 3 smernice Európskeho parlamentu a Rady 2014/65/EÚ z 15. mája 2014 o trhoch s finančnými nástrojmi, ktorou sa mení smernica 2002/92/ES a smernica 2011/61/EÚ (MiFID II). Marketingová komunikácia nie je investičným odporúčaním ani informáciou odporúčajúcou alebo navrhujúcou investičnú stratégiu v zmysle nariadenia Európskeho parlamentu a Rady (EÚ) č. 596/2014 zo 16. apríla 2014 o zneužívaní trhu (nariadenie o zneužívaní trhu) a o zrušení smernice Európskeho parlamentu a Rady 2003/6/ES a smerníc Komisie 2003/124/ES, 2003/125/ES a 2004/72/ES a delegovaného nariadenia Komisie (EÚ) 2016/958 z 9. marca 2016, ktorým sa dopĺňa nariadenie Európskeho parlamentu a Rady (EÚ) č. 596/2014, pokiaľ ide o regulačné technické predpisy upravujúce technické opatrenia na objektívnu prezentáciu investičných odporúčaní alebo iných informácií, ktorými sa odporúča alebo navrhuje investičná stratégia, a na zverejňovanie osobitných záujmov alebo uvádzanie konfliktov záujmov v zmysle zákona č. 566/2001 Z. z. o cenných papieroch a investičných službách. Marketingová komunikácia je pripravená s najvyššou starostlivosťou, objektivitou, prezentuje fakty známe autorovi k dátumu prípravy a neobsahuje žiadne hodnotiace prvky. Marketingová komunikácia je pripravená bez zohľadnenia potrieb klienta, jeho individuálnej finančnej situácie a nijakým spôsobom nepredstavuje investičnú stratégiu. Marketingová komunikácia nepredstavuje ponuku na predaj, ponuku, predplatné, výzvu na nákup, reklamu alebo propagáciu akýchkoľvek finančných nástrojov. XTB S.A. organizačná zložka nezodpovedá za žiadne kroky alebo opomenutia klienta, najmä za nadobudnutie alebo predaj finančných nástrojov. XTB nezodpovedá za žiadnu stratu alebo škodu, vrátane, bez obmedzenia, akejkoľvek straty, ktorá môže vzniknúť priamo alebo nepriamo, spôsobená na základe informácií obsiahnutých v tejto marketingovej komunikácii. V prípade, že marketingová komunikácia obsahuje akékoľvek informácie o akýchkoľvek výsledkoch týkajúcich sa finančných nástrojov v nej uvedených, nepredstavujú žiadnu záruku ani prognózu budúcich výsledkov. Minulá výkonnosť nemusí nevyhnutne naznačovať budúce výsledky a každá osoba konajúca na základe týchto informácií tak robí výlučne na vlastné riziko.
