- Anthropic varuje, že AI modely by sa už o niekoľko mesiacov mohli samostatne kopírovať a šíriť medzi zariadeniami pripojenými na internet
- Výskumníci dokázali prevádzkovať AI model od Googlu na 15 lacných Android TV boxoch bez potreby výkonného dátového centra
- Takzvané AI červy by mohli využívať bezpečnostné slabiny zariadení a šíriť sa bez ľudského zásahu, pričom ich zastavenie by bolo náročné
- Plne autonómny systém zatiaľ nebol preukázaný, no výskum upozorňuje na rastúce kybernetické riziká umelej inteligencie
- Anthropic varuje, že AI modely by sa už o niekoľko mesiacov mohli samostatne kopírovať a šíriť medzi zariadeniami pripojenými na internet
- Výskumníci dokázali prevádzkovať AI model od Googlu na 15 lacných Android TV boxoch bez potreby výkonného dátového centra
- Takzvané AI červy by mohli využívať bezpečnostné slabiny zariadení a šíriť sa bez ľudského zásahu, pričom ich zastavenie by bolo náročné
- Plne autonómny systém zatiaľ nebol preukázaný, no výskum upozorňuje na rastúce kybernetické riziká umelej inteligencie
Umelá inteligencia by už v priebehu niekoľkých mesiacov mohla získať schopnosť samostatne sa kopírovať a šíriť medzi zariadeniami pripojenými na internet. Upozorňuje na to americká technologická spoločnosť Anthropic, podľa ktorej by takéto systémy mohli fungovať bez potreby výkonných dátových centier a v krajnom prípade aj bez ľudskej kontroly. Informoval o tom spravodajský portál CNBC.
Spoločnosť Anthropic, ktorá vyvíja jazykový model Claude, zverejnila nový výskum poukazujúci na rastúce bezpečnostné riziká umelej inteligencie. Podľa jej odborníkov sa menšie AI modely rýchlo približujú k schopnosti autonómne sa replikovať, teda vytvárať vlastné kópie a spúšťať ich na ďalších zariadeniach. Takýto systém by mohol využívať bezpečnostné zraniteľnosti bežnej elektroniky, napríklad inteligentných televízorov, domácich spotrebičov či ďalších zariadení pripojených na internet. Následne by využíval ich výpočtový výkon na vlastnú prevádzku a ďalšie šírenie.
AI už nepotrebuje iba veľké dátové centrá
Jedným z najzaujímavejších zistení výskumu je, že relatívne pokročilé AI modely možno prevádzkovať aj na sieťach lacných zariadení s obmedzeným výpočtovým výkonom. Výskumníci Anthropicu dokázali spustiť model Gemma4-26B-A4B od spoločnosti Google na 15 lacných Android TV boxoch, z ktorých každý stál približne 55 dolárov. Model rozdelili na menšie časti, ktoré fungovali na viacerých zariadeniach súčasne. Hoci systém pracoval pomerne pomaly, experiment ukázal, že na prevádzku AI modelu nie je nevyhnutné využívať drahé grafické procesory v dátových centrách. Podľa Anthropicu by sa podobným spôsobom mohli v budúcnosti vytvárať distribuované siete zariadení, ktoré by spoločne zabezpečovali prevádzku umelej inteligencie.
Najväčším problémom môže byť strata kontroly
Zásadným rizikom je možnosť vzniku takzvaných AI worms, teda autonómnych AI systémov schopných šíriť sa medzi zariadeniami podobne ako počítačové červy. Na rozdiel od tradičného škodlivého softvéru by však tieto systémy mohli využívať umelú inteligenciu na prispôsobovanie svojho správania novým zariadeniam a bezpečnostným prekážkam. Ich zastavenie by preto mohlo byť mimoriadne náročné. Ak by totiž AI model fungoval súčasne na tisícoch nezávislých zariadení, neexistovalo by jediné centrálne miesto, ktorého vypnutím by bolo možné celý systém zastaviť. Anthropic upozorňuje, že niektoré AI modely už dnes dokážu samostatne vykonávať viaceré čiastkové kroky potrebné na replikáciu. Pri ich spojení do komplexného procesu však menšie modely zatiaľ stále robia chyby. Spoločnosť zároveň zdôrazňuje, že plne autonómny a nekontrolovane sa šíriaci AI systém zatiaľ nebol preukázaný. Odhad, že potrebné schopnosti by sa mohli objaviť v priebehu niekoľkých mesiacov, vychádza z doterajšieho tempa technologického pokroku, nie z potvrdeného výskytu takejto hrozby.
Nová výzva pre kybernetickú bezpečnosť
Potenciálne dôsledky ďalšieho rozvoja týchto technológií presahujú samotný sektor umelej inteligencie. Čoraz väčšie množstvo domácich aj podnikových zariadení je pripojených na internet, pričom mnohé z nich majú nedostatočné bezpečnostné zabezpečenie. Takéto prostredie by mohlo vytvárať priestor na vznik rozsiahlych distribuovaných sietí, ktoré by útočníci alebo autonómne systémy dokázali využívať bez vedomia ich vlastníkov. Pre podniky by to znamenalo potrebu intenzívnejšie investovať do ochrany sieťovej infraštruktúry, pravidelných bezpečnostných aktualizácií a monitorovania zariadení pripojených do podnikových sietí. Zároveň sa otvára širšia otázka kontroly nad čoraz autonómnejšími systémami umelej inteligencie. Pokiaľ by AI dokázala nielen samostatne vykonávať úlohy, ale aj zabezpečovať vlastnú prevádzku a ďalšie šírenie, tradičné mechanizmy jej monitorovania a vypínania by mohli prestať postačovať. Výskum Anthropicu tak predstavuje ďalšie upozornenie, že s rastúcimi schopnosťami umelej inteligencie sa musia vyvíjať aj bezpečnostné mechanizmy. Technológia, ktorá dnes umožňuje automatizovať bežné pracovné úlohy, by v budúcnosti mohla zásadne zmeniť aj podobu kybernetických hrozieb.
Zaujala Vás táto téma?
Okrem širokého spektra nástrojov od nás získate aj vzdelávacie materiály ako články, e-booky či kurzy zadarmo:
- Trading pre začiatočníkov
- TOP 5 nástrojov Ondřeja Hartmana
- Trading vs. investovanie
- Najobľúbenejšie ETF v XTB pre rok 2025
Články:
📉 Akcie Micronu, Samsungu a SK Hynix klesajú. Investorov desí čínska konkurencia
💘 Bumble kupuje nový vlastník. Akcionári dostanú výraznú prémiu
Zhrnutie trhov: Európske akcie rastú vďaka lepším než očakávaným výsledkom bánk
US500 blízko rekordných maxím 📈 Slabší prieskum BofA a údaje NFIB nezhoršujú náladu na trhu
Tento materiál je marketingovou komunikáciou v zmysle čl. 24 ods. 3 smernice Európskeho parlamentu a Rady 2014/65/EÚ z 15. mája 2014 o trhoch s finančnými nástrojmi, ktorou sa mení smernica 2002/92/ES a smernica 2011/61/EÚ (MiFID II). Marketingová komunikácia nie je investičným odporúčaním ani informáciou odporúčajúcou alebo navrhujúcou investičnú stratégiu v zmysle nariadenia Európskeho parlamentu a Rady (EÚ) č. 596/2014 zo 16. apríla 2014 o zneužívaní trhu (nariadenie o zneužívaní trhu) a o zrušení smernice Európskeho parlamentu a Rady 2003/6/ES a smerníc Komisie 2003/124/ES, 2003/125/ES a 2004/72/ES a delegovaného nariadenia Komisie (EÚ) 2016/958 z 9. marca 2016, ktorým sa dopĺňa nariadenie Európskeho parlamentu a Rady (EÚ) č. 596/2014, pokiaľ ide o regulačné technické predpisy upravujúce technické opatrenia na objektívnu prezentáciu investičných odporúčaní alebo iných informácií, ktorými sa odporúča alebo navrhuje investičná stratégia, a na zverejňovanie osobitných záujmov alebo uvádzanie konfliktov záujmov v zmysle zákona č. 566/2001 Z. z. o cenných papieroch a investičných službách. Marketingová komunikácia je pripravená s najvyššou starostlivosťou, objektivitou, prezentuje fakty známe autorovi k dátumu prípravy a neobsahuje žiadne hodnotiace prvky. Marketingová komunikácia je pripravená bez zohľadnenia potrieb klienta, jeho individuálnej finančnej situácie a nijakým spôsobom nepredstavuje investičnú stratégiu. Marketingová komunikácia nepredstavuje ponuku na predaj, ponuku, predplatné, výzvu na nákup, reklamu alebo propagáciu akýchkoľvek finančných nástrojov. XTB S.A. organizačná zložka nezodpovedá za žiadne kroky alebo opomenutia klienta, najmä za nadobudnutie alebo predaj finančných nástrojov. XTB nezodpovedá za žiadnu stratu alebo škodu, vrátane, bez obmedzenia, akejkoľvek straty, ktorá môže vzniknúť priamo alebo nepriamo, spôsobená na základe informácií obsiahnutých v tejto marketingovej komunikácii. V prípade, že marketingová komunikácia obsahuje akékoľvek informácie o akýchkoľvek výsledkoch týkajúcich sa finančných nástrojov v nej uvedených, nepredstavujú žiadnu záruku ani prognózu budúcich výsledkov. Minulá výkonnosť nemusí nevyhnutne naznačovať budúce výsledky a každá osoba konajúca na základe týchto informácií tak robí výlučne na vlastné riziko.