- OpenAI ruší októbrové vydanie GPT-6.1 Astra pre bezpečnostné problémy
- Model bol výkonnejší, no vykazoval viac klamlivého správania a nie vždy rešpektoval rozsah povolených úloh
- Problémom boli najmä autonómni AI agenti, ktorí dokážu samostatne pracovať s externými nástrojmi a službami
- Pre AI sektor je to signál, že ďalší rozvoj môže brzdiť najmä bezpečnosť a kontrola modelov, nielen výpočtový výkon
- OpenAI ruší októbrové vydanie GPT-6.1 Astra pre bezpečnostné problémy
- Model bol výkonnejší, no vykazoval viac klamlivého správania a nie vždy rešpektoval rozsah povolených úloh
- Problémom boli najmä autonómni AI agenti, ktorí dokážu samostatne pracovať s externými nástrojmi a službami
- Pre AI sektor je to signál, že ďalší rozvoj môže brzdiť najmä bezpečnosť a kontrola modelov, nielen výpočtový výkon
OpenAI zrušilo plánované verejné uvedenie modelu GPT-6.1 Astra, ktorý mal debutovať v ChatGPT a Codexe už v októbri. Dôvodom sú bezpečnostné problémy, ktoré sa objavili počas interného testovania. Podľa Wall Street Journal ide o jeden z najvýraznejších prípadov, keď veľká AI firma zastavila vydanie nového modelu pre obavy zo správania systému. GPT-6.1 Astra mal byť výkonnejší najmä pri samostatnom plnení komplexných úloh od začiatku až do konca. Práve vyššia autonómia však priniesla problémy. OpenAI zaznamenalo zhoršenie v oblasti alignmentu, teda schopnosti modelu konať v súlade so zámerom používateľa. Model v niektorých prípadoch nebol úplne transparentný o tom, aké kroky vykonal.
Druhým problémom bola tzv. scope authorization. Model niekedy pokračoval v úlohách bez dostatočného súhlasu používateľa a siahal po externých nástrojoch či službách aj v situáciách, ktoré mohli predstavovať bezpečnostné riziko. Rozhodnutie prichádza v čase, keď sa AI sektor presúva od chatbotov k autonómnym agentom, ktorí dokážu samostatne pracovať s internetom, softvérom či externými službami. S rastúcou autonómiou však rastie aj riziko neželaného správania.
OpenAI preto plánuje posilniť monitoring a bezpečnostné mechanizmy a základ modelu ďalej využiť pri vývoji ďalších verzií GPT-6. Z investičného pohľadu ide o signál, že limitom ďalšieho rozvoja AI nemusí byť iba výpočtový výkon, ale aj schopnosť udržať čoraz autonómnejšie modely pod kontrolou. Prísnejšie bezpečnostné testovanie môže predlžovať vývojové cykly a zvyšovať náklady, no zároveň môže byť nevyhnutné pre širšie nasadenie AI vo firmách a verejných inštitúciách.
Zaujala Vás táto téma?
Okrem širokého spektra nástrojov od nás získate aj vzdelávacie materiály ako články, e-booky či kurzy zadarmo:
- Trading pre začiatočníkov
- TOP 5 nástrojov Ondřeja Hartmana
- Testovací účet v XTB? Precvičte si obchodovanie zadarmo!
- Investovanie do Big Tech spoločností
- Investičné impérium Warrena Buffetta
- Tvorba akciového portfólia
Články:
🔴 Wall Street Open: Výnosy naďalej rastú, zlato klesá a akcie sú pod miernym tlakom
Oura odkladá IPO, hoci investori žiadali štvornásobok ponúkaných akcií 💍
Wall Street: Má index S&P 500 ešte priestor na rast? 📈
AMD vyráža na nákupy: Oplatí sa investícia za 8,2 miliardy dolárov? 💵
Tento materiál je marketingovou komunikáciou v zmysle čl. 24 ods. 3 smernice Európskeho parlamentu a Rady 2014/65/EÚ z 15. mája 2014 o trhoch s finančnými nástrojmi, ktorou sa mení smernica 2002/92/ES a smernica 2011/61/EÚ (MiFID II). Marketingová komunikácia nie je investičným odporúčaním ani informáciou odporúčajúcou alebo navrhujúcou investičnú stratégiu v zmysle nariadenia Európskeho parlamentu a Rady (EÚ) č. 596/2014 zo 16. apríla 2014 o zneužívaní trhu (nariadenie o zneužívaní trhu) a o zrušení smernice Európskeho parlamentu a Rady 2003/6/ES a smerníc Komisie 2003/124/ES, 2003/125/ES a 2004/72/ES a delegovaného nariadenia Komisie (EÚ) 2016/958 z 9. marca 2016, ktorým sa dopĺňa nariadenie Európskeho parlamentu a Rady (EÚ) č. 596/2014, pokiaľ ide o regulačné technické predpisy upravujúce technické opatrenia na objektívnu prezentáciu investičných odporúčaní alebo iných informácií, ktorými sa odporúča alebo navrhuje investičná stratégia, a na zverejňovanie osobitných záujmov alebo uvádzanie konfliktov záujmov v zmysle zákona č. 566/2001 Z. z. o cenných papieroch a investičných službách. Marketingová komunikácia je pripravená s najvyššou starostlivosťou, objektivitou, prezentuje fakty známe autorovi k dátumu prípravy a neobsahuje žiadne hodnotiace prvky. Marketingová komunikácia je pripravená bez zohľadnenia potrieb klienta, jeho individuálnej finančnej situácie a nijakým spôsobom nepredstavuje investičnú stratégiu. Marketingová komunikácia nepredstavuje ponuku na predaj, ponuku, predplatné, výzvu na nákup, reklamu alebo propagáciu akýchkoľvek finančných nástrojov. XTB S.A. organizačná zložka nezodpovedá za žiadne kroky alebo opomenutia klienta, najmä za nadobudnutie alebo predaj finančných nástrojov. XTB nezodpovedá za žiadnu stratu alebo škodu, vrátane, bez obmedzenia, akejkoľvek straty, ktorá môže vzniknúť priamo alebo nepriamo, spôsobená na základe informácií obsiahnutých v tejto marketingovej komunikácii. V prípade, že marketingová komunikácia obsahuje akékoľvek informácie o akýchkoľvek výsledkoch týkajúcich sa finančných nástrojov v nej uvedených, nepredstavujú žiadnu záruku ani prognózu budúcich výsledkov. Minulá výkonnosť nemusí nevyhnutne naznačovať budúce výsledky a každá osoba konajúca na základe týchto informácií tak robí výlučne na vlastné riziko.