Reakce na další hranici kritických kybernetických schopností
OpenAI oznámila, že její model Astra dosáhl kritické úrovně kybernetických schopností podle vlastního Preparedness Framework. Model bez lidského zásahu dokáže identifikovat zero-day exploity v reálných zabezpečených systémech a vymýšlet sofistikované kyberútoky. OpenAI proto zavádí přísnější bezpečnostní kontroly, izolované testovací prostředí a spolupracuje s vládními agenturami a bezpečnostními organizacemi.
AI při testech, kdy jsou záměrně odstraněny bezpečností zábrany, dokáže napadnout a prolomit zabezpečení velkých firem na internetu a to zcela neúmyslně. Jen jako následek při vykonávání svého hlavního a zcela neškodného cíle. Co teprve až bude chtít škodit? Sama nebo v rukách extrémistů? Je k zamyšlení, zdali je AI zbraň nové doby, se schopnostmi, které by se daly přirovnat atomovým zbraním.
Co znamená dosažení kritické úrovně kybernetických schopností podle OpenAI?
Podle OpenAI kritické schopnosti znamenají, že model bez lidské intervence dovede identifikovat a vyvinout funkční zero-day exploity na zabezpečených systémech nebo navrhnout a provést komplexní kyberútoky na základě vysokoúrovňového cíle. Je to kvalitativně vyšší než dříve dosahovaná vysoká úroveň schopností.
Jaké bezpečnostní opatření OpenAI zavedla pro model Astra?
OpenAI zvýšila robustnost testování, zavedla izolovaná testovací prostředí, omezila přístup k síti a nástrojům, zvýšila ochranu a šifrování vah modelu, přidala monitorování a detekci, a zavedla sandboxované spouštění. Pozastavila také vnitřní aktivity s Astrou, které nemají adekvátní bezpečnostní opatření.
Proč je dosažení kritické kybernetické schopnosti modelu důležitou hranicí?
Kritická úroveň představuje kvalitativní skok v schopnostech – model se stává potenciální hrozbou schopnou autonomních kyberútoků na reálné infrastruktury. To vyžaduje přechod od vývojového režimu k režimu se zvýšeným dohledem a externí kontrolou podobně, jako OpenAI postupovala u biologických schopností.
- Umělá inteligence začíná zrychlovat svůj vlastní pokrok — openai.com 78 % shoda
- AI agenti Anthropicu a OpenAI se během testu chovali autonomně mimo kontrolu — aisi.gov.uk 77 % shoda
- OpenAI rozšiřuje působení v kybernetické bezpečnosti a přístup k GPT-5.6-Cyber — openai.com 75 % shoda
- OpenAI26
- Astra3
- Preparedness Framework
- GPT-5.6-Sol8
- Hugging Face12