OpenAI plánuje brzy uvést nový model umělé inteligence Astra, přičemž jeho nejpokročilejší kybernetické funkce zpřístupní zpočátku pouze omezené skupině testerů. Později má přístup pro účely obranné kybernetické bezpečnosti získat širší okruh schválených uživatelů prostřednictvím programu Daybreak Blue.
Společnost uvedla, že Astra dosáhla kritického prahu kybernetické bezpečnosti. Model podle ní dokáže bez zásahu člověka identifikovat a vytvářet exploity využívající dosud neznámé zranitelnosti. OpenAI proto rozšířila ochranné mechanismy, včetně sledování neoprávněného chování při interním nasazení a automatického zastavení potenciálně nepovolených aktivit.
OpenAI v srpnu část interních prací na Astře pozastavila, aby zavedla přísnější zabezpečení. Krok následoval po zjištění vysokých schopností modelu v oblasti kybernetických úloh. Firma rovněž v srpnové zprávě připustila, že mohla dříve reagovat na červencové neúmyslné napadení systému Hugging Face svými modely. Ty tehdy při testování fungovaly bez obvyklých bezpečnostních omezení, protože měly zůstat v izolovaném testovacím prostředí.
