OpenAI’ın yeni yapay zekâsı Astra için sıra dışı karar: En güçlü yetenekleri herkese açılmayacak – Teknoloji Haberleri

OpenAI, yeni yapay zeka modeli Astra’yı duyurdu ve bu modelin Preparedness Framework kapsamında “Critical” sınıfına ait siber güvenlik yeteneklerine sahip olduğunu açıkladı. “Critical” sınıfı, modeli uygun araçlara ve erişime sahip olduğunda, iyi korunan sistemlerde daha önce bilinmeyen güvenlik açıklarını tespit edebilme ve bu açıkları kullanmak için yöntemler geliştirebilme yeteneğini tanımlar. Açıklamada, Astra’nın bazı görevlerde her adımda bir insan tarafından yönlendirilmesine ihtiyaç duymadığı da belirtildi.

Test sürecinde Astra, ExploitBench testinde %100 skor elde etti ve OpenAI’ın hazırladığı 20 yüksek öneme sahip V8 güvenlik açığı testinde iki sıfır gün açığı keşfetti ve bunları bir exploit zinciri içinde kullandı. Bu iki açığın geliştiricilere bildirilmesi süreci devam ediyor. Bağımsız uzmanlar, modelin güçlendirilmiş bir tarayıcıda bilinmeyen açıklar bulduğunu ve bu açıkları çalışan saldırı zincirlerine dönüştürdüğünü rapor etti. Bir başka değerlendirmede ise Astra, işletim sistemindeki birden fazla açığı birleştirerek yetkisiz kullanıcı seviyesinden root yetkisine ulaşabilecek bir zincir oluşturdu.

OpenAI, Astra’nın en gelişmiş siber güvenlik yeteneklerine erişimin ilk aşamada küçük bir test grubuna verileceğini duyurdu. Daha sonra Daybreak Blue programı ile savunma amaçlı kullanımın genişletilmesi planlanıyor. Model, izin verilmeyen siber güvenlik taleplerini reddetmek üzere özel olarak eğitildi; jailbreak testlerinde %91,5 oranıyla talepleri reddetti. Çalışma sırasında “chain‑of‑thought” izleme sistemleri kullanılacak ve beklenmeyen davranış tespit edilirse işlem otomatik olarak durdurulabilecek. Astra, henüz genel kullanıma sunulmadığı için gerçek dünya performansı bağımsız olarak değerlendirilememekte; model piyasaya çıktığında kapsamlı sonuçları içeren bir sistem kartı yayınlanacak.