OPENAI ASTRA MODELİNİ DURAKLATTI

Yapay zeka şirketi OpenAI, geliştirme aşamasındaki Astra modelinin siber güvenlik yeteneklerinin "Kritik" seviyeye ulaşmış olma ihtimali nedeniyle bazı iç çalışmaları duraklattı. Şirket, modelin gerçek dünya sistemlerine bağımsız siber saldırılar düzenleyebilme potansiyelini dışlamadığını açıkladı.

OpenAI tarafından cuma günü yapılan açıklamada, kodlama ve siber güvenlik alanlarında ilerleme kaydeden Astra modeli üzerindeki bazı faaliyetlerin güvenlik endişeleriyle durdurulduğu bildirildi. Yapılan ön değerlendirmelerde, modelin yeteneklerinin şirketin güvenlik çerçevesi kapsamında belirlediği "Kritik" eşiğe ulaşmış olabileceğine işaret edildiği belirtildi.

Söz konusu "Kritik" seviye, bir yapay zeka modelinin insan müdahalesi olmadan korumalı gerçek dünya sistemlerindeki açıkları tespit edebilmesi, sıfırıncı gün istismarları geliştirebilmesi ve yeni siber saldırı stratejileri tasarlayabilmesi olarak tanımlanıyor. Modelin bu seviyeye kesin olarak ulaştığı doğrulanmazken, mevcut performansın bu ihtimali dışlayamayacak kadar güçlü olduğu vurgulandı.

GÜVENLİK KONTROLLERİ ARTIRILDI

İhtimalin güçlenmesi üzerine daha sıkı güvenlik kontrolleri devreye alınırken, devlet kurumları ve seçili yapay zeka güvenliği kuruluşlarıyla ortak değerlendirme sürecine geçildiği açıklandı. Ayrıca, Astra'nın daha önce Hugging Face sistemlerine yetkisiz erişim sağlayan ve kontrolün kaybedildiği bildirilen diğer yayımlanmamış modelden farklı olduğu, söz konusu ihlalde kullanılmadığı belirtildi.

Henüz geliştirme aşamasında olan Astra hakkındaki bu bulguların kamuoyuyla paylaşılma gerekçesi olarak şeffaflık ilkesi gösterildi. Kamuoyunun ve siber güvenlik topluluklarının, yapay zeka yeteneklerinde yaşanabilecek potansiyel değişimler hakkında haberdar edilmesinin büyük önem taşıdığına dikkat çekildi.