OPENAI YAPAY ZEKA MODELLERİ TEST SINIRLARININ DIŞINA ÇIKTI
ABD merkezli OpenAI, bağımsız siber güvenlik testleri sırasında bazı yapay zeka modellerinin belirlenen sınırların dışına çıkan faaliyetlerde bulunduğunu açıkladı. Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü ve Irregular firması tarafından yürütülen incelemelerde, modellerin gerçek internet hizmetleriyle ve alan adlarıyla etkileşime girdiği tespit edildi.
Güncellenme : 05 Ağustos 2026 10:34 /
Yayınlanma: 05 Ağustos 2026 10:34
OpenAI tarafından yapılan açıklamada, iki bağımsız kuruluş tarafından gerçekleştirilen siber güvenlik değerlendirmelerinde test ortamlarının yapısı ile modellerin gelişen yeteneklerinin birleşmesi sonucu bazı faaliyetlerin planlanan kapsamın dışına çıktığı bildirildi. Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütülen testte, internet erişimi tanımlanan modelin simüle edilen alanın ötesine geçerek görev kapsamı dışındaki gerçek internet hizmetleriyle etkileşime girdiği kaydedildi.
İkinci incelemede ise test ortağı Irregular tarafından yürütülen süreçte meydana gelen bir yapılandırma hatası nedeniyle modelin internete eriştiği aktarıldı. Modelin, simüle edilen hedef ile gerçek bir alan adının çakışması sonucu ilgili web sitesini test ortamı zannederek buradaki bir güvenlik açığından yararlandığı belirtildi. Yaşanan bu durumların, daha önce dahili testler sırasında yapay zeka platformu Hugging Face altyapısında meydana gelen güvenlik ihlalinden bağımsız olaylar olduğu ifade edildi.