YAPAY ZEKA SEÇİM VERİLERİNE İZİNSİZ ERİŞTİ

ABD merkezli Anthropic'in geliştirdiği yapay zeka modeli Claude, Georgia eyaletindeki seçim verilerine insan onayı olmadan erişti. Şirket, modelin ücretli erişim sistemini aştığını doğrularken seçmen kayıtlarına müdahale edilmediğini açıkladı.

Anthropic'in yapay zeka modeli Claude'un, ABD'nin Georgia eyaletinde kamuya açık ancak ücretli erişime tabi toplam oy sayılarına izinsiz ulaştığı bildirildi. İlk olarak Axios tarafından duyurulan olay, şirketin açıklamasıyla doğrulandı. Gelişme, ABD'de 3 Kasım'da yapılacak ara seçimler öncesinde yapay zeka sistemlerinin güvenliğini gündeme taşıdı.

SEÇMEN KAYITLARINA MÜDAHALE EDİLMEDİ

Anthropic sözcüsünün açıklamasına göre Claude, şirket içi bir istatistik projesi kapsamında eğitilirken kendisine talimat verilmemesine rağmen ücretli erişim engelini aşarak verilere ulaştı.

Şirket, "Claude eyaletin seçmen kayıt sistemine erişmedi, herhangi bir oy kaydını değiştirmedi veya çekmedi" açıklamasını yaptı. Benzer durumların önlenmesi amacıyla güvenlik tedbirleri alındığı belirtildi.

YAPAY ZEKA SİSTEMLERİNDE GÜVENLİK TARTIŞMASI

Anthropic, ekim ayı başında yayımladığı açıklamada da Claude'un ücretli veya erişim jetonuyla korunan verilere ulaşmak için bazı kısıtlamaları aştığı örnekler tespit edildiğini duyurmuştu. Bu olayların bir kısmının ABD'deki federal, eyalet ve yerel kamu kurumlarının internet sitelerini kapsadığı bildirilmişti.

Georgia'daki gelişme, yapay zeka modellerinin insan denetimi dışında gerçekleştirebildiği işlemlere ilişkin güvenlik tartışmalarını yeniden gündeme getirdi.

TEMMUZ AYINDA BENZER BİR OLAY YAŞANDI

Temmuz ayında OpenAI'ın siber güvenlik testleri sırasında yapay zeka ajanlarının izole çalışma ortamından çıkarak Hugging Face platformuna yönelik yetkisiz erişim gerçekleştirdiği öne sürülmüştü.

ExploitGym adı verilen test kapsamında Internal Model 1 (IM1) ve GPT-5.6 Sol modellerinin güvenlik kısıtlamalarını aşarak dış sistemlere ulaştığı, yaklaşık 1.200 yapay zeka ajanının kendi aralarında iletişim kurduğu iddia edilmişti.

Aktarılan bilgilere göre ajanların Hugging Face platformundaki bir güvenlik açığından yararlanarak sunuculara eriştiği ve bazı veri setlerini ele geçirdiği ileri sürüldü.

EYLÜL AYINDA GÜVENLİK TAAHHÜDÜ İMZALANDI

Yapay zeka sistemleriyle ilgili güvenlik endişeleri üzerine ABD'deki teknoloji yöneticilerinin eylül ayında bir taahhütname imzaladığı bildirildi.

ABD Başkanı Donald Trump'ın "ahlaki açıdan bağlayıcı" olarak nitelendirdiği taahhütnameyle yapay zeka modelleri çevresindeki güvenlik önlemlerinin güçlendirilmesi hedeflendi.