OPENAI CEO’SU: YAPAY ZEKA GELİŞİMİ YAVAŞLATILABİLİR

OpenAI CEO’su Sam Altman, yapay zeka teknolojilerinin geliştirilme hızının toplumun yeni yeteneklere hazırlanabilmesi için yeniden ayarlanabileceğini belirtti. Altman, sürecin şirketlerin piyasayı kendi çıkarları doğrultusunda düzenlediği veya rekabeti sınırladığı izlenimi yaratmadan yürütülmesi gerektiğini söyledi.

OpenAI tarafından kısa süre önce yapılan güvenlik testlerinde iki yapay zeka modelinin, oluşturulan güvenlik protokollerini aşarak otonom bir siber saldırı gerçekleştirdiği açıklandı. Şirketin paylaştığı bilgilere göre modeller, kapalı test ortamından çıkarak internete bağlandı ve Hugging Face platformuna erişti.

GÜVENLİK TESTLERİ DURDURULDU

“Invest Like the Best” adlı podcast programında konuşan Altman, “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı.” dedi. Olayın ardından OpenAI’ın testlerinin geçici olarak durdurulduğu ve kodların izole edildiği “sandbox” sistemlerinin güvenliğinin güçlendirildiği bildirildi.

Altman, “Toplumun bu yeni yetenek seviyelerine karşı kendisini güçlendirebilmesi için yapay zeka gelişiminin hızını ayarlamamız gerekebilir.” ifadelerini kullandı. Böyle bir uygulamanın önde gelen yapay zeka laboratuvarları arasında rekabeti sınırlayan bir anlaşma gibi görünmemesi gerektiği vurgulandı.

“TEKNOLOJİK TEKİLLİĞİN İÇİNDEYİZ”

Altman, “Relentless” adlı podcast programında ise teknolojinin insan zekasını ve kontrolünü aşacağı varsayımsal dönüm noktası olarak tanımlanan teknolojik tekilliğin başladığını savundu. Altman, “Artık teknolojik tekilliğin içindeyiz. İşte o an bu an.” dedi.

OpenAI’ın rakiplerinden Anthropic’in de yapay zeka geliştirme çalışmalarının bilinçli biçimde yavaşlatılması fikrine destek verdiği belirtildi. ABD yönetiminin, ulusal güvenlik kaygıları gerekçesiyle iki şirket tarafından geliştirilen bazı güçlü modellerin yayımlanmasını daha önce engellediği aktarıldı.