YAPAY ZEKA TEHLİKESİ: KENDİ HALEFLERİNİ TASARLAYABİLİRLER
Yapay zeka şirketi Anthropic, sistemlerin giderek artan bir şekilde insan müdahalesi olmadan kendi araştırma ve geliştirme süreçlerini yürütebildiği uyarısında bulundu. Şirket, bu eğilimin sürmesi halinde yapay zekanın kendi haleflerini tasarlayarak insan kontrolünden çıkma riski taşıdığını vurguladı.
Güncellenme : 06 Haziran 2026 09:54 /
Yayınlanma: 06 Haziran 2026 09:54
Yapay zeka şirketi Anthropic kurucu ortağı Jack Clark ve Anthropic Enstitüsü Lideri Marina Favaro tarafından kaleme alınan "Yapay zeka kendini inşa ettiğinde" başlıklı bir makale yayımlandı. Yayımlanan yazıda, geçmişte tamamen insanlar tarafından yönetilen yapay zeka geliştirme süreçlerinin artık büyük oranda yapay zeka sistemlerine devredildiği bildirildi.
Geliştirme hızını artıran bu durumun, sistemlerin kendi haleflerini tasarlayıp geliştirebilecekleri bir seviyeye ulaşma ihtimalini doğurduğu belirtildi. Literatürde "özyinelemeli kendini geliştirme" olarak adlandırılan bu sürecin henüz tam anlamıyla gerçekleşmediği, ancak öngörülen tarihlerden daha erken yaşanabileceği aktarıldı.
KONTROL KAYBI RİSKİNE DİKKAT ÇEKİLDİ
Sistemlerin kendi kendilerini inşa etme kapasitesine ulaşmasının, bilim ve sağlık gibi alanlarda büyük faydalar sunabileceği ifade edilirken, insanlığın teknoloji üzerindeki kontrolünü kaybetme riskini de beraberinde getirdiği vurgulandı. Makalede, "Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir." ifadelerine yer verildi.
Toplumsal yapıların söz konusu teknolojik hıza uyum sağlayabilmesi adına, ileri düzey yapay zeka geliştirme süreçlerinin birden fazla laboratuvar ve ülke koordinasyonuyla yavaşlatılması veya geçici olarak durdurulması seçeneğinin değerlendirilmesi gerektiği kaydedildi.