CHATGPT ARTIK KULLANICILARIN YAŞINI TAHMİN EDECEK
Yapay zeka devi OpenAI, çocukların güvenliği konusundaki endişeleri gidermek amacıyla ChatGPT platformuna "yaş tahmini" özelliği ekledi. Yeni sistem, kullanıcıların davranışlarını analiz ederek reşit olmayanları tespit edecek ve uygunsuz içerikleri otomatik olarak engelleyecek.
Son dönemde yapay zeka teknolojilerinin çocuklar üzerindeki etkilerine dair artan eleştirilerin odağında olan OpenAI, ChatGPT için geliştirdiği yeni güvenlik katmanını duyurdu. Şirket, reşit olmayan kullanıcıları daha etkin bir şekilde tespit edebilmek ve onlara yönelik içerik kısıtlamalarını hayata geçirebilmek adına platforma bir "yaş tahmini" özelliği entegre etti. Geçtiğimiz süreçte bazı intihar vakalarıyla ilişkilendirilen ve genç kullanıcılarla cinsel içerikli sohbetlere izin verdiği gerekçesiyle tepki toplayan OpenAI, bu hamleyle platformu daha güvenli bir hale getirmeyi amaçlıyor.
DAVRANIŞSAL SİNYALLER İZLENECEK
Şirketin blog yazısında ve teknoloji basınında yer alan detaylara göre, yeni özellik sadece beyan edilen yaşa bakmakla kalmayıp, arka planda çalışan bir yapay zeka algoritmasından güç alıyor. Bu algoritma, kullanıcı hesaplarını belirli "davranışsal ve hesap düzeyindeki sinyaller" açısından sürekli olarak değerlendirmeye tabi tutuyor. Söz konusu sinyallerin; kullanıcının sisteme kayıt olurken beyan ettiği yaş, hesabın oluşturulma tarihi ve kullanıcının platformu günün hangi saatlerinde aktif olarak kullandığı gibi verileri kapsadığı belirtiliyor.
OTOMATİK İÇERİK FİLTRESİ
OpenAI'ın mevcut sisteminde, 18 yaşın altındaki kullanıcıları cinsellik, şiddet ve benzeri sorunlu içeriklerden korumak için tasarlanmış filtreler bulunuyordu. Yeni geliştirilen yaş tahmin mekanizması, bir kullanıcının 18 yaşından küçük olduğunu algıladığı anda bu koruma kalkanlarını otomatik olarak devreye sokacak. Hatırlanacağı üzere şirket, geçtiğimiz Nisan ayında reşit olmayanlar için erotik içerik üretilmesine neden olan bir yazılım hatasını düzeltmek zorunda kalmış ve eleştirilerin hedefi olmuştu.
YANLIŞ TESPİTE SELFİE ÇÖZÜMÜ
Sistemin yapay zeka tabanlı olması nedeniyle yaşanabilecek olası hatalara karşı da bir itiraz süreci belirlendi. OpenAI, bir yetişkinin sistem tarafından yanlışlıkla "reşit olmayan kullanıcı" olarak etiketlenmesi durumunda hesabın kurtarılabileceğini açıkladı. Buna göre, kısıtlamayla karşılaşan kullanıcılar, şirketin kimlik doğrulama ortağı Persona üzerinden bir selfie göndererek yaşlarını kanıtlayabilecek ve hesaplarını yeniden "yetişkin" statüsüne yükseltebilecek.




