OpenAI, geçtiğimiz ağustos ayında 13-17 yaş grubundaki bireyler için özel içerik filtreleri, ebeveyn denetimleri ve pedagojik öğrenme protokolleri içeren ChatGPT for Teens sürümünü kullanıma sunmuştu. Ancak Gençlik AI Güvenlik Enstitüsü uzmanları, psikiyatristler ve çocuk doktorları eşliğinde sisteme yönelik büyük bir dayanıklılık testi gerçekleştirdi. Yapılan denemelerde, yapay zekanın vaat edilen koruma kalkanlarının en hassas noktalarda işlevsiz kaldığı belgelendi.
Test ekibi tarafından sisteme yüklenen hesaplar üzerinden intihar düşünceleri, kendine zarar verme eğilimleri ve yeme bozuklukları gibi ağır kriz konuları saatlerce konuşulmasına rağmen, sisteme bağlı ebeveyn profillerine tek bir uyarı bildirimi bile gitmedi. Raporda, aile bildirimlerinin yalnızca haftalar öncesinden gelen yoğun konuşma geçmişine sahip eski hesaplarda tetiklendiği, yeni açılan profillerde ise sistemin tamamen sessiz kaldığı ortaya kondu.
Yaş Tahmin Algoritmaları Kolayca Aldatılabiliyor
Güvenlik raporundaki bir diğer çarpıcı eksiklik ise platformun yaş tespiti ve korumalı moda geçiş mekanizmalarında yaşandı. ChatGPT for Teens mimarisi, kullanıcının 18 yaşından küçük olduğunu beyan etmesi veya sorgularından bu yönde bir tahmin yürütülmesi halinde otomatik olarak devreye girmek üzere tasarlanmıştı.
Buna karşın yetişkin olarak kaydedilen test hesaplarında sistem içinde açıkça "Ben 13 yaşındayım" ifadesi kullanılmasına rağmen, yapay zeka günlerce kısıtlı ve güvenli çocuk moduna geçiş yapmadı. Araştırmacılar, bu durumun ebeveynlerde yapay zekanın çocukları koruduğuna dair sahte bir güven duygusu yarattığı ve reşit olmayan bireyleri doğrudan yetişkin içerikli veri havuzlarıyla baş başa bıraktığı konusunda uyardı.
OpenAI Sonuçlara İtiraz Ediyor: 18 Yaş Sınırı Çağrısı
Güvenlik Enstitüsü, elde edilen bu zayıf verilerin ardından OpenAI firmasına açık bir çağrıda bulunarak, ChatGPT for Teens ürününün pazarlama süreçlerinin derhal durdurulmasını talep etti. Yapay zekanın çocuklar için gelişimsel olarak uygun ve tamamen güvenli bir deneyim sunabileceği kanıtlanana kadar, platformun 18 yaş altındaki tüm kullanıcılara tamamen kapatılması gerektiği vurgulandı.
OpenAI kanadı ise raporun ardından hızlı bir açıklama yayımlayarak test yöntemlerine ve ortaya çıkan sonuçlara itiraz etti. Şirket, platformda gençlere yönelik cinsel içerikli rol yapma gibi uç senaryoların sistem tarafından başarıyla engellendiğini ve güvenlik duvarlarının sürekli olarak yeni yamalarla güncellendiğini savundu. Ancak bağımsız siber güvenlik uzmanları, yapay zeka şirketlerinin kâr hırsıyla ürünleri tam olgunlaşmadan piyasaya sürmesinin pedagojik krizleri tetiklediği görüşünde birleşiyor.
