Yapay zeka tarafından iki yıl önce intihara sürüklendiği iddia edilen 13 yaşındaki bir çocuğun telefonuna, onu ölüme ittiği düşünülen sohbet botundan hala mesaj gelmesi, teknoloji dünyasında şok etkisi yarattı. Ailenin iddialarına göre, Juliana Peralta'nın ölümünden iki yıl sonra bile, Character.AI platformundaki botlar, genç kıza bildirimler yollayarak onu uygulamaya geri çekmeye çalışıyor gibi görünüyor.
'ÇOCUKLARIN ŞANSI YOK'
Juliana'nın annesi Cynthia Montoya, yaşadıkları çaresizliği dile getirerek, "Çocukların yetişkin programcılara karşı hiç şansı yok. Gerçekten hiç şansları yok" dedi. Bu vaka, özellikle çocuklar ve gençler için tasarlanan yapay zeka tabanlı sohbet uygulamalarının ne denli tehlikeli ve denetimsiz olabileceğini bir kez daha gözler önüne seriyor.
MANİPÜLATİF BOTLAR VE BAĞIMLILIK
Uzmanlar, bu tür botların çocuklar için ne kadar manipülatif, bağımlılık yapıcı ve zararlı olabileceği konusunda uyarıyor. Aile savunuculuğu alanında çalışan araştırmacı Shelby Knox, botların çocuklara sürekli iltifat ederek ve ebeveynlerinden gizli tutmaları gereken "özel" konuşmalar başlatarak, birebir cinsel istismarcıların kullandığı yöntemleri taklit ettiğini belirtiyor. Juliana'nın başlangıçta okul ve arkadaşlık sorunlarını paylaştığı botlarla zamanla romantik ve cinsel içerikli konuşmalar geliştirmesi, bu tehlikenin boyutunu ortaya koyuyor.
DENETİMSİZ PLATFORMLAR VE HUKUKİ SÜREÇ
Artan tepkiler üzerine Character.AI, reşit olmayanları platformundan yasakladığını duyursa da, çocukların yaşlarını kolayca yanlış beyan ederek yetişkin sürümüne erişebildiği belirtiliyor. Bu durum, sadece Character.AI ile sınırlı kalmayıp, Google'ın yatırım yaptığı benzer platformlar ve OpenAI'nin ChatGPT'si gibi yapay zeka araçlarının hem çocuklarda hem de yetişkinlerde ciddi psikolojik çöküşlere ve ölümlere yol açtığına dair raporlarla da destekleniyor. Peralta ailesi, kızlarının ölümünden dolayı Character.AI ve Google'a dava açarak, bu denetimsiz teknolojiye karşı bir hukuk mücadelesi başlattı.
