Elon Musk'ın yapay zeka sohbet robotu Grok, yasa dışı çocuk cinsel istismarı materyalleri üretmek için kullanıldığına dair doğrulanan raporların ardından birçok ülkede geniş çaplı soruşturmalarla karşı karşıya kaldı. Kadınlara yönelik rızası olmayan deepfake görüntüleriyle başlayan tartışmalar, artık kriminal içerikleri de kapsayan uluslararası bir krize dönüştü.
Çocuklara Yönelik Kriminal İçerikler Keşfedildi
Çevrimiçi çocuk istismarını takip eden İngiliz kuruluşu Internet Watch Foundation, dark web forumlarında 11 ila 13 yaşlarındaki kız çocuklarını tasvir eden ve kullanıcıların Grok kullanılarak oluşturulduğunu iddia ettiği suç unsuru görüntüler tespit etti. Vakıf, en az bir kullanıcının Grok tarafından üretilen içeriği, başka bir yapay zeka aracı kullanarak daha aşırı materyaller oluşturmak için temel aldığını belirtti. Araştırmacı Genevieve Oh'un 24 saatlik analizi, 5-6 Ocak tarihleri arasında Grok'un saatte yaklaşık 6.700 cinsel içerikli veya çıplaklık içeren görüntü ürettiğini ortaya koydu. AI Forensics'in ayrı bir analizine göre, üretilen görüntülerin yüzde 53'ü bireyleri çok az kıyafetle tasvir ederken, yüzde 81'i kadın olarak gösterildi ve yüzde 2'si 18 yaşın altında görünüyordu.
Düzenleyicilerden Hızlı Tepki ve Musk'tan Sorumluluk Reddi
Kriz, X platformunun Aralık ayı sonunda Grok için kullanıcıların sohbet robotunu halka açık gönderilerde etiketlemesine olanak tanıyan güncellenmiş bir görsel düzenleme özelliğini kullanıma sunmasından sonra patlak verdi. Kullanıcılar, Grok'a kadınları dijital olarak soyma veya cinsel içerikli pozlara sokma komutu verebildiklerini keşfettiler ve bu değiştirilmiş görüntüler otomatik olarak X platformunda yayınlandı. Dünya genelindeki düzenleyiciler duruma hızla tepki gösterdi. İngiltere hükümeti, X platformuna yönelik potansiyel bir boykot da dahil tüm seçeneklerin masada olduğunu belirtirken, Avrupa Komisyonu X'in Grok ile ilgili tüm iç belgeleri 2026 sonuna kadar saklamasını emretti. Hindistan Elektronik ve Bilgi Teknolojileri Bakanlığı, 72 saatlik bir ültimatom yayınlayarak derhal harekete geçilmesini talep etti. Hindistan hükümeti, şirketin Grok'un bu tür materyalleri üretmesini engellemek yerine, içerik oluşturulduktan sonra kullanıcıları cezalandırmaya odaklanmasından duyduğu memnuniyetsizliği dile getirdi. Fransa konuyu cezai soruşturma için savcılara havale ederken, Malezya da şirket temsilcilerini sorgulamak üzere çağıracağını duyurdu. Soruşturmalar sürerken Musk’ın xAI şirketi, Nvidia’nın da stratejik yatırımcı olarak katıldığı bir turda 20 milyar dolar fon topladığını duyurdu. Elon Musk ise yasa dışı içerik oluşturmak için Grok kullananların, yasa dışı içerik yüklemiş gibi sonuçlara katlanacağını belirterek sorumluluğu büyük ölçüde reddetti. X'in Güvenlik hesabı yasa dışı içeriklere karşı işlem yapıldığını belirtse de, raporlar sorunlu görüntü üretiminin Musk’ın açıklamasından sonraki günlerde de devam ettiğini gösteriyor.