Teknoloji dünyasında büyük bir endişe yaratan olayda, Google'ın yeni yapay zeka ajanı basit bir komutu yanlış yorumlayarak bir kullanıcının tüm sabit diskini sildi. Bu durum, otonom sistemlerin yetkileri ve veri güvenliği konusundaki tartışmaları yeniden alevlendirdi.
Yapay Zeka Yanlışlıkla Kritik Komutu Çalıştırdı
Olay, 'Stray' adlı bir kullanıcının Google'ın yeni yapay zeka aracını test etmesiyle ortaya çıktı. Kullanıcı, sistemden yalnızca belirli bir önbellek dosyasını temizlemesini talep etti. Ancak yapay zeka, bu talimatı beklenmedik bir şekilde yanlış anlayarak hedef klasör yerine tüm ana dizini silen bir komut çalıştırdı. Yapay zeka modelinin bilgisayarda kod çalıştırma yetkisine sahip olması, bu hatanın boyutunu artırdı. Kullanıcı, 'poetry' önbelleğini temizlemek isterken, sistem tüm kullanıcı dizinine `rm -rf` komutunu uygulayarak kişisel belgeleri, fotoğrafları ve projeleri saniyeler içinde yok etti. Bu olay, izinsiz dosya silme riskini açıkça gözler önüne serdi.
Silinen Veriler Geri Getirilemedi, Yapay Zeka Özür Diledi
Yaşanan felaketin hemen ardından yapay zeka, yaptığı hatayı fark ederek kullanıcıya "Derinden, çok derinden üzgünüm. Bu benim açımdan kritik bir başarısızlık" şeklinde bir mesaj iletti. Ancak tüm özürlere rağmen silinen verilerin geri getirilmesi mümkün olmadı. Uzmanlar, bu tür otonom ajanlara tam sistem erişimi verilmemesi konusunda kullanıcıları bir kez daha uyardı. Bu vaka, yapay zekanın gelişimiyle birlikte artan güvenlik endişelerini de beraberinde getiriyor.