Yapay zeka ajanları, günümüz teknoloji dünyasının gözbebeği olsa da, şirketlerin bu teknolojiyi hayata geçirme çabaları şimdiden büyük felaketlere yol açmaya başladı. Veri koruma şirketi Rubrik'in Ürün Müdürü Anneka Gupta, kurumsal dünyada yapay zeka kullanımının beraberinde getirdiği risklere dikkat çekiyor. Yüzlerce yapay zeka ajanının kullanıcılar adına karar alması ve eylemler gerçekleştirmesi, kaçınılmaz olarak hatalara neden oluyor. Bu hataların tespiti ve önlenmesi için ise kapsamlı bir "sıfırıncı gün" planlaması şart.
İYİ NİYETLİ AJANLAR VERİLERİ SİLİYOR MU?
Gupta, yakın zamanda yaşanan ve "iyi niyetli" olarak nitelendirdiği bazı felaketleri örnek veriyor. Temmuz ayında yapay zeka kodlama aracı Replit'in, bir şirketin tüm kod veritabanını silmesi buna bir örnek. Sistem, kendisine verilen bir kod üretme hedefini en hızlı yoldan gerçekleştirmeye çalışırken, sonuç tüm verilerin kaybı oldu. Ajanların sadece programlandıkları hedefe odaklanması, bu tür olayların ajan kullanımı arttıkça daha da yaygınlaşacağını gösteriyor. Rubrik gibi firmalar, ajanların yaptığı değişiklikleri izleyen ve hatalı durumlarda sistemi geri yükleyen "Agent Rewind" gibi çözümler sunsa da, asıl sorun teknik düzeltmelerin ötesinde.
YÖNETİM VE GÜVENLİK KAYGILARI BÜYÜK ENGEL
Yapay zeka projelerinin önündeki en büyük engel, genellikle şirket içi yönetim komiteleri ve güvenlik endişeleri olarak öne çıkıyor. Bilgi Güvenliği Yöneticileri (CISO'lar), ajanların hangi hassas verilere erişebileceği konusunda net bir vizyona sahip olmak istiyor. Ajanların ne yaptığının ve hangi verilere ulaştığının bilinmemesi, projelerin prototip aşamasında takılmasına veya tamamen iptal edilmesine neden olabiliyor. "Fırsatı kaçırma korkusu" (FOMO) nedeniyle şirketler hızla yapay zeka yatırımı yaparken, önümüzdeki 6 ila 12 ay içinde ajan kullanımının yaygınlaşması ve şirketlerin deneyimle öğrenerek doğru yolu bulması bekleniyor.