Indiana Üniversitesi’ndeki araştırmacılar, X platformunda kripto para dolandırıcılıklarına karışan binden fazla bottan oluşan bir ağı ortaya çıkardı.
FOX8 BOTNETİ ORTAYA ÇIKTI
2023 yılının ortalarında, Elon Musk’ın Twitter’ı X olarak yeniden markalaştırdığı dönemde, bir grup araştırmacı sosyal medyada yapay zeka tarafından üretilen içerikler paylaşan “sosyal bot” hesapları izlemeye aldı. Bu sosyal botlar, sosyal medya platformlarında içerik üreterek kullanıcılarla etkileşime giren yapay zeka yazılımları olarak tanımlanıyor. Araştırmacılar, bu bot ağına “fox8” adını verdi ve bunun yalnızca buzdağının görünen kısmı olduğunu düşünüyorlar.
ETKİLEŞİMİ ARTIRAN YÖNTEMLER
Fox8 botları, birbirleriyle ve gerçek kullanıcılarla gerçekçi görünen tartışmalar yaparak sahte etkileşimler oluşturdu. Böylece X’in öneri algoritmasını kandırarak içeriklerinin daha geniş kitlelere ulaşmasını sağladılar. Araştırmacılar, bu düzeydeki koordinasyonun önceki nesil sosyal botlardan çok daha karmaşık olduğunu belirtiyor. Araştırma ekibi, botları geliştiricilerin yaptığı basit hatalar sayesinde tespit edebildi. Örneğin, botlar zaman zaman OpenAI’ın içerik politikalarını ihlal eden istemlere yanıt verirken ChatGPT’nin tipik uyarı mesajlarını paylaşıyordu. Yapay zeka modellerinin, daha sofistike sosyal ajan nesillerinin ortaya çıkmasına olanak tanıdığı belirtiliyor. Bunun yanı sıra, kötü niyetli kişiler ve kuruluşlar çok daha güçlü yapay zeka dil modellerine erişim sağlıyorlar. Sosyal medya platformlarının içerik denetimini gevşetmesi veya tamamen kaldırması, bu durumu daha da tehlikeli hale getiriyor. Araştırmayla ilgili bir yazı kaleme alan ekip üyesi Filippo Menczer, mevcut teknolojinin kötü niyetli aktörlere birçok sosyal medya platformunda faaliyet gösterebilen otonom, uyum sağlayabilen ve koordineli ajanlar konuşlandırma imkanı tanıdığını vurguladı. Bu yeni nesil ajanlar, daha ölçeklenebilir, sofistike ve uyarlanabilir etki operasyonları yürütme kapasitesine sahip. Sonuç olarak, bot sürüleri, kullanıcıların bireysel tercihlerine göre özelleştirilmiş mesajlar göndererek çevrim içi kamuoyu algısının manipülasyonunu zorlaştırıyor.
