Amerika'nın Florida eyaletindeki Lawton Chiles Ortaokulu'nda, yapay zeka destekli güvenlik sisteminin bir klarneti silah olarak algılaması sonucu panik yaşandı. Sistemin Salı günü verdiği yanlış alarm üzerine okul, tam kilitlenme protokolüne geçti ve polis olay yerine sevk edildi. Kısa süre içinde tehdidin olmadığı anlaşıldı.
OKUL MÜDÜRÜNDEN AÇIKLAMA
Okul Müdürü Melissa Laudani, velilere gönderdiği mesajda olayın güvenlik prosedürleri gereği ele alındığını, ancak gerçek bir risk bulunmadığını belirtti. Laudani, öğrencilerle böyle durumların yaratabileceği sonuçlar hakkında konuşulmasını istedi.
SİSTEM NASIL ÇALIŞIYOR?
Okulun bağlı olduğu Seminole County bölgesi, ZeroEyes firmasının geliştirdiği bulut tabanlı bir silah tespit sistemi kullanıyor. Sistem, kameralardan gelen görüntüleri analiz ederek silahları tespit etmeyi amaçlıyor ve yıllık yaklaşık 250 bin dolara mal oluyor. Yapay zeka bir silah algıladığında, görüntüler insan analistlere gönderiliyor ve doğrulama sonrası okula veya kolluk kuvvetlerine bildirim yapılıyor. Ancak bu vakada, insan onayı katmanı da hatayı engelleyemedi.
YANLIŞ ALARM SORUNU TEKRARLANDI
Amerikan Sivil Özgürlükler Birliği'nden Chad Marlow, daha önce yanlış alarm üreten sistemlerin öğrencileri gereksiz kilitlenmelere maruz bırakabileceği uyarısında bulunmuştu. Daha önce de başka bir okulda, bir cips poşeti silah olarak algılanmış ve benzer bir olay yaşanmıştı. Bu son vaka, yapay zeka çözümlerinin okul güvenliğindeki aksaklıklarını bir kez daha ortaya koydu.
