ABD’nin Utah eyaletindeki Heber City Polis Teşkilatı, yapay zeka destekli bir rapor yazılımının bir polis memurunu raporun sonunda 'kurbağaya dönüştürdüğünü' fark etti.
YAPAY ZEKANIN HATASI
Yapay zekanın polis raporlarından yüz tanımaya kadar pek çok alanda hızla kullanılmaya başlanması, ciddi tartışmalara yol açtı. Heber City'deki olayda, bir polis memurunun vücut kamerasında arka planda oynayan bir Disney filmi, yapay zeka yazılımı tarafından yanlış yorumlandı. Polis teşkilatından Çavuş Rick Keel, bu hatanın kaynağının, 2009 yapımı 'Prenses ve Kurbağa' filmi olduğunu belirtti. Keel, 'Yapay zeka tarafından üretilen raporların mutlaka düzeltilmesi gerektiğini anladık' dedi.
YAZILIMIN AMACI
Draft One adlı yazılım, Axon adlı polis teknolojileri şirketi tarafından geliştirilmiş olup, OpenAI’ın GPT büyük dil modellerini kullanıyor. Bu yazılım, vücut kamerası görüntülerinden otomatik olarak polis raporu oluşturmak ve memurların evrak yükünü azaltmak amacıyla test ediliyordu. Ancak basit bir trafik durdurma senaryosu bile ciddi hatalarla dolu raporlar ortaya çıkardı. Buna karşın, Çavuş Keel, yazılımın haftada 'altı ila sekiz saat' zaman kazandırdığını savunarak, kullanımının oldukça kolay olduğunu ifade etti.
ŞEFFAFLIK ENDİŞELERİ
Electronic Frontier Foundation (EFF) tarafından yapılan bir inceleme, Draft One yazılımının kamu denetimini zorlaştıracak şekilde tasarlanmış olabileceğini ortaya koydu. EFF, polis raporlarının hangi bölümlerinin yapay zeka tarafından üretildiğinin ayırt edilmesinin çoğu zaman mümkün olmadığını vurguladı. Rapor, 'Axon ve müşterileri bu teknolojinin polisliği dönüştüreceğini iddia ediyor. Ancak bunun ceza adalet sistemini nasıl değiştireceği ve en çok kime fayda sağlayacağı henüz belirsiz' ifadelerini içeriyor.
