Oteldeki Yapay Zeka Uyarısı: Klarnet Yanlış Alarmına Yol Açan Güvenlik Sistemi Olayı

Florida’da bulunan bir ortaokulda, yapay zeka destekli silah tespit sistemi nedeniyle kısa süreli bir paniğe yol açan bir olay yaşandı. Oviedo’daki Lawton Chiles Ortaokulu’nda devreye giren otomatik güvenlik protokolü, bir öğrencinin elindeki klarneti ateşli silah olarak algıladı ve alarm verildi. Kısa süreli kilitlenme kapsamında okul, güvenlik güçlerini ve yöneticileri olay yerine çağırdı. Yetkililer kısa sürede gerçek bir tehdit olmadığını ve nesnenin müzik enstrümanı olduğunu belirledi.

Okul yönetimi, velilere gönderdiği bilgilendirme mesajında güvenlik prosedürlerinin uygulanması gerektiğini vurguladı ve bununla birlikte şu an için kayda değer bir risk bulunmadığını ifade etti. Müdür Melissa Laudani, öğrenci ve personelin güvenliğini sağlamak için atılan adımların önemine değinerek, yapay zeka destekli güvenlik çözümlerinin toplumsal etkileri konusunda farkındalık gerektiğini belirtti.

Yapay zeka destekli güvenlik tedbirlerinde artış yaşayan Seminole County okul bölgesi, Pennsylvania merkezli ZeroEyes firmasının bulut tabanlı “silah tespit ve caydırma” sistemini kullanıyor. Bölge, bu hizmet için yıllık olarak yaklaşık 250 bin dolar ödediğini kamu kayıtlarına göre bildiriyor. Sistem, mevcut güvenlik kameralarından gelen canlı görüntüleri analiz ederek ateşli silahları tespit etmeyi amaçlasa da, gerçek bir tehlikenin önlenip önlenmediğine ilişkin net veriler paylaşılmıyor.

ZeroEyes, yazılımında 100’ün üzerinde silah türünü tanıyabildiğini iddia ediyor. Bir silah tespit edildiğinde görüntüler, firmanın inceleme merkeziyle paylaşılarak doğrulama sonrası okula veya kolluk kuvvetlerine bildirimde bulunuyor. Ancak Klarinet vakasında olduğu gibi, bu insan onay katmanı da hatayı engelleyememiş görünüyor.

ACLU temsilcisi Chad Marlow daha önce yaptığı açıklamalarda, sık sık yanlış alarmların öğrencileri gereksiz kilitlenmelere ve polisiye müdahalelere maruz bırakabileceğini vurgulamıştı. Hatırlatmak gerekirse, başka bir okulda yapılan bir benzer senaryoda yapay zeka sistemi, öğrenci elindeki cips poşetini silah olarak algılayıp güvenlik gücünün okula yönelmesine neden olmuştu. Oviedo’daki olay, yapay zeka çözümlerinin güncel bazda karşılaşabileceği pratik sorunları bir kez daha gün yüzüne çıkardı.