Yapay zekâ tabanlı bir silah tespit sistemi, Florida'daki bir ortaokulda bir klarneti yanlışlıkla ateşli silah olarak tanımlayarak kampüsün kilitlenmesine neden oldu ve bu durum, ABD okullarında bu tür güvenlik araçlarının etkinliği ve denetimi konusunda şüpheler uyandırdı. Yanlış alarm, Salı günü Oviedo'daki Lawton Chiles Ortaokulu'nda, otomatik sistemin klarnet taşıyan bir öğrenciyi potansiyel bir silah tehdidi olarak yorumlamasıyla meydana geldi. Okul, yöneticiler ve polis müdahale ederken kırmızı kodlu bir kilitlenme durumuna geçti; olay yerinde müzik aleti olduğu anlaşıldı.
Okul müdürü Melissa Laudani, velilere gönderdiği mesajda, olayın güvenlik protokollerini tetiklediğini ancak gerçek bir tehdit içermediğini açıkladı . Şunları yazdı: "Kampüste herhangi bir tehdit olmamasına rağmen, öğrencilerinizle okul kampüsünde silah taşıyormuş gibi davranmanın tehlikeleri hakkında konuşmanızı rica ediyorum."
Okul, canlı video yayınlarını tarayarak ateşli silahları tespit eden yapay zeka destekli bir tehdit algılama platformu kullanıyor. Lawton Chiles Ortaokulu'nu da kapsayan Seminole County Kamu Okulları, Pennsylvania merkezli ZeroEyes şirketiyle bulut tabanlı bir "silah tespit caydırıcı" sistemi için sözleşme imzaladı. Kamu kayıtları, bölgenin abonelik hizmeti için 250.000 dolar ödediğini gösteriyor, ancak yetkililer sistemin gerçek bir tehdidi başarıyla engelleyip engellemediği konusunda bilgi vermeyi reddetti.
ZeroEyes, mevcut güvenlik kameralarıyla entegre olur ve 100'den fazla ateşli silah türünün görüntülerine göre eğitilmiş bilgisayar görüş algoritmaları kullanır. Yapay zeka modeli bir silah tespit ettiğine inandığında, görüntüler ZeroEyes'ın izleme merkezindeki insan analistlere iletilir; bu analistler uyarıyı doğruladıktan sonra kolluk kuvvetlerine veya okullara bildirimde bulunurlar. Bu durumda, bu ek insan katmanı görünüşe göre başarısız oldu.
Şirketin platformu 43 eyalette aktif ve Florida'daki düzinelerce okul bölgesine kurulmuş durumda. ZeroEyes, teknolojisini olası silahlı saldırılara daha hızlı müdahale sağlayan önleyici bir önlem olarak pazarlıyor, ancak tespit doğruluğu, yanlış pozitif oranları veya doğrulanmış müdahaleler hakkında kamuoyuna çok az veri yayınladı.
Seminole İlçesi güvenlik birimi, gazetecilerin yapay zekâ hakkındaki e-posta sorularına yanıt olarak, bunu etkili bir caydırıcı olarak tanımladı ancak doğrulanmış tehditlere ilişkin herhangi bir rakam vermedi; bu da kaç uyarının meşru olduğunun veya yazılımın zararsız nesneleri ne sıklıkla silah olarak yanlış tanımladığının sorusunu cevapsız bıraktı.
Ebeveynler ve güvenlik uzmanları, daha fazla hesap verebilirlik ve performans verilerine erişim çağrısında bulunmaya başladılar. Bir ebeveyn, şeffaflık eksikliğinden duyduğu hayal kırıklığını dile getirerek, sistemin anlamlı sonuçlar verip vermediğini sorguladı. Sistemin etkinliğine dair istatistiksel kanıt istedi ve varsa, doğrulanmış tehditlerin neden kamuoyuna açıklanmadığını sordu.
Bağımsız teknoloji analistleri, ZeroEyes hakkında çok az bağımsız değerlendirme bulunduğunu ve ilk haberlerin karışık olduğunu belirtiyor. Bazı kamu güvenliği uzmanlarının, bu tür sistemlerin ölçülebilir risk azaltımı yerine güvenlik yanılsaması sunabileceğini savunarak şüpheci yaklaştıklarına dair raporlar da mevcut. ZeroEyes'ın kayıtlı lobicilerinin bulunduğu birçok eyalette , yasa koyucular şirketi tek onaylı tedarikçi olarak belirleyen satın alma önlemleri geçirdi. Eleştirmenler, bu yasaların rakipleri dışladığını ve yapay zeka tabanlı izlemenin güvenilirliği konusundaki kamuoyu tartışmasını sekteye uğrattığını söylüyor.
Güvenlik ve gizlilik araştırmacıları, okullarda yapay zekâ gözetiminin genişletilmesinin öğrencilere faydadan çok zarar verebileceği konusunda endişelerini dile getirdiler. Amerikan Sivil Özgürlükler Birliği'nde kıdemli politika danışmanı olan Chad Marlow, geçen yıl StateScop'a verdiği demeçte, sık sık yanlış alarm üreten sistemlerin "yanlış güvenlik hissi" yaratabileceğini ve çocukları gereksiz kilitlenmelere veya polis gözetimine maruz bırakabileceğini söyledi.
Okul saldırılarıyla ilgili kamuoyu baskısına yanıt olarak yapay zekâ destekli güvenlik sistemleri yaygınlaşırken, Oviedo'daki başarısız ateşleme olayı, bu sistemlerin gerçek dünya koşullarındaki zaaflarını ortaya koymaktadır. Kontrollü veri kümelerinde tehditleri tespit etmek üzere eğitilmiş makine öğrenimi modelleri, sırt çantaları, müzik aletleri ve spor ekipmanlarının ateşli silah silüetlerine benzeyebildiği öngörülemeyen okul ortamlarıyla karşı karşıya kaldığında başarısız olabilir.
Şimdilik, Seminole İlçe Okul Bölgesi, klarnet olayı sistemin kusurlu olduğunu gösterse bile, sistemi gerekli bir önlem olarak tanımlıyor. Okul bölgelerinin yapay zekâ gözetimine olan güvenlerini yeniden gözden geçirecekleri veya satıcılardan daha sıkı performans raporlaması talep edecekleri ise belirsizliğini koruyor.
Kaynak :
https://www.techspot.com/news/110591-fl ... rinet.html
