Yapay zekaya milyarlarca dolar harcanırken ve kullanımı giderek yaygınlaşırken, yanlış yaptığına dair endişe verici örnekler görmeye devam ediyoruz. Bunun en güzel örneği, bir lisede, elindeki Doritos poşetini silah sanan bir öğrencinin, bir yapay zeka tarafından polis tarafından alıkonulmasıydı.
Maryland eyaletine bağlı Baltimore ilçesindeki Kenwood Lisesi'nde okuyan 16 yaşındaki lise öğrencisi Taki Allen, geçen hafta futbol antrenmanından sonra okuldan arkadaşlarıyla dışarıda otururken hoş olmayan bir sürprizle karşılaştı.
Yediği Doritos paketini bitirdikten yaklaşık 20 dakika sonra, yaklaşık sekiz polis arabası geldi. Polis memurları arabalardan inip silahlarını Allen'a doğrulttular ve ellerini başının üzerine koyup kendilerine doğru yürümesini söylediler. Öğrenci, daha sonra diz çökmesi söylendiğini ve kelepçelendiğini söyledi. Baltimore İlçe Polis Departmanı daha sonra Allen'ın kelepçelendiğini ancak tutuklanmadığını doğruladı.
Allen için talihsizlik, okulun güvenlik kamerası görüntülerini inceleyen yapay zekanın buruşmuş Doritos paketini ateşli silah sanıp polise haber vermesiydi.
Polislerden biri, arkadaşlarını ararken çocuğa "Üzerinde silah var mı?" diye sordu.
Polis, yapay zekanın silah olarak tanımladığı görüntüleri inceledikten sonra yakındaki bir çöp kutusuna baktığında cips paketini buldu. "Sanırım cips yeme şeklin... Doritos, her neyse... onu silah olarak kullandı," dedi bir polis memuru. Yani unutmayın: cipsleri asla yanlış şekilde yemeyin. Başka bir polis memuru da "Yapay Zeka en iyisi değil," diye ekledi ki bu da yetersiz bir ifade.
Okul Müdürü Dr. Myriam Rogers, gazetecilere sistemin olması gerektiği gibi çalıştığını söyledi. Rogers, "Program insan doğrulaması temeline dayanıyor ve bu durumda program, yapması gerekeni yaptı; yani bir uyarı sinyali gönderdi ve insanların o anda endişe verici bir durum olup olmadığını anlamak için inceleme yapmasını sağladı," dedi. Anlaşılabilir bir şekilde, Allen, Rogers'ın bakış açısını paylaşmıyordu. "Hiçbir cips paketinin silahla karıştırılmaması gerektiğini düşünüyorum."
Okul müdürü Kate Smith, olayın ardından velilere öğrenci güvenliğinin önemini vurgulayan bir mektup gönderdi ancak Allen, Smith'in olaydan üç gün sonrasına kadar kendisiyle konuşmadığını söyledi. Bu hata, yerel politikacıların okulun yapay zeka tabanlı gözetleme teknolojisini kullanmasının gözden geçirilmesi yönünde çağrıda bulunmasına yol açtı.
Allen, futbol antrenmanından sonra artık içeride beklediğini, özellikle cips yemek veya bir şeyler içmek için dışarı çıkmanın "yeterince güvenli olmadığını" düşündüğünü söyledi. Okul tarafından kullanılan yapay zeka sisteminin geliştiricisi Omnilert, BBC News'e yaptığı açıklamada , "Bu olayın meydana gelmesinden dolayı üzgünüz ve endişemizi öğrenciye ve sonrasında yaşanan olaylardan etkilenen geniş topluluğa iletmek istiyoruz." dedi. "Daha sonra nesnenin ateşli silah olmadığı tespit edilse de süreç amaçlandığı gibi işledi: Hızlı insan doğrulamasıyla güvenlik ve farkındalığın önceliklendirilmesi sağlandı."
Kaynak :
https://www.techspot.com/news/110019-hi ... er-ai.html
