Amerika'nın Maryland eyaletinde bulunan bir lisede, yapay zeka sebebiyle pek de görmeye alışık olmadığımız, inanılmaz bir olay yaşandı. Okulun güvenlik kameralarını izleyen yapay zeka sistemi, Taki Allen isimli öğrenciyi elindeki cips poşeti sebebiyle "silahlı tehdit" olarak algılayarak kelepçelenmesine ve güvenlik güçlerinin alarma geçmesine sebep oldu. Sistem polise otomatik alarm gönderince, Allen bir anda etrafı silahlı polislerle çevrili halde, kendini yerde kelepçelenmiş buldu.

Bildiğiniz gibi Amerika'da silahlı okul baskınları çok sık yaşanan olaylar arasında yer alıyor. Bu nedenle hem okullar hem de güvenlik güçleri, bu olayları minimuma indirmek için farklı çözümler peşinde. Fakat yaşanan bu olay yapay zeka destekli güvenlik önlemlerinin tartışılmasını da beraberinde getirdi.

Futbol idmanı sonrası okul bahçesinde arkadaşlarını bekleyen Allen, aldığı cipsi bitirdikten sadece 20 dakika sonra yaklaşık sekiz polis aracıyla karşı karşıya geldi. Öğrenciye silahlarını doğrultan polisler, ellerini havaya kaldırmasını söyleyip onu yüzüstü yatırarak kelepçeledi. Allen'in üzerinde silah bulamayan güvenlik görevlileri, çöpü karıştırınca gerçek ortaya çıktı. Yapay zekanın silah sandığı nesnenin çöpe atılmış buruşuk bir cips paketi olduğu anlaşıldı.

Olayın şokunu uzun süre üzerinden atamayan Allen, "Bir cips paketinin silah sanılmasının akıl alır gibi olmadığını" dile getirdi. Olay sonrası açıklama yapan okul yönetimi, sistemin amacının güvenliği sağlamak olduğunu savundu. Yapay zeka sistemini geliştiren şirket ise yaşanan bu karmaşadan dolayı üzüntü duyduklarını ve sistemin insan doğrulaması üzerine kurulu olduğunu belirten bir açıklama yaptı.

Yapay zeka ile gözlem yapılmasına tepki büyüyor

Ancak öğrenci ve ailesi bu açıklamalardan pek memnun değil. Daha da önemlisi olayın ardından bölgedeki bazı politikacıların ve uzmanların konu hakkındaki açıklamaları. Birçok kişi okullarda kullanılan yapay zeka tabanlı gözetim teknolojilerinin yeniden değerlendirilmesini istiyor.

Guillermo del Toro'dan yapay zeka kullanımına sert çıkış: "Ölürüm daha iyi"ilerleyen dönemlerde yapay zeka tabanlı güvenlik önlemleri ile ilgili çok daha fazla gelişme ve haberler duyacağız gibi duruyor. Bu olay, güvenlik alanında yapay zekanın giderek yaygınlaşmasını gösterirken, aynı zamanda hatalı kararlarının ne kadar tehlikeli sonuçlar doğurabileceğini bir kez daha gözler önüne serdi.


Kaynak ; Milliyet