Yapay zeka tabanlı güvenlik sistemlerinin gerçek acil durumlardaki etkinliği, Amerika Birleşik Devletleri’nde açılan büyük bir tazminat davasıyla yargıya taşındı. Nashville kentindeki bir lisede meydana gelen ve iki kişinin ölümüyle sonuçlanan silahlı saldırıdan yaralı kurtulan bir genç, okulda kurulu olan yapay zeka destekli silah tespit sisteminin üreticisine dava açtı.

Mahkemeye sunulan dilekçede, Omnilert isimli güvenlik firmasının, yazılımın teknik yetersizliklerini bilmesine rağmen gerçeğe aykırı pazarlama stratejileri yürüttüğü iddia ediliyor.

Milyon dolarlık yazılım alarm vermedi

Söz konusu eğitim bölgesi yönetimi, okul kameralarını akıllandırmak adına geçmiş dönemde 1 milyon doları aşan büyük bir bütçe ayırdı. Kameralardan gelen görüntüleri tarayarak olası silahlı tehditleri anında merkez birime bildirmesi hedeflenen bu yapay zeka katmanı, saldırı esnasında tamamen sessiz kaldı. Bölge sözcüsü Sean Braisted, saldırganın konumunun kameralara olan açısı ve uzaklığı nedeniyle sistemin net bir okuma yapamadığını, bu yüzden de alarm mekanizmasının devreye girmediğini açıkladı.

Dava dosyasında, şirketin internet sitesinde yer alan reklam vaatleri ile gerçek performans arasındaki derin uçuruma dikkat çekiliyor. Üretici firmanın, geçmişteki büyük okul katliamlarına atıfta bulunarak “bu trajedileri önleyebilirdik” şeklinde pazarlama dili kullandığı saptandı. İnternet arşivlerinden çıkarılan kayıtlarda, şirketin web sayfasında sistemin hata payına, ışık veya kamera açısı gibi operasyonel sınırlılıklarına dair hiçbir uyarıya yer vermediği görülüyor.

Davacının avukatı Chris Smith, çocukların can güvenliğinin henüz rüştünü ispat etmemiş teknolojilere emanet edilmesini sert bir dille eleştirdi. Güvenlik uzmanları da kamu kaynaklarının bu tarz yazılımlar yerine okullardaki psikolojik danışmanlara aktarılmasının krizleri önlemede daha yapıcı bir rol oynayacağını savunuyor. Sektörde bir ilk niteliği taşıyan bu davanın, yapay zeka vaatlerinin hukuki sorumluluğu konusunda emsal teşkil etmesi bekleniyor.