Teknolojinin günlük yaşamın ayrılmaz bir parçası hâline gelmesiyle birlikte dijital şiddet biçimleri de daha görünmez, daha karmaşık ve daha yaygın bir hal almaya başladı. Çevrimiçi platformlarda nefret söylemi, taciz ve toplumsal cinsiyet temelli saldırılar çoğu zaman sıradanlaştırılırken, kullanıcıların bu durumları tanımlaması ve kendini koruyabilmesi de her geçen gün daha zorlaşıyor. Bu ihtiyaca yanıt veren çalışmalardan biri, UN Women Türkiye ve UNFPA Türkiye’nin yürüttüğü 16 Günlük Aktivizm “Kadınlara ve Kız Çocuklarına Yönelik Dijital Şiddete Noktayı Koy” kampanyası kapsamında tanıtılan özel yapay zekâ sistemi oldu. Dijital şiddeti tespit ederek kullanıcıyı güvenli ve insan hakları temelli bir çerçevede yönlendiren araç, dijital sanatçı ve yapay zekâ uygulayıcısı Beyza Doğuç tarafından geliştirildi.

‘Mantık makinesi’

Yapay zekâ kullanımının sanat pratiğinde uzun süredir yer aldığını belirten Doğuç, ancak dijital şiddet gibi hassas konularda standart modellerin risklerine dikkat çekerek sistemin temel ihtiyaçlarıyla ilgili şunları söyledi: “Dijital şiddet gibi hassas bir konuda, internetteki rastgele ve doğrulanmamış içeriklerle eğitilen genel modeller mağdur suçlayıcı ya da zararlı yanıtlar verebiliyor.Bir uzmanla, sistemin yalnızca ne söylemesi gerektiğini değil, nasıl düşünmesi gerektiğini tanımlayan çok katmanlı bir yapı oluşturduk, kullanıcının yaşadığı durumu insan hakları temelli, tutarlı bir şekilde değerlendirmesine yardımcı olan bir ‘mantık makinesi’ gibi tasarladık.

Ataerkil dili...

Sistemin sınırlarının da net çizdiğini belirten Doğuç, amaçlarının zarar vermeyen, güçlendirici ve güvenli bir alan oluşturmak olduğunu belirterek, “Araç, mağdur suçlayan anlatıları, ataerkil dili ve yeniden travmatize edici açıklamaları tamamen dışarıda bırakıyor. Sistem psikolojik, hukuki, tıbbi uzmanların yerini almaz, görevi bilgi vermek” dedi.



GENÇLER TEST ETTİ

Sistemin pratiğe nasıl yansıdığını görmek için düzenlenen atölyede, gençler yapay zekâyı gerçek senaryolarla test etti. Katılımcılar, belirsiz durumlar, karmaşık çevrimiçi davranışlar ve görünmez güç ilişkileri gibi zorlayıcı örnekler getirdi. Doğuç sonuçlarıyla ilgili, “Yapay zeka özellikle bir eylemin dijital şiddet olup olmadığını değerlendirmeye yardımcı olmak konusuna çok iyiydi. Bu, gelecekte sosyal medya platformlarının otomatik filtreleme mekanizmaları için önemli bir potansiyel taşıyor” diye konuştu.


Kaynak ; Milliyet