Dijital Şiddete Karşı Akıllı, İnsan Hakları Temelli Bir Sistem: Mantık Makinesiyle Güvenli İnternet Deneyimi

Günlük yaşamın ayrılmaz bir parçası haline gelen teknolojinin, dijital şiddet biçimlerini de daha görünmez ve karmaşık bir hâle getirdiğini söylemek mümkün. Çevrimiçi platformlarda nefret söylemi, taciz ve toplumsal cinsiyet temelli saldırılar çoğu zaman sıradanlaşıyor; kullanıcıların bu durumları net şekilde tanımlayıp kendini koruması ise giderek daha zorlaşıyor. Bu ihtiyaca cevap veren çalışmalardan biri, UN Women Türkiye ve UNFPA Türkiye’nin 16 Günlük Aktivizm kampanyası kapsamında tanıtılan özel yapay zeka sistemi olarak öne çıkıyor.

Dijital şiddeti tespit eden ve kullanıcıyı güvenli bir çerçeveye yönlendiren bu araç, dijital sanatçı ve yapay zekâ uygulayıcısı Beyza Doğuç tarafından geliştirildi. Mantık makinesi olarak adlandırılan yaklaşım, yapay zekânın sanat alanında uzun süredir kullanıldığına işaret ederken, hassas konularda ortaya çıkabilecek riskleri minimize etmek üzere özel bir yapı kurdu. Doğuç’un ifadesine göre, internetteki doğrulanmamış içeriklerle eğitilen genel modeller mağdurları suçlayıcı ya da zararlı yanıtlar verebiliyor. Bu nedenle sistem, ne söylemesi gerektiğini değil, nasıl düşünmesi gerektiğini belirleyen çok katmanlı bir tasarım olarak inşa edildi ve kullanıcıların deneyimlerini insan hakları temelli, tutarlı bir değerlendirme çerçevesinde yönlendirmeyi hedefliyor.

Ataerkil dilinin dışarıda bırakıldığı bu yaklaşımın temel amacı zarar vermeyen, güçlendirici ve güvenli bir ortam yaratmaktır. Sistem, mağdur suçlayan anlatıları, ataerkil söylemleri ve yeniden travmatize eden açıklamaları tamamen dışarıda bırakır; ayrıca psikolojik, hukuki ve tıbbi uzmanların yerini alma amacı taşımadığı bilgisini net şekilde vurgular: görevi yalnızca bilgi vermektir.

GENÇLER TEST ETTİ başlığı altında gerçekleştirilen atölyede, gençler yapay zekâyı gerçek senaryolarla deneyimledi. Belirsiz durumlar, karmaşık çevrimiçi davranışlar ve görünmez güç ilişkileri gibi zorlu örnekler katılımcılar tarafından paylaşıldı. Doğuç, elde edilen sonuçlar için şu yorumu yaptı: “Yapay zeka, bir eylemin dijital şiddet içerip içermediğini değerlendirmek konusunda çok başarılıydı. Bu, gelecekte sosyal medya platformlarının otomatik filtreleme mekanizmaları için önemli bir potansiyel taşır.”