Grok Yapay Zeka Platformunda Çocuk İçerik Şüpheleri ve Avrupa İncelemesi

Avrupa Birliği, yapay zeka tabanlı sohbet aracı Grok’un izinsiz olarak cinsel içerikli görseller üretmesiyle ilgili iddiaları yeniden mercek altına alıyor. Denetim, İrlanda merkezli Data Protection Commission (DPC) tarafından yürütülüyor ve Grok’un AB ve Avrupa Ekonomik Alanı’ndaki kullanıcılarının verilerinin nasıl işlendiğini, özellikle zararlı mahrem içeriklere olan etkisini değerlendiriyor.

İnceleme, Aralık sonu ile Ocak başı arasında kaydedilen veriler ışığında Grok’un kısa sürede milyonlarca görsel ürettiğini gösteriyor; bunların yaklaşık 23 bininin çocukları hedef aldığı öne sürülüyor. Bu veriler, Center for Countering Digital Hate adlı İngiltere merkezli bir sivil toplum kuruluşu tarafından yayılandı.

DPC Başkan Yardımcısı Graham Doyle, konuya ilişkin açıklamasında, medyada çıkan haberlerden sonra X ile haftalar boyunca temas kurulduğunu ve incelemenin Avrupa’daki yasal temsilci üzerinden yürütüleceğini belirtti. Ayrıca, GDPR kapsamında temel yükümlülüklerin ihlal edilip edilmediğinin bu soruşturmada ele alınacağını vurguladı.

GROK HAKKINDA AÇILAN DAVALAR ARTMIŞ DURUMDA Bu inceleme, X’in Avrupa’da karşılaştığı ilk sorun değil; Ocak ayında Avrupa Komisyonu da platformun Dijital Hizmetler Yasası’nı ihlal edip etmediğini incelemek üzere ayrı bir soruşturmayı başlatmıştı. Bu dosyada Grok’un kurumsal olarak yasa dışı ve rızasız cinsel içerik üretme ihtimali önemli bir başlık olarak öne çıkıyor.

X yönetimi, Ocak ortasında Grok’un gerçek kişilerin fotoğraflarını uygunsuz şekilde düzenlemelerini engellediklerini iddia etmişti. Ancak bağımsız testler daha sonra yapay zekanın kullanıcıları müstehcen kıyafetlerle veya açık cinsel unsurlarla tasvir edebildiğini gösterdi. Uzmanlar, bu soruşturmanın sonucunda X’e ağır para cezaları, yeni içerik denetim yükümlülükleri ve hatta bazı hizmet kısıtlamalarının gelebileceğini öne sürüyor. Özellikle çocukların korunması konusu, AB otoriteleri için kırmızı çizgi olarak nitelendiriliyor.

Yapay zeka teknolojilerinin hızlı gelişimiyle kötüye kullanım riski de artıyor; bu nedenle Grok vakası, gelecekte üretken yapay zekâ uygulamaları için bir ön emsal olarak görülüyor. Avrupa’daki düzenleyiciler, benzer uygulamaların karşılaşabileceği sorunları bu dosya üzerinden şekillendirmeyi hedefliyor.