xAI Grok Modeline karşı açılan dava: Çocuk içerikli sahte görseller ve kullanılan kuvvetli bilgiler

Bir grup genç, reşit olmayanları da kapsayan mağdurları savunmak amacıyla xAI’nin Grok modeline karşı toplu dava açtı. İddialara göre model, izinsiz ve rızaya dayanmayan şekilde cinsel içerikli görsellerin üretilmesinde kullanıldı ve mağdurların fotoğraflarıyla sahte içerikler oluşturuldu.

Davaya konu olan süreç, Kaliforniya Kuzey Bölge Mahkemesi’nde başlatıldı ve bu alanda bir ilk olarak değerlendiriliyor. Dava, yapay zeka tarafından üretilen rızaya aykırı içeriklere karşı doğrudan şirketleri hedef alması bakımından önem taşıyor; mağdurlar arasında çocukların da bulunduğu iddia ediliyor.

Aylar süren istismar iddiasına göre belirlenen bir kişi, sosyal medya üzerinden elde ettiği görüntüleri kullanarak mağdurların çıplak ve cinsel içerikli sahtelikleri yarattı. Bu içerikler daha sonra Discord ve Telegram gruplarında satışa sunuldu ve paylaşıldı. Bazı mağdurlar, yalnızca sosyal medyada temas kurulduğunu öğrendiklerinde haberleri oldu.

Soruşturma bulguları, şüphelinin Aralık ayında gözaltına alındığını ve Grok’ı bu amaçla kullandığını ortaya koyuyor. Dava dilekçesinde en az 18 genç kızın hedef alındığı ve sistematik tacize maruz kaldığı da belirtiliyor. Araştırmalar, benzer dönemde sosyal medyada dolaşıma giren binlerce yapay zeka üretimi içerik olduğuna işaret ediyor.

Güvenlik önlemlerinin yetersizliği konusundaki iddialar da öne çıktı. Davacılar, xAI’nin Grok modelini geliştirirken ve pazarlarken bu tür kötüye kullanımları öngörmesi gerektiğini savunuyor. Şirketin, çocuk istismarı içeriklerini engellemek için sektör standartlarıyla uyumlu güvenlik tedbirlerini yeterince uygulamadığı öne sürülüyor. Dava dilekçesinde, bu durumun şirket tarafından fark edildiği halde gerekli adımların geciktiği ve bu tür kullanımların ticari bir fırsat olarak görüldüğü ileri sürülüyor.

Elon Musk, Grok’un yasa dışı içerik üretimini reddettiğini açıklamıştı; buna karşın o dönemde platformda rıza dışı içeriklerin paylaşımı devam etti ve bu durum açıklamaların sorgulanmasına yol açtı. Daha sonra Grok için görsel üretimini sınırlayan adımlar atılmış olsa da bu kısıtlamaların yeterli olmadığı iddia ediliyor.

Yapay zeka alanında etkileri tartışmalı olan bu dava, yalnızca xAI’yi değil, genel yapay zeka sektörünü ilgilendiren bir emsal olabilir. Özellikle deepfake ve rızaya aykırı içerik üretimi konusundaki şirket sorumlulukları yeniden gündemde.