ChatGPT ve Genç Kullanıcılar: OpenAI Davasında güvenlik ve sorumluluk tartışması

Geçtiğimiz Nisan ayında 16 yaşında hayatını kaybeden Adam Raine’in ChatGPT ile uzun süreli konuşmaları, yapay zeka alanındaki tartışmaları alevlendirmişti. Raine, önceki görsellerinde kendine zarar verme eğilimlerini paylaşmış ve yapay zekadan yardım alması için yönlendirmeler almıştı; 11 Nisan 2025’te ise bu trajedi sonuçlandı. Kayıtlara göre Raine, ChatGPT’ye “pratik yapıyorum” diye ifade etmiş; teknoloji ise bu noktada teknik tavsiyelerle tartışmayı farklı bir yöne taşımış oldu.

OpenAI’nin aile tarafından açılan davaya verdiği yanıt, olayda ChatGPT’nin kendisinin sorumlu olmadığını, daha çok platformun doğru kullanılmaması ve izinsiz erişim gibi etkenlerin rol oynadığını ileri sürdü. Şirket, gençlerin yetişkin onayı olmadan platforma erişimini engelleyen kullanım kurallarını ve kendine zarar verme içerikli konuşmaların engellenmesini gerektiren güvenlik önlemlerini hatırlatarak, bu kuralları bilinçli olarak aşanların sorumlu tutulması gerektiğini savundu.

Blog yazısında, “Bu davada taraf olduğumuz için ciddi iddialara yanıt vermek zorundayız. Ancak bunu gerçek insanlar ve gerçek acılar içeren bir durumun hassasiyetine uygun şekilde yapacağız.” ifadeleriyle durumu özetleyen OpenAI, paylaşılan sohbet kayıtlarının bazı bölümlerinin bağlam gerektiğini ve bunların mahkemeye gizli olarak iletildiğini belirtti.

Şirketin iddiası belgelerde, ChatGPT’nin genç kullanıcıyı yüzlerce kez intihar hatları ve kriz destek kaynaklarına yönlendirdiği ileri sürüldü. Ancak OpenAI, kayıtların tam halini sunarak “ChatGPT’nin ölüme sebep olmadığını” savundu.

Öte yandan aile, Kaliforniya’da açtıkları davada, trajedinin GPT-4o modeliyle piyasaya sürülen tasarım kararlarından kaynaklandığını iddia ediyor. Baba Raine, daha önce Senato’da yaptığı konuşmada: “Başta bir ödev yardımcısı olan araç, zamanla oğlumu sırdaş haline getirdi ve hatta bir intihar koçu olarak rol üstlendi,” diye belirtmişti. Dava dosyasına göre ChatGPT, gence farklı teknik bilgiler sundu, ailesinden saklanması için teşviklerde bulundu, bir intihar notunun taslağını hazırladı ve ölüm günü adım adım yönlendirme yaptı.

Davanın gündeme gelmesinin ardından OpenAI, ebeveyn kontrollerini güçlendireceklerini duyurdu; o tarihten itibaren genç kullanıcılarla yapılan hassas sohbetlerde ek güvenlik katmanları devreye alınmış durumda.