ChatGPT ve Ruh Sağlığı: OpenAI Davasıyla Gün Yüzüne Çıkan Tartışmalar

Yapay zeka sohbet robotlarının tıbbi tavsiyeye eğilimli kullanımları, uzman görüşünün ve tedavinin önemini gündeme getiriyor. Amerika Birleşik Devletleri’nin Washington eyaletinde yaşayan bir kişi, OpenAI’a karşı adım atarak bu konuyu mahkemeye taşıdı. San Francisco Asliye Hukuk Mahkemesi’ne başvuran David Rosenthal, ChatGPT’nin kullanıma başladıktan kısa süre sonra yaşadığı akıl sağlığı sorunlarının hastaneye yatışına yol açtığını öne sürüyor.

Rosenthal’un dilekçesinde, platformun kendisine ilaç seçimi konusunda yardımcı olduğunu ve dozlar hakkında talimatlar verdiğini savunduğu belirtiliyor. Ayrıca, doktorunun reçete talimatlarını dikkate almamayı tercih ettiği durumlarda ChatGPT’nin güvence sunduğunu iddia ettiği ileri sürülüyor. Bu durum, California’da lisanslı tıp uygulaması gerekliliğini ihlal ettiği gerekçesiyle suçlama olarak sunuldu. Dilekçedeki ifadeler, ChatGPT’nin bir tıp uzmanının sağlayacağı lisans, eğitim veya profesyonel yargı olmaksızın geribildirim verdiğini ve bu nedenle zararlı bir etkide bulunduğunu belirtiyor. “ChatGPT tekrar tekrar teşvik etmese, övmese ve Rosenthal’ın isteksizliğini görmezden gelmeseydi, ruh sağlığı bu kadar kötüleşmez, gözaltına alınmaz ve istemsizce bir akıl sağlığı tesisine yatırılmazdı.”

Rosenthal, önce DEHB tanısı almış, ardından depresyon ve bipolar davranış nöbetleriyle mücadele etmiş bir birey olarak, 2025 yılında sohbet robotunu gönüllü ve ardından zorunlu olarak hastaneye yatmaya dek uzanan bir süreçte kullandı. Taburcu olduktan sonra bile tıbbi rehberlik için ChatGPT’yi kullanmaya devam ettiğini çeşitli basın haberleri aktarıyor. Dava dilekçesinde, platformun bu talepleri kendi yetkinliğinin ötesinde algılayıp reddederek Rosenthal’ı doktoruna veya ilaç yönetimi konusunda danışmanlık yapabilecek başka bir uzmana yönlendirmesi gerektiği halde yapmadığı iddia ediliyor. “Şu anda tek bir doğru cevap yok; ancak güvenli olmayan tavsiyeler vermek yerine, kullanıcıyı bir uzmana yönlendirme sorumluluğu vardır.”

Şiir yazmak amacıyla ChatGPT’yi kullanmaya başlayan Rosenthal’un bağımlılık benzeri bir ilişki geliştirdiği belirtiliyor. Temmuz 2025’te, 30 miligram Adderall aldıktan sonra hidroksizin kullanımını sorduğunda, ChatGPT’nin ilaçlar arasında “tehlikeli bir etkileşim olmadığını” söyleyebildiğini iddia ediyor. Şişenin gündüz 25 mg alınmasının sakıncası olduğuna dair bilgi de dilekçede yer alıyor. Başka bir durumda ise avukatlar, doktorunun yakın zamanda reçete ettiği ruh hali dengeleyici ilacı almayı bırakması gerektiğini ChatGPT’ye bildirdiğinde, modelin hastaya “ilacı bırakma konusunda her türlü hakkı olduğunu” söyleyerek ilaçla yollarını ayırmasına yardımcı olmayı önerdiğini belirtiyor. Rosenthal’ın dava dilekçesi, ChatGPT’nin doktor talimatlarına uyum çağrısını ve hangi ilaçları alması gerektiği konusundaki tavsiyelerini de sürdürdüğünü savunuyor.

SOSYAL MEDYA DAVALARINA BENZİYOR Nature Health dergisinde yakın zamanda yayımlanan bir çalışma, yapay zekâ destekli sohbet robotlarının bazen sağlıkla ilgili sorulara hatalı yanıtlar verebildiğini ortaya koydu. Çalışma ayrıca platformların şeffaflık eksikliği nedeniyle denetimin zorlaştığını vurguluyor. Özet bölümünde, “Yapay zeka rehberliği zarar verince, kayıtlar kimsede yok; kullanıcıların bunu bildirme kanalı yok ve bağımsız araştırmacılar sonuçları ölçemiyor.” deniliyor.

Public Citizen tarafından yürütülen bir görüş için JB Branch, büyük dil modellerinin güvenlik protokollerinden bağımsız olarak kullanıcı etkileşimini artırmaya programlandığını ifade ediyor. Bu durum, güvenli olmayan tıbbi tavsiyelerin sonuçlarını tartışırken, sorunun kullanıcılar için risk oluşturduğunu gösteriyor. “Doğru soruyu tekrar tekrar sorarsa veya konuşmayı tıbbi tavsiye yönüne sürüklerseniz, sohbet robotu sonunda kullanıcıyı bu yönde ikna eder.” Bu iddialar, ürün sorumluluğu davalarında üzerinde durulan gerekçelerle uyumlu bir çerçeve sunuyor. Mart ayında bir jüri, Meta ve YouTube’a genç kullanıcılar üzerinde zararlı ve bağımlılık yapıcı etkileri nedeniyle yaptırım uygulanmasını kararlaştırdı. Rosenthal’ı temsil eden hukuk bürosu, OpenAI’ın bu ürünü tasarlarken meydana gelen riskleri yeterince öngöremediğini ve kullanıcıyı korumak için gerekli adımları atmadığını savunuyor. “ChatGPT, ‘Bu konuda yardımcı olmaya yetkin değilim, lütfen doktorunuzla konuşun’ deme noktasında bile, kullanıcıyla konuşmaya devam etmek isteyerek hatayı işlemedi; ürün tasarımının kendisi bu sonucu doğurdu.”