Akademide Yapay Zekâ Kullanımında Halüsinasyon Riskleri ve Etik Uyarılar

Yapay zekâ desteğiyle üretilen akademik içerikler giderek artarken, kontrolsüz kullanımın yarattığı riskler de büyüyor. Uydurma kaynaklar ve hiç var olmamış yazarlar üzerinden yapılan atıflar, bilimsel güvenilirliğe zarar veriyor ve bu durum, halüsinasyon benzeri referansların ortaya çıkmasına yol açıyor.

Fırat Üniversitesi’nden Prof. Dr. Mehmet Nuri Gömleksiz, “Böyle bir makalem yok; ilk isim olarak gösterilen kişiyi tanımıyorum. İnönü Üniversitesi Eğitim Fakültesi Dergisi’nde bu kaynakçada belirtilen makaleden söz edilmediğini” ifade etti. Ege Üniversitesi’nden Doç. Dr. Serkan Acar da Bartın Üniversitesi’nin çıkardığı bir dergide kendisine ait olmayan makalelere atıf yapıldığını söyleyerek suç duyurusunda bulunacağını belirtti.

Sorumluluğun temelinde yazar bulunuyor ve taraflar, yayın sürecinde kullanılan referansların etik dışı şekilde çoğalmasının ağır bir ihlâl olduğuna dikkat çekiyor. Profesörler ve doçentler, bu tür usulsüzlüklerin ciddi yaptırımlara yol açabileceğini ifade ediyorlar. Sosyal medyada da benzer vakaların görüldüğü belirtiliyor ve akademisyenler, yapay zekânın bilimsellikten uzak bir yönüne dikkat çekerek tabloyu “akademik içerikte yapay zekâ kullanımı, bilimin karanlık çağını müjdeliyor” diye özetliyorlar.

Doğrulamadan kullanıma dikkat diyen MEF Üniversitesi Rektörü Prof. Dr. Muhammed Şahin, yapay zekâ modellerinin bölümleri taklit eden belirli kalıpları kullanması nedeniyle gerçekte var olmayan kaynakları üretme riskine işaret ediyor. Halüsinasyon referanslar, doğrulama süreci olmadan kullanılan bilgiler nedeniyle ortaya çıkıyor. Şahin, yapay zekâyı eleştirel bir yardımcı olarak görmek gerektiğini ve şu uygulamaların benimsenmesini öneriyor: Doğru prompt kullanımı, kaynak formatını zorunlu kılma, belge odaklı inceleme prensibiyle yalnızca PDF’ler veya güvenilir veri tabanlarındaki materyaller üzerinden çalışmak, ve insan doğrulamasıyla model revizyonu yapılması. Yapay zekâ, araştırma asistanı olarak değerlendirilmelidir; hakem değildir.