Yapay Zeka Güvenliği ve ChatGPT Sorguları: Gerçek Kullanım Senaryoları ve Uzman Değerlendirmesi

Güncel gelişmeler, yapay zeka modellerinin nasıl kullanıldığına dair tartışmaları derinleştirmeye devam ediyor. Yeni bilgilere göre geçen yaz ChatGPT’ye yönelik yüzlerce şüpheli sorgunun kaydedildiği bildirildi. İddialara göre bu sorguların çoğu zehirli içerikler veya biyolojik silahlarla ilgili konuları kapsıyordu.

İddia edilen durumun, yapay zeka güvenlik testlerinin yalnızca örnekleriyle sınırlı kalmadığı, gerçek kullanıcılar tarafından gerçekleştirilen kullanım senaryoları olduğu savunuluyor. WSJ’nin haberi, bu sorguların nasıl tespit edildiği ve hangi yöntemlerle incelendiğine ilişkin ayrıntılı bilgi paylaşımından kaçındı.

YANITLAR Uzmanlar tarafından değerlendirildi. Belirlenen bazı diyaloglar, biyoloji ve terörizm alanında çalışan uzmanlara iletildi. Uzmanlar, yapay zekanın verdiği yanıtları teknik açıdan doğru bulduklarını öne sürdü; ancak haberin iddiasına göre bazı yanıtlar adım adım ve lise seviyesindeki bir okuyucuya uygun bir biçimde sunuluyordu.

Platformdan bu tür sorguları tespit eden bazı kullanıcıların erişimleri kaldırıldı; fakat her olayın kolluk kuvvetlerine bildirilip bildirilmediği belirtilmedi. OpenAI ise yaptığı açıklamada, gerçek dünyada somut tehdit oluşturan taleplerin güvenlik birimlerine iletilmesini sağladıklarını kaydetti.

Üretken yapay zekâ sistemlerinin kötü niyetli kişilerce nasıl kullanılabileceği konusundaki endişeler, teknoloji sektörünün en önemli gündem maddelerinden biri olarak dikkat çekiyor. Bugüne kadar yayımlanan örneklerde çoğu zaman yapay zekâ sohbet botlarının genel tavsiyeler sunduğu, doğrudan yeni ve benzersiz saldırı yöntemleri geliştiren araçlar olarak görülmediği ifade ediliyor. Yine de uzmanlar, yapay zekânın her yıl daha gelişmesi ve açık kaynaklı alternatiflerin yaygınlaşmasıyla güvenlik risklerinin artabileceğine vurgu yapıyor.