Kongre Oturumunda Yapay Zeka Güvenliği: Uzmanlar Riskleri ve Olası Sonuçları Değerlendiriyor

ABDSenatosunda gerçekleştirilen oturumda yapay zekanın güvenliği, uzmanlar tarafından ele alındı. Giderek daha bağımsız hareket edebilen yapay zekanın potansiyel riskleri, katılımcılar tarafından tartışıldı ve kamuoyuna aktarılabilecek bilgiler sunuldu.

Açıklamalarda Apollo Research şirketinin Genel Müdürü Marius Hobbhahn, yapay zekanın kapasitesinin hızlı bir biçimde arttığını ve insan ötesi yeteneklere yaklaşarak sınırları zorladığını belirtti. Hobbhahn, modellerin artık 'içsel olarak' akıl yürütme süreçlerine sahip olduğunu ve mevcut yöntemlerin bu süreçleri tam olarak izleyemediğini ifade etti.

Model Değerlendirme ve Tehdit Araştırmaları (METR) Merkezi Başkanı Chris Painter ise yapay zeka ajanlarının uzmanların günler süren görevlerini, insan müdahalesi olmadan tamamlayabildiğini savundu ve bu durumun güvenlik açısından dikkat gerektirdiğini vurguladı.

OpenAI'dan 2024 yılında ayrılan Daniel Kokotajlo, AI Futures Project’ten söz ederken, kodların neredeyse tamamen yapay zeka tarafından yazıldığını ve mühendislerin daha çok yapay zekayı yöneten «yönetici» rolüne büründüğünü dile getirdi. Hacker ataklarıyla ilgili olarak Hugging Face’e yönelik siber saldırıda yaklaşık 1000 yapay zeka ajanının kullanıldığı, bu sürünün kendi aralarında iletişim kurmasını planlamamanın getirdiği riskler ise Kokotajlo tarafından vurgulandı.

Kokotajlo süper zeka yarışına karşı uyarıda bulunarak bu gelişmenin güç yoğunlaşmasına, potansiyel olarak küresel çatışmalara ve biyoterörizm gibi tehditlere yol açabileceğini ifade etti. Ayrıca, ekonomik etkilerin büyüyebileceğine dikkat çekildi.