Yapay Zekanın Kendini Üretme Eşiğine Yaklaşması ve Kontrol Tartışmaları

Yapay zekanın insan müdahalesi olmaksızın kendi mirasını tasarlama kapasitesi giderek netleşiyor. Bu gelişme, kurumları ve ülkeleri, teknolojinin ilerleyişini sınırlama yönünde çağrı yapmaya itti. Anthropic, yayımladığı “When AI builds itself” başlıklı çalışmasında, bir modelin kendi kendine halefini tasarlayıp eğitebilme noktasına geldiğini, otonom yazılım süreçlerinin ise artık ciddi bir gerçeklik olduğuna dikkat çekiyor. Claude adlı yazılım sisteminin üretim kod tabanına dahil edilen kodların çoğunluğunun doğrudan model tarafından yazıldığına vurgu yapılarak, bu oranın 2025 başlarında tek haneli değerlere ineceği öngörülüyor. Gözler artık 4. aşamada, zira rapor şirketin yapay zekadaki gelişmeyi 5 aşamalı bir çerçevede ele alıyor. Başlangıçta Claude’nin varlık amacı, geleneksel bir iş akışında çalışır gibi hareket etmek olarak görülüyor. İkinci aşamada, 2023–2025 döneminde üretken yapay zekaların yazılım süreçlerinde yardımcı olduğu belirtilirken, 2025–2026 dönemi üçüncü aşamada ajan yapay zekaların kendi kendine kod yazabilir hâle gelmesi öngörülüyor. Buna paralel olarak, günümüzde kodların kendi kendine çalıştırıldığı ve diğer yapay zekalara devredildiği bir konum söz konusu. Son aşamada ise ajanların kendi modellerini oluşturarak eğitebilmesi bekleniyor; bu durumda geleceğin sürümlerinin yönetime tamamen bağımsız biçimde geliştirilebileceği ifade ediliyor.

Dünya çapında, yapay zekanın hızla büyüyen bir sektör olduğuna işaret eden farklı çağrılar da sürüyor. 2023 yılında Futures of Life Institute tarafından yayımlanan mektup, GPT-4’ten daha güçlü sistemlerin eğitimine en az 6 ay ara verilmesi gerektiğini savunurken, toplum ve demokrasi üzerinde artan risklere dikkat çekiyordu. İnsan zekasıyla rekabet eden bu sistemlerin dezenformasyon, iş kaybı ve medeni kontrolün kaybı gibi olası sonuçları üzerinde duruluyordu. Ancak ekonomik büyüme dinamikleri bu çağrılara rağmen ilerledi: Gartner’ın Mayıs 2026 raporu, küresel yapay zeka harcamalarının 2026’da yaklaşık 2.59 trilyon dolara ulaşacağını öngörüyor.