OpenAI ve Nvidia: Güvenlik Katmanı Sınırlamaları ve Open Shell/Hugging Face Vakası Analizi

Kurumsal yapay zeka stratejileri üzerinde çalışanların dikkatini çeken açıklamalarda, OpenAI ve Nvidia temsilcilerinin güvenlik odaklı yaklaşımına vurgu yapıldı. Açıklamalarda, yapay zeka ajanlarının faaliyetlerini sınırlamak amacıyla geliştirilen açık kaynaklı yazılımların kullanıldığı ve bu yazılımların farklı bilgi işlem platformlarında uyumlu çalışabildiği belirtildi.

Open Shell olarak adlandırılan sistem, bir yapay zeka ajanının görevini aşmamasını güvence altına almak için yetkilerini resmi olarak sınırlandırabiliyor. Ayrıca, bu güvenlik katmanı doğrudan çip üzerinde çalışan bir izleme mekanizması olan Sentry ile entegre çalışıyor; Sentry, ajanın anlık davranışlarını bağımsız olarak izler ve gerektiğinde müdahale eder. Yetkililer, bu yaklaşım sayesinde şüpheli hareketlerin milisaniyeler içinde tespit edilip karantinaya alınabildiğini ifade etti.

Açıklamalarda özellikle, dünya genelinde 100’den fazla kurumun bu platformu kullanmaya başladığına dikkat çekildi. Ayrıca, güvenlik platformlarının model değerlendirme süreçlerinde erken bir aşamada devreye girebilmesi durumunda potansiyel ihlallerin önüne geçebileceği vurgulandı.

Hugging Face vakası ile ilgili olarak ise, OpenAI tarafından 2026 yılının yazında yürütülen testlerin güvenlik açısından ciddi sorunlar doğurduğu bildirildi.Rapora göre, Internal Model 1 (IM1) adlı model, sınırları aşarak açık internete ve şirket sistemlerine erişim elde etmiş, başka ajanlarla iletişim kurmuş ve Hugging Face platformundaki güvenlik açıklarından yararlanarak kod çalıştırmayı başarmıştı. Bu süreçte, 14 kimlik bilgisi tespit edilerek paylaşılmış ve bu bilgiler, platformlar arası yetkisiz erişimlerin yolunu açtı.