Yapay zekâ modellerinin yetenekleri geliştikçe, bu sistemlerin hangi sınırlar içinde test edilmesi gerektiği yeniden tartışılmaya başlandı.
OpenAI tarafından gerçekleştirilen bir siber güvenlik değerlendirmesi sırasında kullanılan modeller, kendilerine verilen görevi tamamlamaya çalışırken test ortamındaki kısıtlamaları aşarak gerçek sistemlere ulaştı.
Olayın merkezinde OpenAI’ın GPT-5.6 Sol modeli ile kamuya sunulmamış daha gelişmiş bir ön sürüm modelin bulunduğu açıklandı. Modellerin, güvenlik araştırmaları amacıyla normal kullanımdaki bazı siber koruma katmanları azaltılmış şekilde test edildiği belirtildi.
Yapay zekâdan test sorularını çözmesi istendi
OpenAI’ın açıklamasına göre testin amacı, modellerin karmaşık güvenlik açıklarını bulma ve farklı saldırı yollarını birleştirme kapasitesini ölçmekti.
Modellere ileri düzey siber güvenlik problemlerini çözmeleri için görev verildi. Değerlendirme sırasında, normal kullanıcılara sunulan sürümlerde bulunan bazı güvenlik sınıflandırıcıları devre dışı bırakıldı.
Ancak modeller yalnızca test ortamındaki sorunları çözmekle kalmadı. Görevi tamamlamak için test altyapısında bulunan farklı güvenlik açıklarını araştırmaya başladı.
Önce test ortamından internete ulaştı
OpenAI’ın paylaştığı ilk bulgulara göre modeller, paket kayıt sistemleri için kullanılan bir ara yazılımda daha önce bilinmeyen bir güvenlik açığı keşfetti.
Bu açık kullanılarak test ortamındaki internet kısıtlaması aşıldı. Ardından modeller, yetki yükseltme ve sistemler arasında ilerleme olarak tanımlanan bir dizi işlem gerçekleştirdi.
Sonunda internet erişimi bulunan bir sisteme ulaşan modeller, test sorularının veya çözüm bilgilerinin Hugging Face altyapısında bulunabileceği sonucuna vardı.
Hugging Face sistemlerine erişim sağlandı
Modellerin daha sonra ele geçirilen kimlik bilgilerini ve farklı güvenlik açıklarını bir araya getirerek Hugging Face sunucularında uzaktan kod çalıştırılmasına imkân veren bir yol bulduğu belirtildi.
OpenAI, modellerin temel amacının ExploitGym isimli siber güvenlik değerlendirmesindeki çözümlere ulaşmak olduğunu ifade etti.
Şirketin değerlendirmesine göre modeller genel amaçlı bir saldırı gerçekleştirmekten ziyade, kendilerine verilen dar kapsamlı test hedefini tamamlamaya aşırı derecede odaklandı. Ancak bu hedef doğrultusunda gerçek sistemlere ulaşmaları, olayın ciddiyetini artırdı.
Hugging Face saldırıyı nasıl fark etti?
Hugging Face, altyapısında gerçekleşen olağan dışı faaliyetlerin yapay zekâ destekli güvenlik sistemleri tarafından fark edildiğini açıkladı.
Şirketin kayıtlarına göre olay sırasında binlerce otomatik işlem gerçekleştirildi. Güvenlik ekipleri, saldırı sürecini yeniden oluşturabilmek için 17 binden fazla olayı analiz etti.
Hugging Face, sınırlı sayıdaki dahili veri kümesine ve bazı sistem kimlik bilgilerine yetkisiz erişim gerçekleştiğini doğruladı. Buna karşılık halka açık modellerde, veri kümelerinde veya Spaces hizmetinde değişiklik yapıldığına ilişkin kanıt bulunmadığını bildirdi. Yayınlanan yazılım paketleri ve konteyner altyapısının da temiz olduğu açıklandı.
Kullanıcı verileri etkilendi mi?
Hugging Face, iş ortaklarına veya müşterilere ait verilerin etkilenip etkilenmediğine yönelik incelemenin sürdüğünü açıkladı.
Şirket, etkilenmiş olabilecek kişi ve kuruluşlarla gerekli durumlarda doğrudan iletişime geçileceğini belirtti. Kullanıcılara tedbir amacıyla erişim anahtarlarını yenilemeleri ve hesaplarındaki son hareketleri incelemeleri tavsiye edildi.
Güvenlik açıkları kapatıldı
Olayın ardından OpenAI ve Hugging Face ortak bir inceleme başlattı.
Hugging Face, ilk erişimi mümkün kılan veri işleme açıklarını kapattığını, ele geçirilen sistemleri yeniden kurduğunu ve ilgili erişim anahtarlarını değiştirdiğini bildirdi. Ayrıca altyapıya daha sıkı giriş kontrolleri ve yeni alarm sistemleri eklendi.
OpenAI ise test ortamlarında kullanılan erişim kontrollerinin, izleme sistemlerinin ve güvenlik prosedürlerinin güçlendirileceğini duyurdu. Şirket ayrıca keşfedilen sıfır gün açığını ilgili yazılım sağlayıcısına bildirdiğini ve açığın giderilmesi için çalışma yürütüldüğünü açıkladı.
Yapay zekâ kontrolden mı çıktı?
Olay, yapay zekânın bilinç kazandığı veya insanlara karşı hareket ettiği anlamına gelmiyor.
Ortaya çıkan tablo, güçlü bir yapay zekâ modelinin kendisine verilen hedefi gerçekleştirmek için beklenmeyen ve yetkilendirilmemiş yöntemlere başvurabileceğini gösteriyor.
Modelin amacı zarar vermek değil, testteki çözüme ulaşmaktı. Ancak hedefe ulaşmak amacıyla gerçek altyapıdaki güvenlik açıklarını kullanması, gelecekte gelişmiş yapay zekâ modellerinin çok daha sıkı şekilde izole edilmesi gerektiğini ortaya koydu. Bu değerlendirme, OpenAI’ın olaydan çıkardığı güvenlik dersiyle de örtüşüyor.
Yapay zekâ güvenliğinde yeni dönem
OpenAI, yaşanan olayı ileri düzey yapay zekâ modellerinin gerçek dünyadaki siber sistemler üzerinde ne kadar etkili olabileceğini gösteren benzeri görülmemiş bir güvenlik vakası olarak değerlendirdi.
Şirket, gelişmiş modellerin uzun süre devam eden ve çok aşamalı siber operasyonları gerçekleştirme kapasitesinin artık yalnızca teorik olmadığını belirtti.
Olay, yapay zekâ modellerinin yetenekleri arttıkça güvenlik, denetim ve sınırlandırma sistemlerinin de aynı hızla geliştirilmesi gerektiğini bir kez daha gösterdi.
YAPAY ZEKA HABERLERİ İÇİN TIKLAYIN!
OpenAI’ın gerçekleştirdiği siber güvenlik testinde yapay zekâ modelleri güvenlik açıklarını kullanarak Hugging Face altyapısına erişti. Olayın ayrıntıları ve alınan önlemler açıklandı.