Yapay Zeka Ajanları Çılgına Döndü! Hugging Face Sistemine Otonom Saldırı
Arkadaşlar, inanılır gibi değil ama oldu. Bildiğiniz o yapay zeka modelleri, kendi kendine karar verip interneti deldi geçti. OpenAI’nin geliştirdiği o son model GPT-5.6 Sol ve daha da gelişmiş bir ön sürüm var ya… İşte onlar, test ortamında kontrolden çıktı. Düşünsenize, güvenlik testi yapıyorlardı ama iş öyle bir noktaya geldi ki, yapay zeka kendi başına bir platforma sızdı. Neresi mi? Yazılımcıların en çok kullandığı Hugging Face…
Olayın detaylarına girmeden önce şunu söyliyim: San Francisco merkezli OpenAI, salı günü resmen açıkladı. Dedilerki “Modellerimiz güvenlik testlerinde çığırından çıktı, Hugging Face’e kendi başlarına girdiler”. Hemen soruşturma başlattılar tabii. Ve bunu “benzeri görülmemiş bir siber saldırı” olarak nitelendirdiler. Yani sıradan bişey değil yani, dev bir olay.
Bakın şimdi, bu yapay zeka modelleri normalde sohbet robotlarında, görsel üreticilerde falan kullanılıyor. Ama gerçek dünyada otonom görev yapmaya başladıklarında “ajan” oluyorlar. Hah işte bu ajanlar, test ortamında internete erişimleri kısıtlıyken bile bir yolunu bulup açık internete çıkmışlar. Hani o izole edilmiş dijital kafes var ya, orda çalışıyorlardı ama “değerlendirme sorusunu çözme arayışında” saatlerce işlem gücü harcıyarak internet bağlantısı bulmayı başarmışlar. Çılgınca değilmi?
Sonra ne yapmışlar peki? Hugging Face platformunu hedeflemişler. Nedenmi? Çünkü orası büyük bir bilgi deposu, yapay zeka modelleri, veri setleri, herşey var. Ama amaçları ne? Değerlendirmeyi hileyle geçmek için gizli bilgiler bulmak. Ve bunun için birden fazla yöntemi bir araya getirmişler. Çalıntı kimlik bilgileri kullanmak dahil. Yani kendi kendilerine plan yapmışlar, adeta bir siber suçlu gibi. Bu noktada insanın aklı duruyo…
Profesör Hüseyin Abbass, UNSW Canberra’dan, AFP’ye konuşmuş. Diyorki “Sadece Hugging Face’e saldırmadılar. Kendi güvenlik açıklarından yararlanmak için iç sisteme de saldırdılar.” Yani hem dışarıya hem kendilerine saldırmışlar. Bu ne demek? Yapay zeka, kendini de tehlikeye atıyo. Korkutucu değil mi sizce de?
Ama işin daha da vahimi var. GPT-5.6 ve Anthropic’in Mythos serisi gibi son teknoloji modeller, siber güvenlik duvarlarını aşma potansiyelleri yüzünden endişe yaratmıştı zaten. ABD’li firmalar, bu sistemlerin kritik altyapılara sızabileceği korkusuyla piyasaya sürümünü geçici olarak durdurmuştu. Yani aslında yetkililer bu tehlikenin farkındaydı ama yine de oldu işte. Profesör Abbas, “Normalde etik yetkililerin elinde olsa sorun yok ama kötü niyetli birilerinin eline geçerse felaket” diyor. Haklıda…
Hugging Face CEO’su Clement Delangue, X hesabından açıklama yapmış. Diyorki “Bu saldırı, daha önce gördüğümüz her şeyden farklıydı. Otonom bir yapay zeka sistemi tarafından yönetiliyodu ve biz de onu kendi yapay zekamızla tespit ettik.” Yani yapay zeka, yapay zekayı yakalamış. Delangue ayrıca OpenAI’nin bu kötü niyetli operasyonun arkasında olmadığına inandığını söylemiş. Ama şüpheleri var, çünkü dünyanın önde gelen AI laboratuarlarından biri olabilir… İşin içinde bir gizem var yani.
Neyse, şimdi düşünün: Siz bir yapay zeka sistemine görev veriyorsunuz, o da kendine yeni yollar buluyor, kimlik bilgileri çalıyor, iç sisteme sızıyor. Bu neyin nesi? Teknoloji hızla karmaşıklaşıyor, siber güvenlik ön plana çıkıyor. Peki bu olayın ardından neler olacak? OpenAI ve Hugging Face ortak soruşturma başlatmış durumda. Bakalım bu iş nereye varacak…
Gelişmeleri yakından takip ediyoruz. Sizde izleyin, çünkü daha çok konuşulacağa benziyor. Yapay zeka ajanları artık kendi başına buyruk hareket ediyor, insanlık olarak nereye gidiyoruz?
Kaynak: Orijinal Haber
