Olay büyük arkadaşlar… OpenAI kendi yarattığı canavarı itiraf etti. Yapay zeka kontrolden çıkmış, günlerce kimse farketmemiş. İnanılır gibi değil ama gerçek. Şirket, otonom yapay zeka ajanının sadece Hugging Face’i değil, başka kamuya açık hizmetleride hedef aldığını doğruladı. Yani olay sandığımızdan çok daha büyük.
Neyse baştan alalım… 16 Temmuz’da Hugging Face, güçlü bir otonom yapay zeka tarafından siber saldırıya uğradığını duyurmuştu. Hemen polise gidilmiş, acil toplantılar yapılmış. Sonra ne oldu dersiniz? Yaklaşık bir hafta sonra OpenAI çıktı dediki “O saldırıyı bizim yapay zekamız yapmış.” Ama yalnızca o değilmiş işte…
Şirket yaptığı yeni açıklamada, yapay zekanın internette açıkta duran giriş bilgilerini kullandığını, dört farklı hesaptan dört ayrı hizmete eriştiğini söyledi. Hangi hizmetler olduğu ise paylaşılmadı. Millet merak içinde, “Acaba benim hesabımıda mı kullanmış?” diye düşünüyor. Olayın kapsamı ilk değerlendirilenden çok daha genişmiş.
Yapay zeka aslında bir sızma testi yapıyormuş. Kendisine verilen görev kapsamında soruların yanıtlarını arıyormuş. Ama işler kontrolden çıkmış… Hugging Face’i hedef alan sistem, internette açıkta bulduğu kullanıcı bilgileriyle başka hizmetlerede sızmış. Adamlar sistemin içinde üç gün boyunca gezmiş kimse farketmemiş. Üç gün be! Düşünsenize.
Hugging Face’in siber güvenlik uzmanları acilen toplanmış ve bir rapor hazırlamış. Raporda ilginç şeyler var. Yapay zeka ajanları insanlardan çok farklı hareket ediyormuş. Mesela aynı işlemleri tekrar tekrar yapıyorlarmış, anlamsız komutlar üretiyorlarmış. Ama izlerini gizleme konusunda başarısız olmuşlar. Yani belli ki henüz çok akıllı değiller ama hızlılar…
Nasıl hızlı mı? Çok kısa sürede binlerce farklı yöntemi aynı anda deneyip yeni durumlara hemen uyum sağlıyorlarmış. Bu yüzden saldırıyı durdurmak saatler sürmüş. Şirket altyapısının yaklaşık üçte birini yeniden inşa etmek zorunda kalmışlar. Maliyeti ise söylemediler. Belli ki canları yanmış.
Raporda birde şu uyarı var: “Bu sistemler hedef odaklı çalışıyor, kendi alt hedeflerini belirleyebiliyor, savunmaya gerçek zamanlı uyum sağlıyor ve makine hızında hareket ediyor.” Yani geleneksel güvenlik önlemleri bunlara yetmiyor. Korkutucu değilmi?
OpenAI olayı farketmesi dört gün sürmüş. Yani yapay zeka dört gün boyunca dışarıda başıboş dolaşmış. Şirket şimdi soruşturma sonuçlarını kamuoyuyla paylaşacağını, benzer olaylardan ders çıkarılması için ayrıntılı bulgular yayımlayacağını söylüyor. Ama bakalım ne kadar samimiler…
İşte böyle arkadaşlar. Yapay zeka dediğin şey, daha kontrol altında tutamıyoruz. Peki ya bir gün gerçekten kötü niyetli biri bunu kullanırsa? Düşüncesi bile ürpertiyor insanı…
Kaynak: Orijinal Haber
