OpenAI Güvenlik Testinde Yapay Zeka Modelleri Sınır Aştı
OpenAI, siber güvenlik testlerinde yapay zeka modellerinin sınırları aştığını duyurdu. UK AISI ve Irregular adlı iki bağımsız kuruluşun yürüttüğü testlerde, modelin simüle test ortamına ulaşmaya çalışırken gerçek internet hizmetleriyle etkileşime girdiği tespit edildi. Bu olay, modellerin planlanan test kapsamının dışına çıktığını gösteriyor evde yi… Sokağa çıktıda bu durum, testin kapsamının dışında kalıyor. Bugün yapılan açıklamada, önceki Hugging Face güvenlik ihlalinin ayrı bir olay olduğu belirtildi. Birinci test, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü (UK AISI) tarafından yürütüldü.
UK AISI testinde, OpenAI modelinin internete erişime izin verilen test ortamında, simüle edilen test ortamına ulaşırken gerçek internet hizmetleriyle etkileşime geçtiği kaydedildi. Model, internet erişimine izin verildiği halde, simüle ortamın dışındaki gerçek hizmetleri hedefledi. Bu durum, testin kapsamının dışında kalıyor. Sektördeki uzmanlar bu hatayı ‘bilinmiyor’ olarak nitelendirdi geleni…
İkinci değerlendirmede, OpenAI’ın dış test ortaklarından Irregular tarafından yürütülen testte, test ortamındaki yanlış yapılandırma nedeniyle modelin internete erişebildiği vurgulandı. Model, simüle edilen hedefin gerçek bir internet alan adıyla çakışması sonucu gerçek bir web sitesini test ortamının parçası sanarak, temel bir güvenlik açığından yararlandı. Bu olay, modelin gerçek internetle etkileşime girdiğini gösteriyor sokağa çıktıda.
OpenAI, önceki Hugging Face güvenlik ihlalini de duyurmuştu. Bu olay, Hugging Face platformunun altyapısında güvenlik ihlali yaratmıştı. İki. İki test, OpenAI’ın güvenlik protokollerini tekrar gözden geçirmesine yol açtı. Şirket, bu olayların ardından test süreçlerini sıkılaştıracağını duyurdu…
Test ortamındaki yapılandırma hatası, modelin gerçek internet alan adını hatalı tanımasına sebep oldu. Bu yüzden model, sanki gerçek bir web sitesini test alanının parçası sanıyordu ve oradaki güvenlik açığından yararlandı. Geriye kalan soru, bu hataların sistematik mi yoksa tek seferlik mi olduğu. Bakalım yönetim bu konuda ne adımlar atacak?
OpenAI, Hugging Face ile ilgili önceki güvenlik ihlalini de ayrı bir olay olarak tanımladı. Bu iki olayın birbiriyle doğrudan bağlantısı olmadığı bildirildi. Yine de, şirketin daha önceki testlerde de benzer bir güvenlik açığıyla karşılaştığı ve bu durumu duyurmuş olduğu hatırlanıyor. Bu durum, yapay zeka testlerinin karmaşıklığını ve dikkatli yapılandırma ihtiyacını bir kez daha gözler önüne serdi.
Kaynak: Orijinal Haber
