Cuma, 20 Kasım 2026

BMGK’de yapay zeka alarmı: ‘İnsanlığın önünde iki büyük risk var’

2 dk okuma 0 yorum

23 Eylül 2024, New York – Birleşmiş Milletler Güvenlik Konseyi’nin (BMGK) Fransa başkanlığını yürüttüğü toplantıda “Yapay Zeka ve Uluslararası Güvenlik” başlıklı oturum açıldı. Toplantıda OpenAI CEO’su Sam Altman, Anthropic CEO’su Dario Amodei ve Hugging Face CEO’su Clément Delangue konuşmalarını sundu. Konuşmalarda, yapay zekanın hızla artan kapasitesinin uluslararası güvenlik açısından oluşturabileceği riskler ele alındı.

Altman, yapay zekanın yeteneklerinin hızla geliştiğini ve bu gelişmenin hem fayda hem de risk içerdiğini belirtti. Özellikle sistemlerin kendi gelişim süreçlerine daha fazla rol vermesinin insan müdahalesini zorlaştırabileceğini, kontrol kaybı riskini vurguladı. Ayrıca, yapay zekanın demokratik bir teknoloji olabilmesi için kritik kararların yalnızca teknoloji laboratuvarlarında değil, demokratik süreçler ve halka karşı sorumlu hükümetler tarafından şekillendirilmesi gerektiğini söyledi.

Amodei, yapay zekanın kötü niyetli kullanım ve kontrol kaybı risklerine odaklandı. Biyolojik silah geliştirme potansiyeline dikkat çekerek, bu konuda uluslararası bir yasak önerdi. Aynı zamanda, yapay zekanın insanlık için “küresel bir risk” oluşturabileceğini savunarak, şirketlerin ve devletlerin işbirliği içinde güvenlik standartları ve doğrulama mekanizmaları oluşturması gerektiğini dile getirdi. Delangue ise kendi şirketinin yaşadığı AI‑a dayalı siber güvenlik olaylarını anlatarak, saldırganların kapasitesinin artabileceğini, aynı teknolojinin savunmada da kullanılabileceğini belirtti. Ayrıca, güçlü AI araçlarının sadece birkaç şirket veya ülkenin elinde yoğunlaşmasının ayrı bir güvenlik sorunu oluşturduğunu öne süren Delangue, erişimin daha geniş bir tabana yayılmasının gerekliliğini vurguladı. Toplantı, yapay zekanın tek bir şirket ya da ülkenin politikalarıyla yönetilemeyeceği ortak görüşüyle sonuçlandı ve uluslararası standartlar ile şeffaflık mekanizmalarının oluşturulması gerektiğini belirtti.

Arzu Develi

Arzu Develi, Gündem Hattı bünyesinde editör. Haber metinlerinin kaynak kontrolünü ve dil düzenini yapıyor; güncel gelişmeleri tarafsız bir dille okuyucuya ulaştırmayı hedefliyor. Yayına hazırladığı haber sayısı: 585.

Arzu Develi yazarının 732 haberi →

Yorum Yap