Yapay zeka kontrolden çıkarsa fişi çekilebilir mi?
Yapay zeka sistemleri için zorunlu bir “acil kapatma mekanizması” oluşturulması konusundaki tartışmalar yeniden gündemde. Anthropic’in kurucu ortaklarından biri, BBC’ye verdiği açıklamada bu mekanizmanın zorunlu olabileceğini ifade etti. Ancak uzmanlar, dünya genelinde tek bir düğmenin tüm yapay zekayı durduramayacağını vurguluyor.
Toronto Üniversitesi’nden yapay zeka ve bilgisayar güvenliği uzmanı Nicolas Papernot, “acil kapatma düğmesi”nın yalnızca bir sistemin yürüttüğü işlemleri kesmekle sınırlı olduğunu belirtti. Papernot’a göre, sistemi çalıştıran kişi veya kurum, yapay zekanın ihtiyaç duyduğu işlem gücüne erişimi engelleyerek sistemi durdurabilir. Fakat sistem ilk çalıştırıldığı ortamın dışına çıkarsa, örneğin kendini çoğaltabilen bir bilgisayar solucanı yayarsa, tüm kopyaların eş zamanlı olarak durdurulması gerekir.
Fransa Ulusal Bilimsel Araştırma Merkezi’nden Thierry Poibeau, tüm yapay zekayı kapatabilecek tek bir düğme fikrinin yanıltıcı olduğunu söyledi. Dünya genelinde çok sayıda şirketin farklı yazılım ve hizmetleri bulunduğuna işaret eden Poibeau, tek bir kişi veya kurumun tüm yapay zekayı kontrol etmediğini dile getirdi. Merkezi bir yapay zeka sisteminin durdurulması teorik ve pratik olarak mümkünken, merkezi olmayan sistemleri tamamen durdurmak çok daha zor.
Bununla birlikte, acil kapatma mekanizmasının işletmelerin, kamu kurumlarının ve sağlık kuruluşlarının meşru hizmetlerini de aksatabileceği ve müdahalenin maliyetinin büyük olabileceği uyarısı yapılıyor. Papernot, bu müdahalenin yaratacağı aksaklıkların “çok büyük” olabileceğine dikkat çekiyor. ABD Başkanı Donald Trump, yapay zeka korkularını “aldatmaca” olarak nitelendirirken, Meta CEO’su Mark Zuckerberg gelişmenin yavaşlatılması çağrılarına karşı çıkıyor. Sorbonne Üniversitesi’nden Jean‑Gabriel Ganascia, acil kapatma düğmesi tartışmasının yapay zekanın kendi iradesini geliştireceği düşüncesini gereğinden fazla öne çıkardığını, gerçek tehlikenin ise toplumların bu sistemlere artan bağımlılığı olduğunu belirtiyor.
