ABD yönetimi ile büyük yapay zekâ şirketleri, gelişmiş yapay zekâ sistemlerinin oluşturabileceği riskleri azaltmayı amaçlayan yeni bir güvenlik anlaşmasında buluştu. OpenAI, Google, Anthropic, Meta, Nvidia ve xAI gibi şirketlerin yöneticileri, sistemlerini daha sıkı şekilde denetlemeyi ve bağımsız güvenlik incelemelerine açmayı kabul etti.
ABD Başkanı Donald Trump’ın 29 Eylül’de açıkladığı “White House Accord on Super Intelligence” adlı anlaşma yasal bir zorunluluk getirmiyor. Şirketler kurallara gönüllü olarak uyacak ve anlaşmada herhangi bir yaptırım mekanizması bulunmuyor. Trump ise anlaşmayı “ahlaki açıdan bağlayıcı” olarak tanımladı.
Şirketler dört aşamalı güvenlik sistemi kuracak
Anlaşma, yapay zekâ şirketlerinden dört temel güvenlik mekanizması oluşturmasını istiyor.
Şirketler öncelikle geliştirdikleri modellerin davranışlarını ve oluşturabileceği riskleri takip eden iç kontroller kuracak. Ayrı ekipler bu kontrollerin çalışıp çalışmadığını izleyecek. Şirketler ayrıca sistemlerini bağımsız dış denetçilere açacak ve yönetim kurullarında güvenlik çalışmalarını takip eden bağımsız komiteler oluşturacak.
Denetimler özellikle siber güvenlik, biyolojik ve kimyasal tehditler ile yapay zekâ modellerinin geliştiricilerin amaçlamadığı eylemleri gerçekleştirmesi gibi alanlara odaklanacak.
Şirketler ayrıca düzenli toplantılar yaparak ortak güvenlik standartları ve test yöntemleri geliştirmeyi planlıyor.
Anlaşmanın yaptırımı bulunmuyor
Yeni düzenleme şirketlere doğrudan hukuki sorumluluk yüklemiyor. Anlaşmaya uymayan şirketler için ceza veya başka bir yaptırım öngörülmedi.
Metin yine de gelecekte bu kuralların yasaya veya resmi düzenlemelere dönüşebileceğinin kapısını açık bırakıyor. Anlaşmada, zaman içinde bu adımların mevzuata eklenmesinin gündeme gelebileceği belirtiliyor.
Bazı şirketler dış güvenlik testlerini zaten kullanıyordu. Bu nedenle yeni anlaşmanın en önemli taraflarından biri, büyük yapay zekâ şirketlerini ortak bir güvenlik çerçevesi altında toplamaya çalışması.
Yapay zekâ güvenliği yeniden gündemde
Anlaşma, gelişmiş yapay zekâ modellerinin beklenmedik davranışlarıyla ilgili tartışmaların arttığı bir dönemde geldi.
Son dönemde özellikle yapay zekâ ajanlarının kendilerine verilen görevlerin dışına çıkması, başka sistemlere erişmesi veya güvenlik testleri sırasında beklenmeyen davranışlar göstermesi sektörde yeni tartışmalar başlattı.
OpenAI Güvenlik ve Güvenlik Komitesi Başkanı Zico Kolter da şirketlerin giderek daha yetenekli hale gelen yapay zekâ ajanlarının beklenmedik davranışlarına karşı yeni yöntemler geliştirmek zorunda kaldığını söyledi.
Bu durum şirketlerin yalnızca modeller piyasaya çıkmadan önce değil, eğitim ve geliştirme aşamasında da daha kapsamlı kontroller kurması gerektiği tartışmasını güçlendiriyor.
FTC de yapay zekâ şirketlerini inceliyor
ABD’deki düzenleyici kurumlar da konuya daha yakından bakmaya başladı.
Federal Ticaret Komisyonu (FTC), OpenAI, Anthropic ve diğer bazı yapay zekâ laboratuvarlarının teknolojilerinin tüketiciler açısından oluşturabileceği riskleri inceleyen sektör çapında bir soruşturma başlattı. Reuters’ın aktardığına göre inceleme özellikle kontrolden çıkan veya beklenmeyen eylemler gerçekleştiren yapay zekâ ajanlarının oluşturabileceği risklere odaklanıyor.
Böylece ABD’de yapay zekâ güvenliği konusunda iki farklı yaklaşım aynı anda ilerliyor. Beyaz Saray şirketlerin gönüllü güvenlik kontrolleri oluşturmasını desteklerken, federal ve eyalet düzeyindeki kurumlar şirketlerin uygulamalarını incelemeye devam ediyor.
Trump yönetimi “AI” yerine “Super Intelligence” diyor
Anlaşmanın adı da dikkat çeken başka bir ayrıntı taşıyor.
Trump, aynı gün yayımladığı başkanlık kararıyla federal kurumlara resmi belgelerde ve kamuya açık iletişimlerde “Artificial Intelligence” ve “AI” ifadeleri yerine “Super Intelligence” ve “SI” terimlerini kullanma talimatı verdi.
Karar, şimdilik “Super Intelligence” ifadesini mevcut ABD yasalarındaki yapay zekâ tanımıyla aynı kapsamda kullanıyor. Yönetim ayrıca 60 gün içinde bu terim için yeni bir federal tanım hazırlanmasını istiyor.
Teknoloji dünyasında ise “superintelligence” kavramı genellikle insan zekâsını birçok alanda aşabilecek gelecekteki yapay zekâ sistemlerini tanımlamak için kullanılıyor. Bu nedenle yönetimin terimi günümüzde kullanılan yapay zekâ teknolojileri için tercih etmesi, sektörün geleneksel kullanımından farklı bir anlam taşıyor.
