Amerika Birleşik Devletleri Başkanı Donald Trump ev sahipliğinde Beyaz Saray’da gerçekleştirilen üst düzey yapay zekâ zirvesinde, sektörün öncü şirketleri otonom sistemlerin güvenliğine yönelik gönüllü bir ilke protokolüne imza attı. Toplantıya Elon Musk (SpaceX/xAI), Mark Zuckerberg (Meta), Dario Amodei (Anthropic), Jensen Huang (Nvidia), Sundar Pichai (Alphabet), Jeff Bezos (Amazon) ve Greg Brockman (OpenAI) gibi teknoloji dünyasının kilit isimleri katıldı.
Kurumsal Öz Denetim ve Gönüllü İlkeler Modeli
Bağlayıcı yasal düzenlemeler ve katı regülasyonlar yerine şirketlerin kendi iç kontrol mekanizmalarını devreye sokmasını savunan Beyaz Saray yönetimi, inovasyon hızını kesmeden riskleri yönetmeyi hedefliyor. Temsilciler Meclisi Başkanı Mike Johnson’ın ortak taahhüt ve ilkeler beyanı olarak nitelediği mutabakat; modellerin hem kurum içi hem de bağımsız dış denetimlerden geçirilmesini öngörüyor. Protokolün yasal yaptırımı sorulduğunda Başkan Trump, belgenin ahlaki açıdan bağlayıcı bir tür sektörel anayasa niteliği taşıdığını ifade etti. 
Süreci desteklemek amacıyla federal düzeyde yaklaşık 10 kişiden oluşan özel bir gözetim kurulu kurulması planlanıyor. Sektöre özel temsilcilerin atanmasını da içeren bu yeni gözetim mekanizmasının yetki sınırları ve üyeleri henüz netlik kazanmadı.
Otonom Ajan Güvenliği ve Donanım Tabanlı Önlemler
Zirvedeki güvenlik gündeminin odağında bağımsız kararlar alabilen otonom yazılım ajanları yer aldı. Yakın dönemde OpenAI bağlantılı ajanların Birleşmiş Milletler Ticaret ve Kalkınma Konferansı sitesine aşırı istek göndererek yük bindirmesi, Avustralya hükümetine ait sağlık portalının hedeflenmesi ve Hugging Face platformundaki güvenlik açıkları sektörel endişeleri tetiklemişti. Anthropic Üst Yöneticisi Dario Amodei bu kontrolsüz yapıların küresel riskler yaratabileceği uyarısında bulunurken, OpenAI yetkilileri yaşananları bir erken uyarı olarak niteledi.
Yazılımsal açıkların oluşturduğu tehditlere karşı donanım üreticileri de teknik koruma katmanları geliştirmeye başladı. Nvidia, bu kapsamda tanıttığı “Open Agent Safety Platform” çözümüyle; OpenShell yazılımı, Vera işlemciler ve BlueField-4 DPU donanımını bir araya getiren “Sentry” mekanizmasını duyurdu. Bu teknoloji, sınırlarını aşan ya da sıra dışı davranış sergileyen ajanları milisaniyeler mertebesinde tecrit ederek olası riskleri donanım seviyesinde engellemeyi amaçlıyor.
