ABD'nin yapay zekâ güvenlik merkezi lidersiz kaldı, ekibi Beyaz Saray'a bağlanıyor

ABD hükümetinde yeni yapay zekâ sistemlerinin güvenliğini değerlendirmekle görevli küçük birim, kontrolden çıkan yapay zekâ ajanlarına dair haberler arttığı bir dönemde lidersiz kaldı. AP'nin haberine göre Ticaret Bakanlığı'na bağlı bağımsız bir birim olan Süper Zekâ için İnovasyon ve Standartları Geliştirme Merkezi (CAISSI), kalıcı bir yöneticiden yoksun ve araştırmalarını yayımlamayı da bıraktı.

Konuya yakın iki eski hükümet yetkilisi, merkez yetkililerinden yakın zamanda Beyaz Saray'daki bir ofise gayriresmî olarak rapor vermelerinin istendiğini söyledi. Yetkililer, mevcut çalışanların zarar görmemesi için isimlerinin açıklanmaması şartıyla konuştu.

Bütçe İngiltere'nin sekizde biri

Yakın zamana kadar ABD Yapay Zekâ Standartları ve İnovasyon Merkezi adını taşıyan birimden ayrılanlar oldu. Merkezin yıllık bütçesi 10 milyon dolar. Bu rakam, öncü teknolojileriyle çok daha az öne çıkan İngiltere'deki muadilinin yıllık bütçesinin yaklaşık sekizde biri.

Birimin yöneticisi nisanda işe alındıktan birkaç gün sonra kovuldu. Yerine gelen isim birkaç ay sonra istifa etti ve merkez o zamandan beri kalıcı bir yöneticiden yoksun. Bağlı olduğu enstitünün başkanı şimdilik vekâleten merkezi de yönetiyor.

Kongre ağustosta merkezin bazı yapay zekâ sistemlerinin ne kadar güvenli çalıştığına dair raporlarını neden birden yayımlamayı bıraktığını sormaya başlamıştı. OpenAI da politika yapıcılardan birime daha fazla kaynak ve destek ayırmalarını istemişti.

Bağımsızlık endişesi

Yeni düzenleme bazı eleştirmenleri kaygılandırıyor. Eleştirmenler, siber güvenlikten biyolojik silahlara kadar pek çok alanı etkileyebilecek kararların siyasallaşmasından ve merkezin bulgularının teknoloji sektörü lehine değiştirilmesinden ya da bastırılmasından endişe ediyor. Amerikan Bilim İnsanları Federasyonu'ndan Caroline Siegel Singh, bu kurumların yaşamları büyük ölçüde iyileştirebileceğini ya da tam tersini yapabileceğini, bu yüzden partiler üstü teknik uzmanlara ihtiyaç olduğunu söyledi.

Bazıları ise yapay zekâ güvenliği yetkililerini Başkan Donald Trump'a yaklaştırmanın birime daha fazla görünürlük ve belki daha fazla bütçe getirebileceğini savunuyor. Beyaz Saray CAISSI'ye dair sorulara yanıt vermedi. Ancak yaptığı açıklamada Trump'ın yeni Süper Zekâ Gücü'nü resmen kurduğunu ve Bilim ve Teknoloji Danışmanları Konseyi'nden riskler üzerine bir rapor istediğini bildirdi.

Berkeley Kaliforniya Üniversitesi'nden Sayash Kapoor, yapay zekâ ajanlarının gerçek dünyada ne kadar güvenli davrandığını test etmek için hâlâ standart bir yöntem olmadığına dikkat çekiyor. Brennan Adalet Merkezi'nden Amos Toh, bu kararların kamuyu derinden ilgilendirdiğini ve kamuoyu önünde açıklanması gerektiğini, ancak bunun yapılmadığını söyledi.