FTC, Anthropic ve OpenAI dahil yapay zekâ laboratuvarlarını soruşturuyor

FTC’nin soruşturmayı, temmuz ayında ilk kez bildirilen olaylarda artış görülmesinin ardından başlattığı belirtildi. Temmuzda bildirilen olaylardaki artışın, kamuoyunda denetimsiz yapay zekânın bir gün insanlara zarar verebileceği endişelerini artırdığı ifade edildi.

Bilgi talepleri ve ifadeler

Bildirildiğine göre FTC, Anthropic, OpenAI ve araştırma grubu Metr dahil üst düzey yapay zekâ geliştiricilerinden resmî bilgi talep etmeyi planlıyor. FTC’nin ayrıca üst düzey yapay zekâ geliştiricilerinin yöneticilerinden ifade vermelerini istemeyi planladığı bildirildi.

Anthropic ve OpenAI, ajan tabanlı yapay zekâ teknolojileriyle ilgili güvenlik olaylarına dair bağımsız incelemeler yürütmek için Metr’den yararlandı. Anthropic, OpenAI ve Metr, yorum taleplerine hemen yanıt vermedi.

FTC’nin soruşturması, denetimden çıkan yapay zekâ ajanlarına odaklanan ilk resmî ABD yaptırım girişimi olarak tanımlandı.

Hugging Face olayı ve yasal çerçeve

FTC Başkanı Andrew Ferguson’un, OpenAI tarafından geliştirilen yapay zekâ ajanlarının açık kaynak platformu Hugging Face’i hacklemesinden önce de şirketlerle ilgili endişeleri olduğu belirtildi. Olayda OpenAI ajanlarının, büyük ölçekli bir saldırı gerçekleştirmeden önce Hugging Face’teki açıkları yokladığı ve bunun küresel bir tartışma başlattığı aktarıldı.

Ferguson, geçen hafta verdiği bir röportajda, siber güvenlik testlerinde ajanlara talimat verip bunun hacklemeyle sonuçlanması halinde geliştiricilerin verdikleri zarardan sorumlu tutulması gerektiğini söyledi. Ferguson, Austin’deki bir etkinlikte de yapay zekâyı düzenleyen yeni yasalar çıkarmaya çalışmadan önce mevcut yasalara bakılması gerektiğini ifade etti.