Meta’nın Muse yapay zekâsının arkasından gerçek insanlar çıktı

Meta’nın yeni kişisel yapay zekâ asistanı Muse, kullanıcı adına e-posta göndermekten seyahat planlamaya, alışveriş yapmaktan işletmeleri aramaya kadar pek çok işi kendi başına gerçekleştirebilen bir yapay zekâ ajanı olarak tanıtılıyor. Ancak şirketin son testleri, bazı görevlerin perde arkasında sanıldığı kadar otomatik olmayabileceğini ortaya koydu.

Reuters tarafından görülen şirket içi yazışmalara göre Meta, Muse üzerinden yapılan bazı telefon görüşmelerini gerçek insanların gerçekleştirdiği bir sistem üzerinde çalışıyor. Şirket bu sistemi kendi içinde human concierge yani insan concierge olarak adlandırıyor.

Yapay zekâ arıyor sanıyorsunuz ama telefonda bir insan olabilir

Muse’un telefon özelliği kullanıcıların ABD’deki işletmeleri kendi adlarına aramasına imkân veriyor. Örneğin bir kuaförden randevu alınmasını, mağazada belirli bir ürünün bulunup bulunmadığının sorulmasını ya da bir hizmet için fiyat alınmasını isteyebiliyorsunuz.

Meta’nın test ettiği yeni yöntemde ise Muse bazı talepleri eğitimli insan görevlilere aktarabiliyor. Telefon görüşmesini bu görevli gerçekleştiriyor ve işlemi kullanıcı adına tamamlıyor.

Sistem Meta çalışanlarının yaklaşık yarısına test amacıyla açıldı. Teste katılmak istemeyen çalışanlara ise sistemden çıkma seçeneği sunuldu.

İnsanların başarı oranı çok daha yüksek

Meta’nın böyle bir sisteme ihtiyaç duymasının arkasında oldukça basit bir sorun bulunuyor. Yapay zekâ telefon görüşmelerinde her zaman başarılı olamıyor.

Özellikle karşı taraftaki kişinin bir yapay zekâ ile konuştuğunu fark edip telefonu kapatması ya da görüşmenin beklenmedik bir yöne ilerlemesi sorun yaratabiliyor.

Şirket içindeki testlerde gerçek insanların gerçekleştirdiği görüşmelerin başarı oranının yüzde 95 ile yüzde 98 seviyesine kadar çıktığı bildiriliyor. Tamamen yapay zekâ tarafından yapılan görüşmelerde ise başarı oranı belirgin şekilde daha düşük.

Bu açıdan bakıldığında Meta’nın yaptığı şey aslında oldukça pragmatik. Yapay zekânın çözemediği noktada görevi bir insana devrederek işlemin tamamlanmasını sağlamaya çalışıyor.

Ancak tam da burada başka bir sorun ortaya çıkıyor.

Gizlilik tartışması başladı

Bazı Meta çalışanları sistemin kullanıcı gizliliği açısından ciddi soru işaretleri oluşturabileceğini düşünüyor.

Bir kullanıcı Muse’a kişisel bilgiler içeren bir görev verdiğinde yalnızca bir yapay zekâ sistemiyle iletişim kurduğunu düşünebilir. Ancak görev gerçek bir çağrı merkezi çalışanına aktarılırsa bu bilgiler başka bir insan tarafından da görülebilir veya duyulabilir.

Meta sözcüsü Daniel Roberts, çalışanlardan gelen geri bildirimlerin büyük ölçüde olumlu olduğunu ve sistemin kamuya açılmadan önce güvenlik ile gizlilik önlemlerinin geliştirilmesi amacıyla test edildiğini söyledi. Şirket ayrıca özellik kullanıma sunulursa insan müdahalesinin uygun biçimde açıklanacağını belirtiyor.

Test sırasında tatsız bir olay da yaşandı

İnsanların devreye girmesi yalnızca gizlilik açısından değil, hizmet kalitesi açısından da başka riskleri beraberinde getiriyor.

TechSpot’un aktardığı bilgilere göre bir Meta çalışanı Muse’dan internet ve kablo hizmeti sağlayıcısını arayıp faturası konusunda pazarlık yapmasını istedi. Daha sonra görüşme kaydını inceleyen çalışan, görüşmeyi yapan insan görevlinin ırkçı bir ifadede bulunduğunu fark etti.

Meta olay nedeniyle çalışandan özür diledi ve ilgili görevlinin şirket projelerinde bir daha çalışmayacağını açıkladı. İnsan concierge sisteminin mevcut biçimiyle yapılan testleri de duraklattı.

Yapay zekâ ajanlarının görünmeyen insanları

Aslında teknoloji dünyasında yapay zekâ veya tam otomasyon olarak tanıtılan sistemlerin arkasında insanların bulunması yeni bir durum değil.

Geçmişte Amazon’un kasasız mağaza teknolojisinden çeşitli otomatik sipariş sistemlerine kadar birçok projede insanların sistemin hata yaptığı noktaları kontrol ettiği veya işlemleri tamamladığı ortaya çıkmıştı.

Meta’nın Muse deneyi de yapay zekâ ajanlarının bugün ulaştığı seviyeyi göstermesi açısından ilginç. Sistemler artık yalnızca sorulara cevap vermiyor. E-posta gönderebiliyor, rezervasyon yapabiliyor, alışveriş yapabiliyor ve gerçek dünyadaki insanlarla telefon görüşmesi gerçekleştirebiliyor.

Fakat tüm bunları güvenilir biçimde ve tamamen bağımsız olarak yapabilecek seviyeye henüz ulaşmış değiller.

Meta’nın çözümü şimdilik yapay zekâ ile insanı aynı sistemin içinde kullanmak gibi görünüyor. Teknik açıdan bunun mantıklı bir tarafı var. Kullanıcı açısından ise önemli olan şey kiminle iletişim kurduğunu açıkça bilmek.

Bir yapay zekâ asistanına görev verdiğinizde işin sonunda telefonda gerçek bir insanın sizi temsil edebileceğini biliyorsanız sistem farklı değerlendirilebilir. Bunu bilmiyorsanız mesele yalnızca yapay zekânın ne kadar başarılı olduğu olmaktan çıkıp doğrudan güven meselesine dönüşüyor.