Uyku takip bantları, kullanıcıların beyin dalgalarını açık izin almadan yapay zekâ eğitiminde kullanıyor

Uykunuzu takip eden kafa bandı, beyin dalgalarınızı başka bir iş için de kullanıyor olabilir. Tom's Hardware'in aktardığına göre Science dergisinin Pulitzer Center'ın Yapay Zekâ Hesap Verebilirlik Ağı ile yürüttüğü araştırma, tüketicilere yönelik nöroteknoloji şirketlerinin on milyonlarca saatlik elektroensefalografi (EEG) yani beyin dalgası kaydı biriktirdiğini ortaya koydu. Araştırmaya göre bu şirketlerin birçoğu, kayıtları "beyin temel modelleri" adı verilen yapay zekâ modellerini geliştirmek için kullanıyor, ancak başlangıçta bunu gizlilik politikalarında açıkça belirtmedi.

Muse bandının üreticisi kabul etti

Bu şirketlerden biri, Muse uyku ve meditasyon bandını üreten Kanadalı Interaxon. Şirketin cihazları kullanıcılar uyurken beyindeki elektriksel etkinliği ve diğer fizyolojik ölçümleri izliyor, kayıtlar da uyku düzenini takip etmeye yarayan raporlara dönüşüyor. Interaxon, yaklaşık 50 bin saatlik EEG kaydıyla bir yapay zekâ modeli eğitti ve verileri kullanmadan önce ad, e-posta ve adres gibi kimlik bilgilerini çıkardığını söylüyor. Şirketin pazarlama direktörü Nadia Kumentas, "Uygun veri havuzunun mümkün olduğunca fazlasını kullanmayı hedefliyoruz" dedi.

Ancak bu durum müşterilere pek açık anlatılmamıştı. Science ile görüşmeden önce Interaxon'un gizlilik politikası, beyin kayıtlarının temel modelleri eğitmek için kullanılabileceğini açıkça belirtmiyordu. Şirket politikasını güncelledi ve Kumentas, "Kullanıcıların açıkça bilgilendirilmesi gerektiği konusunda hemfikiriz" dedi. Kayıtları çoktan kullanılmış olan müşteriler için bu açıklama geç geldi ve Tom's Hardware'e göre şirketi olası davalara açık hale getiriyor.

Bir başka giyilebilir EEG üreticisi Emotiv de "Large Brain" adlı modelini kısmen üst seviye cihazlarını kullanan müşterilerin kayıtlarıyla eğitiyor. Emotiv de Science'ın sorularının ardından gizlilik politikasını güncelleyerek, kimliksizleştirilmiş nöral verilerin model eğitiminde kullanılmasını kullanıcı onayına bağladı.

Şirket satılırsa veriler de gidiyor

Araştırmaya göre incelenen şirketlerin üçte ikisinden fazlası, şirket devri durumunda verilerin kullanıcı onayı olmadan aktarılmasına açıkça izin veriyor. Bu, küçük bir nöroteknoloji şirketi satın alındığında biriken beyin kayıtlarının yeni sahibine geçebileceği anlamına geliyor. ABD'de Colorado ve Kaliforniya tüketici gizliliği yasalarını nöral verileri de kapsayacak şekilde değiştirdi, ancak diğer eyaletler geride kalıyor.

Bu modeller, büyük dil modellerinden farklı olarak metin yerine beyindeki elektriksel etkinlik kayıtlarıyla eğitiliyor ve farklı beyin durumlarını tanımayı öğreniyor. Yapay zekâ girişimi Piramidal, Cleveland Clinic ile birlikte 4 milyon saati aşan EEG verisiyle eğittiği modelle, bir pilot çalışmada nöbetlerin 10'da 9'unu doğru tespit eden bir sistem geliştirdi. Yine de bu, tüketici bantlarının düşünceleri okuyabileceği anlamına gelmiyor. Giyilebilir EEG cihazlarının çoğu yalnızca bir ila altı elektrot kullanırken, klinik EEG sistemlerinde bu sayı genellikle 19 ila 25 arasında.