DetectifAI, deepfake ses dolandırıcılığına karşı telefona gömülü tespit geliştiriyor

Tarini Padmanabhuni’nin büyükbabası, kardeşi sandığı biriyle telefonda konuştu. Telefondaki ses, kardeşinin kaçırıldığını ve geri getirilmesi için fidye ödenmesi gerektiğini söyledi.

Padmanabhuni’nin büyükbabası fidyeyi ödedi. Daha sonra kardeşinin aslında başka bir yerde olduğunu ve olaydan haberi olmadığını öğrendi. Padmanabhuni’ye göre olay yaklaşık iki yıl önce yaşandı ve telefondaki sesin yapay zekâ ile üretilmiş bir taklit olduğu ortaya çıktı.

Bulut yerine cihazda tespit

Padmanabhuni, kurucusu olduğu DetectifAI’nin benzer dolandırıcılıkları önlemeyi hedeflediğini söyledi. Şirket, bazı şirketlerin yaptığı gibi büyük bulut modellerini telefona sığdırmaya çalışmak yerine, en baştan akıllı telefonun işletim sistemi içinde çalışabilecek kadar küçük yapay zekâ modelleri tasarladığını açıkladı.

DetectifAI, arama sırasında, sesli mesajlarda ve diğer ses içeriklerinde bir sesin yapay zekâ üretimi olup olmadığına, cihazdan çıkmadan anlık olarak karar vermeyi hedeflediğini belirtti. Padmanabhuni, mevcut tespit ürünlerinin bulutta, uzak sunucularda çalıştığını ve bu nedenle telefon üreticilerinin bunları doğrudan cihazlara entegre edemediğini söyledi.

DetectifAI, deepfake ses tespitini bulut yerine telefonun işletim sistemi içinde çalıştırmayı hedeflediğini açıkladı.

Lisanslama, rakipler ve mevcut kullanım

Padmanabhuni’ye göre deepfake ses tespitinde Reality Defender, Pindrop, Resemble AI, Microsoft Azure AI Content Safety ve Nuance gibi rakipler bulunuyor. DetectifAI, ilk satışlarını telefon üreticilerine yaptığını ve tespitin telefonun işletim sistemine yerleşik bir özellik olarak sunulabilmesi için yazılım araçlarını lisansladığını açıkladı.

Padmanabhuni’ye göre ürünün çekirdeğini DetectifAI’nin yazılım geliştirme kiti (SDK) oluşturuyor ve bu paket mevcut kanallar üzerinden lisanslanabiliyor. Padmanabhuni, girişimin halihazırda erken dönem gelire sahip olduğunu ve Hindistan’daki finans kuruluşları için ayda 100.000’den fazla çağrıyı yönettiklerini, her çağrıda deepfake tespiti ve konuşmacı doğrulama yaptıklarını söyledi.