Anthropic: Akıllı TV’lerde yapay zekâ solucanı testi yapıldı

Anthropic’in saldırı amaçlı araştırma ekibi, kurum içi testlerde geliştirilen bir “solucan” senaryosunu raporladı. Araştırmacılar, programın kendisini parçalara ayırıp 15 televizyona dağıtarak her birinden az miktarda işlem gücü kullanıp çalışmayı sürdürdüğünü belirtti.

Anthropic araştırmacılarına göre aynı yaklaşım, diğer sıradan cihazlarda da benzer şekilde yayılabilir. Ekip, kendi solucanlarına benzer bir solucanın aynı şekilde çalışabileceğini ve durdurulmasının daha zor olabileceğini öngördü.

Solucanlar nasıl yayılıyor

Metinde, kendini kopyalayarak yayılan ve yayılmak için insanı kandırması gerekmeyen bilgisayar virüslerinin “solucan” olarak adlandırıldığı anlatıldı. Bu tür saldırıların, cihaz sahiplerinin yamalamadığı bilinen güvenlik açıklarına dayanabildiği ve bazen yamalar yayımlandıktan aylar sonra bile güncelleme yapılmadığı belirtildi.

Örnek olarak 1988’deki Morris solucanının yazılım açıkları ve zayıf parolalardan yararlanarak kendini çok hızlı kopyaladığı ve birçok bulaşmış makineyi durma noktasına getirecek kadar yavaşlattığı aktarıldı. ABD ve İsrail’in 2000’lerin sonlarında Stuxnet ile solucanları uluslararası casuslukta kullandığı, Stuxnet’in İran’ın nükleer santrifüjlerini sabote ettiği de metinde yer aldı.

Kırmızı ekibin testinde program, kendisini 15 televizyona bölerek her birinden az işlem gücüyle çalıştı.

Yama sıklığı ve uyum yeteneği

Anthropic ekibi, akıllı cihazların telefonlar veya dizüstü bilgisayarlara kıyasla daha seyrek yama aldığı için durdurmanın zorlaşabileceğini söyledi. Ekip ayrıca, bir yapay zekâ solucanının yeni açıklanan güvenlik açıklarını araştırarak farklı donanım türlerine uyum sağlamayı sürdürebileceğini öne sürdü.

Araştırmacılar, başarılı bir yapay zekâ solucanının şu anda mümkün olandan daha düşük güçlü cihazlarda daha fazla yetenek gerektireceğini, mevcut eğilimlerin bunu yıl sonuna kadar mümkün kılacağını ekledi. Metinde, Toronto Üniversitesi’nden uzmanların birkaç ay önce yayımladığı bir makalede tam boy bir bilgisayarın enfekte edildiği ve bunun benzer makinelere televizyon solucanından daha hızlı yayılabildiği belirtildi.

Uzmanlar aynı fikirde değil

Ariel Herbert-Voss, yapay zekâ modellerinin süreç içinde öğrenebilmesinin yapay zekâ solucanlarını tipik çoğalan virüslerden ayırdığını söyledi. Herbert-Voss, mevcut siber güvenlik altyapısının bu tür tehditlerin çoğalmasına hazır olmadığını ve güvenlik ekiplerine sorunları düzeltmek için daha fazla kaynak verilmesi gerektiğini dile getirdi.

Joshua Saxe, bunun diğer siber saldırı dalgaları gibi ele alınması ve olası etkilerinin azaltılması gerektiğini, siber güvenlik topluluğunun bu tür gerçek riskleri yeterince ciddiye almadığından endişe duyduğunu söyledi. Jonas Guan, yeteneklerin çok hızlı geliştiğini söylerken, kendisi ve diğer uzmanlar pratikte bir yapay zekâ solucanının yapay zekâ korkuları listesinde üst sıralarda olmaması gerektiğini belirtti.