Tencent'in yapay zekâ şefi uyardı - Modeller yakında biyolojide de zarar verebilecek

Çinli teknoloji devi Tencent'in baş yapay zekâ bilimcisi Yao Shunyu, yapay zekânın biyoloji alanında yaratabileceği risklere dikkat çekti. The Next Web'in South China Morning Post'a dayandırdığı habere göre Yao, cumartesi günü Hong Kong'da düzenlenen bir bilim etkinliğinde konuştu.

Yao, "Modellerin siber yetenekleri ve yakında biyoloji yetenekleri, gerçekten zarar vermenin mümkün olduğu bir eşiğe ulaşacak" dedi. Yao'ya göre biyolojideki riskleri yönetmek, siber güvenlikteki risklerden daha zor olabilir.

Açık modellere güvenlik çağrısı

Yao, herkesin indirip değiştirebildiği açık modeller yayınlayan Çinli şirketlerin güvenliği çok ciddiye alması gerektiğini söyledi. Anthropic gibi ABD'li şirketlerin en güçlü modelleri kapalı tutmak için güçlü bir gerekçe sunduğunu kabul eden Yao, yine de açık modellerin savunma tarafına da yardım edebileceğini, bu yüzden açık ve kapalı modellerin bir arada bulunduğu bir yapının en iyi sonucu verebileceğini savundu.

29 yaşındaki Yao, OpenAI'da bir yıl çalıştıktan sonra geçen yıl Tencent'e katılmıştı.

Hy4 hacking verisi olmadan eğitildi

Yao'nun uyarısı, Tencent'in 4 Kasım'da yeni amiral gemisi modeli Hy4'ü tanıtmasından günler sonra geldi. Şirket, Hy4'ün eğitim verisinden yazılım açıklarını istismar etmeye yönelik içeriği çıkardığını, modelin bunun yerine savunma odaklı güvenlik verileriyle eğitildiğini açıklamıştı.

Tencent, iç uzman değerlendirmelerine dayanarak Hy4'ün biyoloji konusunda güçlü bir temel bilgiye sahip olduğunu, ancak deney tasarlamada önde gelen modellerin gerisinde kaldığını da belirtti. Reuters'ın aktardığına göre şirket, Hy4'ün ağırlıklarını ve güvenlik testlerine ilişkin raporunu önümüzdeki günlerde yayınlayacak. Karşılaştırma şirketi Artificial Analysis'e göre Hy4, şu anda en iyi ikinci Çin modeli konumunda.