Claude modellerinin geliştiricisi Anthropic, 12 Ekim'de yayımladığı raporda, yapay zeka modellerini izinsiz biçimde kopyalamaya yönelik "damıtma" (distillation) saldırılarına karşı aldığı önlemleri ve sonuçlarını paylaştı.
Damıtma saldırısı nedir?
Damıtma, güçlü bir yapay zeka modeline çok sayıda soru sorup cevaplarını toplayarak bu cevaplarla başka bir modeli eğitme yöntemi. Anthropic'e göre bu yöntem izinsiz ve büyük ölçekte kullanıldığında, şirketlerin öncü modellerin yeteneklerini geliştirme süresinin ve maliyetinin çok küçük bir kısmıyla taklit etmesine imkan tanıyor; üstelik kopyalanan modellerde aynı güvenlik önlemleri bulunmuyor.
Alınan önlemler
Şirket üç ana önlem aldığını açıkladı: modelin düşünme sürecine erişimin sınırlandırılması, kopyalama girişimlerini yakalayan iki aşamalı bir sınıflandırma sistemi ve bu tür girişimlerde bulunan hesaplara daha sıkı kullanım limitleri. Anthropic, sınıflandırıcının hatalı alarm oranının yüzde 0,1'in altında olduğunu belirtiyor.
Açıklamaya göre önlemler sonrasında damıtma yoluyla elde edilen verinin yüzde 90 ile 99 arasında azaldığı tahmin ediliyor. Şirket, damıtmayla bağlantılı on binlerce hesabı çoğu zaman tespitten sonraki iki saat içinde kapattığını da duyurdu.
Çinli şirketlerin adı geçti
Anthropic raporunda Çinli yapay zeka şirketi Zhipu'nun GLM-5.3 modelini geliştirirken Claude'un siber güvenlik yeteneklerini damıttığını, Moonshot'ın Kimi modellerinin de bu tür kampanyalarda kullanıldığını öne sürdü. Söz konusu şirketlerin iddialara ilişkin bir açıklaması haberin yazıldığı sırada bulunmuyordu.
Kaynak: Anthropic