Yapay zeka savaşları başladı! Lakin sandığınız üzere değil

0

BEĞENDİM

ABONE OL

News

0

Yapay zeka bölümünde dikkat çeken yeni bir gelişme yaşandı. Anthropic birtakım yapay zeka laboratuvarlarının Claude modelinin yeteneklerini sistematik biçimde kopyalamaya çalıştığını açıkladı.

Şirket DeepSeek, Moonshot AI ve MiniMax isimli üç laboratuvarın uydurma hesaplar üzerinden büyük ölçekli erişim sağlayarak modeli inceleyip kendi sistemlerini geliştirmek için kullandığını bildirdi.

Anthropic tarafından paylaşılan teknik rapora nazaran kelam konusu laboratuvarlar yaklaşık 24 bin geçersiz hesap oluşturdu. Bu hesaplar aracılığıyla Claude ile 16 milyondan fazla etkileşim gerçekleştirildi. Trafik olağan kullanıcı davranışlarından farklı bir yapı sergiledi ve belli yeteneklerin çıkarılmasına odaklandı.

Kullanılan usul distillation olarak isimlendiriliyor. Bu prosedür olağanda yapay zeka şirketlerinin kendi modellerini küçültmek için kullandığı bilinen bir eğitim tekniği. Güçlü bir modelin ürettiği cevaplar daha küçük bir modele öğretilerek daha ucuz ve hafif sistemler oluşturuluyor. Lakin burada süreç rakip bir modelden yetenek transferi emeliyle uygulandı.

Anthropic geçersiz hesapların proxy servisleri üzerinden yönetildiğini ve yüzlerce hesabın eş vakitli çalıştırıldığını belirtti. Tek bir ağda tıpkı anda 20 binden fazla hesabın faal tutulabildiği tespit edildi. Hesaplardan gelen isteklerin yapısı belli yetenekleri çıkarmaya yönelik tekrar eden ve planlı sorgulardan oluştu.

DeepSeek kampanyasında modelin akıl yürütme yetenekleri ve kıymetlendirme misyonları gaye alındı. Claude’dan adım adım düşünme süreçlerini yazması istendi ve bu karşılıklar eğitim verisi olarak kullanıldı.

Moonshot AI tarafında casus davranışı, araç kullanımı, kod yazma ve data tahlili alanlarına yönelik milyonlarca istek gönderildi. MiniMax kampanyasında ise bilhassa kodlama ve araç orkestrasyonu yeteneklerine odaklanıldığı kaydedildi.

Şirket, bu erişimlerin hizmet koşullarını ve bölgesel erişim kurallarını ihlal ettiğini açıkladı. Ticari erişimin bulunmadığı bölgelerde dolaylı ilişki sağlayan proxy altyapılar kullanıldı. Trafik dağıtılarak tespit edilmemesi için yük dengeleme usulleri uygulandı.

Raporda distillation yoluyla elde edilen modellerin güvenlik tedbirlerini taşımayabileceği bilgisi de yer aldı. Gelişmiş yapay zeka sistemlerinde yer alan berbata kullanım pürüzleri, kopyalanan sistemlerde bulunmayabiliyor. Bu durumun siber taarruzlar, ziyanlı yazılım geliştirme, yanlış bilgi üretimi ve nezaret sistemleri üzere alanlarda risk oluşturabileceği söz edildi.

Anthropic ayrıyeten bu faaliyetlerin giderek daha karmaşık hale geldiğini ve farklı şirketler, bulut sağlayıcıları ve düzenleyici kurumlar ortasında uyum gerektirdiğini belirtti.

Şirket API trafiğini tahlil eden davranış tespiti sistemleri geliştirdiğini, hesap doğrulama süreçlerini sıkılaştırdığını ve öteki yapay zeka firmalarıyla teknik bulguları paylaştığını açıkladı.

Gelişme yapay zeka alanındaki rekabetin sadece yeni model üretmekle hudutlu kalmadığını gösterdi. Buradaki süreç fizikî bir sistem ya da donanım yarışı değil, modellerin yeteneklerinin çıkarılması ve tekrar eğitilmesi üzerinden ilerleyen teknik bir rekabet alanı oluşturuyor.