Anthropic interneti korumak için Mythos'un yayınlanmasını mı sınırlıyor - yoksa Anthropic mi?

Anthropic bu hafta Mythos adlı en yeni modelinin piyasaya sürülmesini sınırladığını çünkü bu modelin dünya genelindeki kullanıcıların güvendiği yazılımlarda güvenlik açıklarını bulma konusunda fazla yetenekli olduğunu söyledi.

Sınır laboratuvarı, Mythos'u halka açmak yerine, onu Amazon Web Hizmetleri'nden JPMorgan Chase'e kadar kritik çevrimiçi altyapıyı işleten bir grup büyük şirket ve kuruluşlaacak.

OpenAI'in bir sonraki siber güvenlik aracı için benzer bir plan düşündüğü bildiriliyor. Görünürdeki fikir, bu büyük işletmelerin, güvenli yazılıma sızmak için gelişmiş LLM'lerden yararlanabilecek kötü aktörlerin önüne geçmesine izin vermektir.

Ancak yukarıdaki cümledeki "e-kelimesi", bu sürüm stratejisinde siber güvenlikten veya model yeteneklerinin abartılmasından daha fazlasının olabileceğine dair bir ipucudur.

AI siber güvenlik laboratuvarı Irregular'ın CEO üyesi Dan Lahav, Mythos'un yayınlanmasından önce Mart ayında TechCrunch'ye, AI araçlarıyla güvenlik açıklarının keşfedilmesinin önemli olduğunu, ancak herhangi bir zayıflığın bir saldırgan için özel değerinin, bunların bir arada nasıl kullanılabileceği de dahil olmak üzere birçok faktöre bağlı olduğunu söyledi.

Lahav, "Her zaman aklımda olan soru şu: Bireysel olarak mı yoksa bir zincirin parçası olarak mı çok anlamlı bir şekilde sömürülebilecek bir şey buldular?"

Anthropic, Mythos'un güvenlik açıklarından önceki modeli Opus'tan çok daha fazla yararlanabildiğini söylüyor. Ancak Mythos'un aslında siber güvenlik modellerinin tamamı ve sonu olduğu açık değil. AI siber güvenlik girişimi olan Aisle, Mythos'un daha küçük, açık ağırlıklı modeller kullanarak Anthropic'in başardığını söylediği şeylerin çoğunuyabildiğini söyledi. Aisle'ın ekibi, bu sonuçların siber güvenlik için tek bir derin öğrenme modelinin olmadığını, bunun yerine eldeki göreve bağlı olduğunu gösterdiğini savunuyor.

Opus'un siber güvenlik alanında ezber bozan bir unsur olarak görüldüğü göz önüne alındığında, öncü laboratuvarların sürümlerini büyük kuruluşlarla sınırlamak istemelerinin başka bir nedeni daha var: Büyük kurumsal sözleşmeler için bir volan yaratırken, rakiplerin, yeni LLM'leri ucuza eğitmek için öncü modellerden yararlanan bir teknik olan damıtma kullanarak kendi modellerinimasını zorlaştırıyor.

Bir yazılım mühendisi ve startup exe.dev'in CEO üyesi olan David Crawshaw, bir sosyal medya gönderisinde "Bu, üst düzey modellerin artık kurumsal anlaşmalara tabi olduğu ve artık küçük laboratuvarların incelemesine açık olmadığı gerçeğinin pazarlama kılıfıdır" dedi. "Sen ve ben Mythos'u kullanabileceğimiz zaman, yalnızca kurumsal olan yeni bir üst düzey devrim olacak. Bu koşu bandı, damıtma şirketlerini ikinci sıraya düşürerek kurumsal dolar akışının (doların çoğu) devam etmesine yardımcı oluyor" dedi Crawshaw.

Bu analiz, AI ekosisteminde gördüklerimizle örtüşüyor: En büyük, en yetenekli modelleri geliştiren öncü laboratuvarlar ile birden fazla modele güvenen ve çoğu zaman Çin'den gelen ve çoğu zaman damıtma yoluyla geliştirildiği iddia edilen açık kaynaklı LLM'leri ekonomik avantaja giden bir yol olarak gören Aisle gibi şirketler arasındaki bir yarış.

Sınır laboratuvarları bu yıl damıtma konusunda daha sert bir tutum benimsiyor; Anthropic, Çinli firmaların modellerinimaya yönelik girişimler olduğunu söylediği şeyi kamuoyuna açıklıyor ve bir Bloomberg raporuna göre önde gelen üç laboratuvar (Anthropic, Google ve OpenAI) damıtma cihazlarını tespit etmek ve onları engellemek için bir araya geliyor. Damıtma, sınır laboratuvarlarının iş modeli için bir tehdittir çünkü ölçeklendirmek için büyük miktarda sermaye kullanılmasının getirdiği avantajları ortadan kaldırır. O halde damıtmanın engellenmesi zaten değerli bir çabadır, ancak bunu yaparken seçici sürüm yaklaşımı aynı zamanda laboratuvarlara kurumsal tekliflerini farklılaştırmanın bir yolunu da verir, çünkü kategori karlı dağıtımın anahtarı haline gelir.

Mythos'un veya herhangi bir yeni modelin internetin güvenliğini gerçekten tehdit edip etmediği henüz bilinmiyor ve teknolojinin dikkatli bir şekilde kullanıma sunulması ileriye yönelik sorumlu bir yoldur.

Anthropic, kararın aynı zamanda damıtma endişeleriyle de ilgili olup olmadığı hakkındaki sorularımıza haber yayınlandığı sırada yanıt vermedi, ancak şirket interneti ve onun sonuçlarını korumak için akıllıca bir yaklaşım bulmuş olabilir.