Yapay zeka şirketi Anthropic, Claude modellerinden bazılarının siber güvenlik testleri sırasında açık internete istemeden erişerek üç farklı şirketin sistemlerine sızdığını açıkladı.

Bu durum, Anthropic ve OpenAI'nin planlanan halka arzlarından önce daha yetenekli sistemler piyasaya sürmek için yarıştığı bir dönemde, ABD hükümetinin yapay zeka güvenlik risklerini daha iyi yönetme yönündeki çabalarına ivme kazandırabilir. Yaşananlar, gelişmiş yapay zeka modellerinin giderek artan siber yeteneklerini ve bu sistemlerin kontrol altında tutulmasının zorluklarını gözler önüne serdi.

Yapay zeka şirketi Anthropic, Claude modellerinden bazılarının siber güvenlik testleri sırasında açık internete istemeden erişerek üç farklı şirketin sistemlerine sızdığını açıkladı. OpenAI'nin yapay zeka ajanının neden olduğu siber saldırının ardından yaşanan bu yeni olay, gelişmiş yapay zeka modellerinin güvenliği konusundaki endişeleri yeniden gündeme getirdi.

Anthropic, olayın bir güvenlik açığından değil, test ortamındaki operasyonel bir hatadan kaynaklandığını belirtdi. Şirket, 141 bin 6 test oturumunu inceledikten sonra bu olayları tespit ettiğini duyurdu. Bu araştırma, OpenAI'nin geçen hafta yapay zeka modelleriyle çalışan otonom bir ajanın Hugging Face adlı girişimin altyapısını tehlikeye atan bir saldırıya neden olduğunu açıklamasının ardından yapıldı.

Siber testler sırasında Anthropic'in Claude modellerine internet erişimlerinin olmadığı söylenmişti, ancak Anthropic'in değerlendirme ortaklarından birini içeren bir yanlış anlama, sistemlerin halka açık ağa bağlı kalmasına neden oldu. Anthropic, kuruluşların isimlerini vermeden, bunun üç kuruluşun sistemlerine yetkisiz erişime olanak sağladığını belirtti.

Anthropic'in açıklamasında, Claude'un zayıf şifreleri ve kimlik doğrulaması yapılmamış uç noktaları istismar etmek gibi temel teknikler kullanarak etkilenen kuruluşların altyapısını tehlikeye attığı belirtildi.

Şirket, olayları operasyonel bir başarısızlık olarak nitelendirdi. Üç ayrı modeli kapsayan olaylar Claude Opus 4.7, Claude Mythos 5 ve dahili bir araştırma test modelini içeriyor. En eski vakalar Nisan ayına dayanıyor. Olaylar, Anthropic'in yapay zekasının neler yapabileceğini değerlendirebilmesi için kasıtlı olarak güvenlik önlemlerinden yoksun bırakılan değerlendirme ortamlarında meydana geldi.

Bu durum, Anthropic ve OpenAI'nin planlanan halka arzlarından önce daha yetenekli sistemler piyasaya sürmek için yarıştığı bir dönemde, ABD hükümetinin yapay zeka güvenlik risklerini daha iyi yönetme yönündeki çabalarına ivme kazandırabilir. Yaşananlar, gelişmiş yapay zeka modellerinin giderek artan siber yeteneklerini ve bu sistemlerin kontrol altında tutulmasının zorluklarını gözler önüne serdi.