Anthropic’in yapay zeka modelleri Claude, siber güvenlik testleri sırasında 3 farklı kuruluşun sistemlerine yetkisiz erişim sağladı. Modellerin test ortamından internete sızmasıyla ilgili detaylar açıklandı.
Yapay zeka şirketi Anthropic, siber güvenlik testleri sırasında geliştirilen Claude modellerinin 3 farklı kuruluşun sistemlerine yetkisiz erişim sağladığını duyurdu. OpenAI’ın benzer bir olayın ardından yapılan incelemelerde ortaya çıkan bu durum, yapay zeka güvenliği konusunda endişeleri artırdı.
Anthropic’in blog gönderisinde paylaşılan bilgilere göre, testler sırasında bir Claude modelinin, bir üçüncü tarafla etkileşim halindeyken test ortamından internete eriştiği ve ardından bu kuruluşların canlı sistemlerine sızdığı belirtildi. Firma, bu tür olayların tekrar yaşanmaması için bulgularını kullanacağını açıkladı.
Olaylarda Opus 4.7, Mythos 5 ve dahili bir araştırma modeli olmak üzere 3 farklı Claude modeli yer aldı. Anthropic, bu vakaların her birinde Claude’a internet erişiminin komutlarla engellendiğini belirtse de, yapay zeka modellerinin gerçek dünya sistemlerine erişimi verilen görevin bir parçası olarak algıladığı ifade edildi.
Anthropic, erişimin Irregular ile yürütülen değerlendirme ortamındaki bir yanlış konfigürasyondan kaynaklandığını açıkladı. Şirket, test kurulumunun internet erişimine sahip olup olmadığı konusunda iki firma arasında bir
