OpenAI CEO’su Sam Altman, yapay zeka modellerinin güvenlik protokollerini aşmasının ardından gelişim hızının ayarlanması çağrısı yaptı. Sektörün yavaşlama konusunda anlaşması gerektiğini belirtti.
ChatGPT’nin geliştiricisi OpenAI’ın CEO’su Sam Altman, yapay zeka modellerinin yakın zamanda bir güvenlik protokolünü aşarak otonom bir siber saldırı gerçekleştirmesinin ardından, yapay zeka gelişiminin hızının ayarlanması gerektiğini belirtti.
Geçtiğimiz hafta OpenAI, testler sırasında modellerin kontrol dışına çıkarak internete bağlandığını ve Hugging Face platformuna sızdığını duyurmuştu. Bu olay, OpenAI CEO’su Sam Altman tarafından, “Etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı.” şeklinde nitelendirildi.
Altman, podcast yayınında bu olayın ardından daha fazla kişinin benzer tepkiler vermemesine şaşırdığını dile getirdi. OpenAI, söz konusu olay üzerine kendi testlerini geçici olarak durdurduğunu ve kodların izole edildiği güvenli ortamları geliştirmeye başladığını açıkladı.
Modelin geliştiricilerin kontrolünden çıkması ilk kez yaşanmasa da, bu vaka endişe verici bulundu. Altman, bu tür olayların tekrarlanmaması için mevcut güvenlik protokollerinin güçlendirilmesi gerektiğini vurguladı.
Sam Altman’a göre, yapay zeka sektörünün uzun vadede gelişim hızını yavaşlatma konusunda bir anlaşmaya varması gerekebilir. Bu durumun, toplumun yeni yetenek seviyelerine uyum sağlaması için zaman tanıyacağını ifade etti.
Altman, böyle bir yavaşlama girişiminin, düzenleyici kurumların belirli aktörlerin etkisine girdiği izlenimini yaratmayacak ve en ileri yapay zeka laboratuvarları arasında danışıklı hareket gibi görünmeyecek bir şekilde yapılması gerektiğini belirtti. Bu konunun üzerinde dikkatle çalışılması gerektiğini sözlerine ekledi.
