Anthropic CEO’su Dario Amodei, yapay zeka modellerinin geliştirme hızının yavaşlatılması gerektiğini savundu, ‘bot sürüsü’ senaryosuna dikkat çekti.
Anthropic CEO’su Dario Amodei, yapay zeka teknolojilerinin hızla gelişmesiyle artan güvenlik endişelerine dikkat çekerek, modellerin geliştirme hızının düşürülmesi çağrısında bulundu. Amodei, kendi yazdığı makalede ve sosyal medya hesabından yaptığı açıklamada, önümüzdeki 6 ila 12 ay içinde bir “bot sürüsünün” interneti ele geçirebileceği ve yüz milyarlarca dolarlık zarara yol açabileceği senaryosunu gündeme getirdi. Bu uyarılar, Anthropic’in perşembe günü yayınladığı, Claude yapay zeka modellerinin kötüye kullanım risklerini detaylandıran raporunun ardından geldi.
Amodei, teknolojik ilerlemenin hızını düşürerek kazanılacak zamanın, yapay zeka kaynaklı risklerin önüne geçilmesi için kullanılması gerektiğini savundu. Bu yaklaşımın, güvenlik protokollerinin güçlendirilmesi ve potansiyel tehditlere karşı hazırlık yapılması açısından kritik olduğunu belirtti.
Anthropic’in yayımladığı rapor, Claude yapay zeka modellerinin çeşitli aktörler tarafından silah geliştirme, siber operasyonlar, gözetim ve dolandırıcılık gibi faaliyetlerde nasıl kullanılabileceğine dair ayrıntılı bilgiler içeriyor. Rapor, yapay zeka güvenliği konusundaki mevcut endişelerin somut verilerle desteklendiğini ortaya koydu.
Dario Amodei, sosyal medya paylaşımında dile getirdiği “bot sürüsü” senaryosunun potansiyel yıkıcı etkilerini vurguladı. “Önümüzdeki 12 ay içinde bir bot sürüsünün kalıcı ağ kurarak tüm interneti ele geçirebileceğini düşünüyorum. Bu yaşanırsa yüzlerce milyar dolar zarar yaşanabilir” ifadelerini kullandı. Bu senaryo, yapay zeka sistemlerinin kontrol dışı büyümesinin yol açabileceği ekonomik ve yapısal tehditlere işaret ediyor.
Tesla ve SpaceX CEO’su Elon Musk da Amodei’nin bu paylaşımını alıntılayarak destek verdi. Musk’ın bu konudaki duruşu, yapay zeka teknolojilerinin potansiyel riskleri hakkında küresel çapta artan endişeleri bir kez daha gözler önüne serdi.
