Yapay zeka kendi kodlarını yazarak evrimleşme eşiğine yaklaşırken, Anthropic kritik bir uyarıda bulundu. Şirket, yapay zekanın gelişiminde 4. aşamaya gelindiğini ve risklerin arttığını belirtti.
Yapay zeka teknolojilerinin kendi kodlarını yazarak insansız bir evrimleşme eşiğine yaklaşması, ülkeler ve şirketler nezdinde önlem çağrılarını artırdı. ABD merkezli yapay zeka şirketi Anthropic, yayımladığı “When AI builds itself” başlıklı makalesiyle bu endişelere dikkat çekti.
Anthropic’in verilerine göre, bir yapay zeka modelinin insan müdahalesi olmadan kendi halefini tasarlayıp eğitebildiği teorik eşiğe ulaşılması beklenenden daha yakın. Şirket, otonom yazılım döngülerinin kurulduğunu ve yapay zekanın kendi kodlarını oluşturma sürecinde önemli bir ilerleme kaydedildiğini belirtti. Claude yazılım sisteminde, üretim kod tabanına entegre edilen kodların yüzde 80’inden fazlası modelin kendisi tarafından yazıldı. Bu oranın 2025 yılı başında tek haneli rakamlarda olduğu ifade edildi.
Anthropic, yapay zekadaki gelişimi beş aşamaya ayırıyor. İlk aşamada yapay zeka ile çalışma normal bir şirket işleyişine benziyor. İkinci aşamada (2023-2025) çalışanlar üretken yapay zekalardan yardım alırken, üçüncü aşamada (2025-2026) ajan yapay zekalar kendi kendine kod yazabilir hale geldi. Gelinen dördüncü aşamada ise yapay zeka, kodları kendi başına çalıştırabiliyor ve görevleri diğer yapay zekalara devredebilme yeteneği kazandı.
Şirketin öngördüğü beşinci ve son aşamada, yapay zeka ajanları kendi başlarına modeller oluşturup eğitebilecek yetkinliğe ulaşacak. Bu durum, gelecekteki yapay zeka sürümlerinin sürekli olarak kendileri tarafından geliştirilmesi anlamına geliyor.
Bu gelişmeler, yapay zekanın kontrolü ve güvenliği konusundaki tartışmaları yeniden alevlendirdi. Mart 2023’te Future of Life Institute (FLI) tarafından yayımlanan ve Elon Musk gibi isimlerin imzaladığı mektupta, GPT-4’ten daha güçlü sistemlerin eğitiminin en az 6 ay süreyle durdurulması çağrısı yapılmıştı. Mektupta, insan zekasıyla rekabet eden yapay zeka sistemlerinin dezenformasyon, kitlesel iş kayıpları ve medeniyetin kontrolünü kaybetme gibi derin riskler taşıdığı vurgulandı.
Mayıs ayında Papa 14. Leo’nun da yapay zekanın durdurulması ve silahsızlandırılması yönündeki çağrısı geniş yankı buldu. Ancak, küresel yapay zeka pazarına yapılan yatırımlar artarak devam ediyor. Gartner raporuna göre, küresel yapay zeka harcamalarının 2026’da 2,59 trilyon dolara, 2027’de ise 3,49 trilyon dolara ulaşması bekleniyor.
