Yapay zekâ dünyasında son yılların en çarpıcı açıklamalarından biri geldi.
Claude’un arkasındaki şirket olan Anthropic, yayımladığı yeni raporda insanlığın uzun süredir bilim kurgu filmlerinde gördüğü bir senaryoya dikkat çekti:
Yapay zekâ kendi kendisini geliştirmeye başlarsa ne olacak?
Daha da önemlisi…
Ya insanlar artık bu süreci kontrol edemez hale gelirse?
“Yapay Zekâ Kendi Kendini İnşa Edebilir”
Anthropic’in yayımladığı “When AI Builds Itself” raporuna göre yapay zekâ sistemleri artık sadece sorulara cevap veren araçlar olmaktan çıkıyor.
Yeni nesil modeller;
- Kod yazıyor,
- Yazdığı kodu test ediyor,
- Hata buluyor,
- Araştırma yapıyor,
- Yeni yapay zekâ modellerinin geliştirilmesine yardımcı oluyor.
Şirketin açıkladığı verilere göre bugün Anthropic’in üretim ortamına giren kodların %80’inden fazlası Claude tarafından üretiliyor. Bu oran birkaç yıl önce hayal bile edilemezdi.
Peki sıradaki adım ne?
Bir yapay zekânın kendi halefini tasarlaması…
Sonra onun daha iyisini…
Sonra onun daha iyisini…
Ve bu döngünün insanlardan daha hızlı ilerlemesi.
İşte Korkulan Senaryo: Recursive Self-Improvement
Araştırmacıların “Recursive Self-Improvement” adını verdiği bu kavram, bir yapay zekânın kendi kendisini geliştiren bir sistem haline dönüşmesini ifade ediyor.
Başka bir deyişle:
Bir gün yapay zekâya sadece şu komutu verebilirsiniz:
“Kendinin daha iyi bir versiyonunu oluştur.”
Ve sistem bunu tamamen kendi başına yapabilir.
İşte Anthropic’in asıl endişesi burada başlıyor.
Çünkü bu noktadan sonra gelişim hızı insan denetiminin önüne geçebilir.
“İnsanlar Kontrolü Kaybedebilir”
Raporda yer alan en dikkat çekici ifade şu:
“Tam anlamıyla özyinelemeli gelişim, insanların yapay zekâ sistemleri üzerindeki kontrolü kaybetme riskini artırabilir.” (Anthropic)
Bu cümle sıradan bir akademisyenden değil…
Dünyanın en gelişmiş yapay zekâ modellerinden birini geliştiren şirketten geliyor.
Üstelik Anthropic bunun sadece teorik bir tartışma olmadığını düşünüyor.
Şirket, bu gelişmenin birçok hükümetin ve kurumun hazır olduğundan daha erken gerçekleşebileceğini söylüyor. (The Straits Times)
Şok Çağrı: Gerekirse Dünyaca Duraklatalım
Anthropic’in önerisi daha da dikkat çekici.
Şirket, yapay zekâ sistemleri riskli bir seviyeye ulaşırsa dünyanın önde gelen laboratuvarlarının birlikte hareket ederek geliştirmeyi geçici olarak yavaşlatabilecek veya durdurabilecek bir mekanizma oluşturmasını istiyor. (Investing.com)
Yani ilk kez büyük bir yapay zekâ şirketi açık şekilde şunu söylüyor:
“Frene basmak zorunda kalabiliriz.”
Bu, nükleer silahların yayılmasını önlemek için kurulan uluslararası anlaşmalara benzer bir yaklaşım olarak değerlendiriliyor. (Wall Street Journal)
Peki Bu Gerçekten Kıyamet Senaryosu Mu?
Hayır.
Anthropic de henüz böyle bir noktaya ulaşılmadığını açıkça söylüyor.
Bugün elimizdeki GPT, Claude, Gemini veya Grok gibi sistemler kendi başlarına yeni nesil modeller üretmiyor.
Ancak uzmanlar önemli bir eğilime dikkat çekiyor:
Her yeni nesilde insan katkısı azalıyor.
Yapay zekâ;
- Daha fazla kod yazıyor,
- Daha fazla araştırma yapıyor,
- Daha fazla karar alıyor.
İnsan rolü ise giderek denetleyici konuma kayıyor. (The Straits Times)
Asıl Soru
Belki de önümüzdeki yılların en önemli sorusu şu olacak:
İnsanlık, kendisinden daha hızlı öğrenen bir zekâyı geliştirmeden önce gerekli güvenlik mekanizmalarını kurabilecek mi?
Yoksa bir gün gerçekten şu manşeti mi okuyacağız?
“İlk kez bir yapay zekâ, kendisinden daha güçlü bir yapay zekâyı tamamen kendi başına geliştirdi.”
İşte Anthropic’in korktuğu senaryo tam olarak bu.
Ve görünen o ki, bu ihtimal artık bilim kurgu yazarlarından çok yapay zekâyı geliştiren mühendislerin gündeminde.
Hiç yorum yok:
Yorum Gönder