Anthropic, yapay zekâ gelişiminin acil durdurulması için bir yöntem sundu

Anthropic, yapay zekanın gelişimini “kendi kendini sınırlama” ile kısıtlamayı çağırıyor

Yapay zeka etiği konusundaki çabalarıyla tanınan Anthropic şirketi, yılın başında Pentagon ile yaşadığı çatışmadan sonra tekrar gündeme geldi. Bu hafta, girişim, teknolojilerin insan kontrolünü kaybetme tehdidi oluşturması durumunda gelişimini sınırlama isteğini sektör temsilcilerine sundu.

Başvuru İddiasının Önemli Noktaları

* Yapay zekanın tamamen özyinelemeli kendini geliştirmesi, sistemlerin insan müdahalesi olmadan kendi “mirasçılarını” yaratmasına yol açabilir.

* Böyle bir durumda, bu sistemlerin davranışlarının izlenmesi ve sınırlanması kritik önem taşır.

> “Eğer sistemler kendi mirasçılarını bağımsız olarak oluşturma yeteneğine sahip olursa, kontrol etme, izleme ve davranışlarını sınırlama becerimiz büyük önem kazanır,” diyor Anthropic’in açıklaması.

Neden Önemli?

Geçen ay şirketin kullandığı yeni kodun %80’inden fazlası kendi Claude ajansı tarafından oluşturuldu. Bu, Anthropic’in ne hakkında konuştuğunu kanıtlıyor: eğer yapay zeka kendisi için yeni sürümler yaratırsa, kontrolü daha da zorlaşır.

Girişim temsilcileri, tüm dünyaya ileri model geliştirmesini yavaşlatma veya durdurma yeteneğine sahip olmanın toplumun uyum sağlaması ve değişiklikleri analiz etmesi için zaman tanıyacağını düşünüyor. Bununla birlikte, piyasanın tüm paydaşlarının koordinasyonu kritik: koordine edilmemiş önlemler, kötü niyetli oyuncuların kamu güvenliğine zarar vermesine yol açabilir.

Şirketin Planları

* Yaklaşan aylarda Anthropic, yapay zekanın tehlikeli eğilimlerini izlemek için araçlar geliştirmeyi planlıyor.

* Aynı anda, düzenleyici mekanizmaların tartışılması ve “kendi kendini sınırlama” rejimini uygulayabilecek bir denetim organının oluşturulması konusunda kamuoyu çalışmaları yürütülecek.

Şirketin vurguladığı gibi, tek bir kuruluşun durumu tek başına değiştiremez. Yapay zeka teknolojilerinin güvenli gelişimini sağlamak için tüm önde gelen geliştiricilerin ortak çalışması gereklidir.