Anthropic'taki AI siber güvenlik birimi başkanı şirketten ayrıldı ve “dünya tehlike altında” olduğunu kabul etti

Mrinank Sharma Anthropic'tan ayrılıyor: meslektaşlara mektup ve geleceğe dair planlar

Anthropic şirketinde yapay zeka güvenliği araştırma bölümünün eski müdürü Mrinank Sharma (Mrinank Sharma), bu haftanın başında çevrimiçi olarak veda mesajını yayınladı. Mesajında ayrılma nedenlerini açıklıyor, mevcut riskler üzerine düşüncelerini paylaşıyor ve bundan sonra ne yapacağını anlatıyor.

Mektupta söylenenler
* Başarılar – Sharma, “burada istediğim her şeyi başardım” diye belirtiyor. Bahsedilen projeler arasında biyoterörizme karşı koruyucu mekanizmaların yapay zeka ile geliştirilmesi ve sinir ağlarının topluma etkisi üzerine araştırmalar bulunuyor.

* Ayrılma nedeni – Yazar, ilerlemek için zamanın geldiğine karar verdi. Sürekli “yapay zekanın getirebileceği tehlike, biyolojik silahlar ve şu anda gelişen birbirine bağlı kriz zinciri” üzerine düşünüyor. Ona göre, aklın dünyayı etkileme yeteneğimizle orantılı olarak artması gereken bir eşiğe yaklaşıyoruz; aksi takdirde öngörülemeyen sonuçlarla karşılaşacağız.

* Kültürel engeller – Sharma, baskı altında değerleri korumanın ne kadar zor olduğunu vurguluyor. Bunu hem kendi içinde hem de şirket içinde gördü; bazen dış etki nedeniyle önemli bir şeyden vazgeçmek gerekiyor ve toplum genelinde de bu durum geçerli.

* Gelecek planları – Ayrıldıktan sonra prensiplerine uygun çalışmalara devam etmeyi, aynı zamanda şiir ve diğer yaratıcı alanları incelemeyi planlıyor.

Anthropic'ta neler oluyor
* Şirkette birkaç önde gelen geliştirici zaten ayrıldı; bu da personel değişim dalgasını güçlendiriyor.

* Anthropic, ek yatırım çekmek için görüşmeler yürütüyor. Anlaşma başarılı olursa piyasa değeri 350 milyar dolara kadar çıkabilir.

* Geçen hafta Claude Opus 4.6 modelinin yeni sürümü başlatıldı. Bu sürüm ofis verimliliğini ve programlama etkinliğini artırıyor, büyük belgelerle çalışma için bağlam penceresini genişletiyor ve daha karmaşık görevleri destekliyor.

Mektubu nereden bulabilirsiniz
Sharma’nın veda mektubunun tam metni Business Insider makalesinde yayınlandı. Bu, düşüncelerine ve motivasyonuna dair daha ayrıntılı bir bakış sunacak.