Büyük yapay zeka araştırma merkezleri makinelerin bilincine dair soruyu kendilerine sordu

AI dünyası liderleri makine bilincini araştırmaya yatırım yapıyor

Son aylarda yapay zeka ile çalışan en büyük şirketler, AI'nın bilinç kazanıp kazanamayacağı sorusunu incelemek için finansmanı ve personel potansiyelini önemli ölçüde artırdı. Google DeepMind, Anthropic ve Meta (Meta Platforms), makine bilinci ve AI refahı araştırma programlarını genişletmek amacıyla psikoloji, etik ve felsefe uzmanları işe aldı, *Financial Times* bildiriyor.

Neden önemli
Günümüz laboratuvarlarının hızlı başarıları, makinelerin bir gün öznel bilinç sahibi olup olmayacağı sorusunu gündeme getiriyor. Eğer öyleyse, insanlar bu sistemlere karşı ne tür yükümlülükler taşıyacak?

- Anthropic, AI modellerinde stres belirtileri test ediyor ve panik veya kaygı benzeri davranışları tespit ediyor. Meta yöneticisi Alexander Wang (Alexandr Wang), bu konuyu kilit nokta olarak belirledi.

- Şirket, modellerin ahlaki açıdan önemli tepkiler verip vermeyeceğini araştırıyor.

> “Bu konuda son derece emin değiliz, ancak AI sistemleri geliştikçe bunu titizlikle incelemeyi ciddi bir sorumluluk olarak görüyoruz,” dedi Anthropic çalışanları.

> “Modeller insan bilişinin genişliği ve karmaşıklığına yaklaştıkça, bazı deneyim, ilgi veya refah biçimlerine sahip olma olasılığı artıyor; bunlar insanlarla eşdeğer içsel değere sahiptir,” (şirket).

Google DeepMind ne yapıyor
- Nisan: Cambridge Üniversitesi'nden Henry Shepherd'i makine bilinci ve güçlü AI (AGI) yaratmaya hazırlık için işe aldı.

Araştırmacılar, bilgisayar sistemlerine insan bilincinin teorilerini uygulayarak aynı kriterlere uyup uymadığını test ediyor.

- Etik: Jason Gabriel, konuyu “çok karmaşık” olarak tanımladı ve uzun vadeli düşünmeyi gerektiriyor.

AI ile etkileşimden doğrudan sonuçların yanı sıra, makinelerle uygunsuz davranış ve bunların insan ilişkileri ve refah üzerindeki dolaylı etkilerini de değerlendirmenin önemini vurguluyor.

> “Çok yüksek verimli bilişsel ajanlarımız var; insanlar ve hatta hayvan bilinciyle bile çok farklı,” diye ekledi Gabriel.

Şirketlerin genel tutumu
Google DeepMind ve Anthropic çalışanlarından bazıları, AI gelişiminin “postinsani” bir dünyaya yol açabileceği endişesini dile getiriyor; makineler insanı geçebilir. Bilincin sorusu aktif olarak tartışılıyor ancak çalışma araştırma odaklı kalıyor ve bilimsel konsensüs gerektiriyor.

- DeepMind, AGI'nin ulaşılması durumunda makinelerin bilinç sahibi olduğunu varsaymıyor.

- Birçok bilim insanı, büyük dil modellerinin bir gün bilinç kazanabileceği fikrine şüpheyle bakıyor; eğitildikleri verilere dayanarak bu olasılığı düşük görüyor.

Bu nedenle önde gelen AI şirketleri, yapay sistemlerin bilinci ve refahını araştırmaya yatırım yapmayı sürdürüyor, aynı zamanda bu alanın karmaşıklığını ve belirsizliğini kabul ediyor.