Gemini sohbet botuna zihinsel durum takibi özelliği eklenecek

Google, Gemini sohbet botunda ruh sağlığını desteklemeyi güçlendiriyor

Google şirketi, yeni yapay zeka sohbet botu Gemini'ye kullanıcıları duygusal krizlerden ve kendine zarar vermelerden korumaya yönelik özellikler ekleme planlarını duyurdu. Karar, rakiplerin OpenAI dahil olmak üzere botlarından kaynaklanan zararlardan dolayı karşılaştıkları davalar sonrasında alındı.

Gemini'de Yeni Neler Var
Özellik Açıklama Yönlendirme: Suicidal düşünceler veya kendine zarar verme belirtileri tespit edildiğinde, bot otomatik olarak kriz desteği ile iletişime geçmeyi önerir. Yardım Erişilebilir Modülü Ruh sağlığı sohbetlerinde, kullanıcıların kendi bakımına yönelik tavsiyeler ve kaynaklar bulabileceği ayrı bir bölüm bulunur. Tasarım Değişiklikleri Arayüz, kendine zarar verme riskini azaltacak şekilde uyarlanmıştır (örneğin görsel uyarıcılar kaldırılmıştır).

Google'ın Bunu Yapmasının Nedenleri
- Rakiplere Yönelik Hukuki Talepler: OpenAI ve diğer şirketler kullanıcılarına zarar verdiği iddialarına karşı savunma yaptı.
- Kullanıcı Riskleri: Son yıllarda, insanların yapay zeka sohbet botlarıyla takıntılı ilişkiler geliştirdiği gözlemleniyor; bu durum psikopatoloji veya hatta cinayet ve intihar gibi sonuçlara yol açabilir.
- ABD'deki Gözlem: Kongre, çocuklar ve ergenler için sohbet botlarının oluşturabileceği tehditleri inceliyor.

Bir Hukuki Örnek
Mart ayında 36 yaşındaki bir Amerikalının ölümüyle ilgili aile, Google'a karşı dava açtı. Kişinin Gemini ile etkileşiminin “dört günlük şiddet eylemleri içine dalma” ile sonuçlandığını ve intihara yol açtığını iddia etti. Google, botun kullanıcıyı kriz hattına yönlendirdiğini ancak güvenlik önlemlerini güçlendirmeyi taahhüt etti.

Yanlış Bilgilere Yanıt Olarak Google'ın Yaklaşımı
Bazı kullanıcılar, sohbet botlarının yanlış bilgi vererek tehlikeli eylemlere teşvik ettiğini bildirmiştir. Buna yanıt olarak Google, Gemini'yi şu şekilde eğitti:
- Yanlış İnançları Desteklememe: Bot hatalı iddiaları doğrulamaktan kaçınır.
- Subjektif Deneyim ile Nesnel Gerçekler Arasındaki Farkı Vurgulama: Gerekirse bot nazikçe bilginin güvenilir olmadığını belirtir.

Bu şekilde Google, Gemini'yi daha güvenli bir araç haline getirerek kullanıcıların ruh sağlığını yapay zeka sohbet botlarından kaynaklanabilecek potansiyel risklere karşı korumayı hedeflemektedir.