OpenAI, güvenlik endişeleri nedeniyle ChatGPT'de erotik sohbetlerin uygulanmasını ertelemiştir

OpenAI'nin erotik sohbetleri başlatma planları hakkında kısa haber özeti

Çalışma günlüğü bu nasıl gerçekleşiyor
Erotik içerik ortaya çıkışının fikri ChatGPT’de
Genel Müdür Sam Altman, 2023 ortasında “erotik sohbetler” özelliğinin potansiyel olarak başlatılabileceğini duyurdu. İlk plan, aynı yılın Aralık ayına kadar çıkmakti, ardından mevcut çeyreğe ertelenmişti – ancak şimdi bu tarihin bile tutulmayacağı açıkça görülüyor. *Wall Street Journal* verilerine göre gecikme en az bir ay sürecek.

Önceki deneyimler
2021 yılında OpenAI, oyuncuların hikayeyi etkileyebildiği AI Dungeon adlı oyunu çıkardı. Platform bazen kullanıcıdan açık bir istek olmadan da cinsel temalar üretiyordu; hafif erotizm girişiyle yapay zeka “kırmızı çizgiyi aştı”. Bu durum şirketi ticari potansiyele dair düşünmeye sevk etti, ancak aynı zamanda sıkı etik sınırlamaların gerekliliğini kabul etmeye zorladı.

Mevcut yönetim tutumları
Son zamanlarda OpenAI, erotik sohbet fikrine daha açık hale geldi, ancak bir şartla: sadece metin tabanlı olacak, görsel ve video içermeyecek. Rakipler de geride kalmıyor – Perşembe günü Musk, botu Grok'un yakında “18+” içerik üretebileceğini duyurdu ve Meta, kullanıcıların reşitlik onayıyla romantik rol oyunları oynayan sohbet botlarına izin veriyor.

Yaş doğrulama sorunları
OpenAI'nin yaş doğrulama sistemi %12 hata oranıyla çocukları yetişkin olarak kabul ediyor. Yaklaşık 100 milyon genç kullanıcı kitlesiyle bu, erotik sohbetlere erişebilecek milyonlarca ergen anlamına geliyor.

Etik endişeler
Ocak ayında kurulan uzman komisyonu, şiddetli cinsel içerik, ergenlerin dahil edilmesi ve diğer problem senaryoları konusunda endişelerini dile getirdi. Ayrıca uzmanlar, bu tür sohbetlerden psikolojik bağımlılık riskini ve gerçek ilişkiler üzerindeki etkisini uyardılar.

Psikolojik sonuçlar
Zaten uzun süreli sohbet botu etkileşimleriyle bağlantılı intihar vakaları var (erkek ergenler dahil). Uzmanlar, erotik yönelimin bu tür trajedilerin riskini artırabileceğini düşünüyor.

Çalışan tutumları
2021 yılından beri bazı personel, erotik sohbetlerin başlatılmasına karşı endişe duyuyor; şirketin bu alana “tamamen dalması” ve itibar riskleri konusunda korkuyorlar.

Ana çıkarımlar
1. Yakın gelecekte bir lansman planlanmıyor – hatta ilk tarih bile uzatılmış durumda.
2. Sadece metin içerik, görsel/video yok, ama yaş doğrulama hâlâ sorunlu.
3. Etik ve psikolojik riskler yüksek: yasal ihlaller ve özellikle ergen kullanıcılar için olumsuz sonuçlar mümkün.
4. Rakipler benzer işlevleri aktif hale getiriyor, OpenAI’ye ek baskı yaratıyor.

Bu nedenle, ChatGPT’de erotik sohbetlerin fikri tartışılıyor olsa da, uygulama ciddi teknik, etik ve düzenleyici engellerle karşılaşıyor.