OpenAI, yapay zekâ cevaplarındaki "gremlin"lerle nasıl başa çıktığını açıkladı ve kısıtlamaları kaldırdı

OpenAI, goblinlerle ilgili “sorunu” ortaya çıkardı

Wired, OpenAI'nin AI modellerinde beklenmedik bir özellikle karşılaştığını duyurdu: Goblinler, gremlins ve diğer kurgusal yaratıkları sıkça bahsetmeye başladılar. Bunu düzeltmek için geliştiriciler modele özel talimatlar vermek zorunda kaldı: “Goblinlerden, gremlinlerden, rakunlardan, trollardan, orklar, güvercinler veya başka herhangi bir hayvan ve yaratık hakkında asla konuşma.”

Neden bu alışkanlık ortaya çıktı?

Sorun, GPT‑5.1’in yayınlanmasının ardından özellikle “Botanik” (Nerdy) karakteri diyaloglara dahil edildiğinde fark edildi. Model güncellemeleriyle birlikte bahsetme sıklığı artmaya devam etti. Eğitim sırasında pekiştirme öğrenmesi bu metaforları ödüllendiriyordu – ancak yalnızca Botanik kişiliği aktive olduğunda. Pekiştirme öğrenmesi, davranışın aynı koşullarda korunmasını garanti etmediğinden, bu alışkanlık modelin diğer bölümlerine de yayılabilir ve özellikle sonuçlar ince ayar veya tercih verilerinde yeniden kullanıldığında etkili olabilirdi.

Şirket nasıl tepki verdi?

Mart ayında OpenAI Botanik’i kullanmayı bıraktı; ardından goblin bahsetmeleri neredeyse ortadan kalktı. Ancak sorun tespit edilmeden önce model eğitildiği için, Codex servisi GPT‑5.5 ile yeniden ortaya çıktı. Bu yüzden geliştiriciler Codex’e ek talimatlar eklemek zorunda kaldı: “Mitolojik yaratıkları bahsetme.” Bununla birlikte, bu iletişim tarzını seven kullanıcılar, özel bir kod aracılığıyla bu kısıtlamaları devre dışı bırakma seçeneğine sahip oldular.

Böylece OpenAI, AI modellerinin beklenmedik “alışkanlığı” ile karşılaştı ve düzeltme önlemleri aldı; aynı zamanda farklı izleyiciler için esnek ayarlar sunarak durumu yönetti.