Amazon çalışanları yapay zekayı yalnızca raporlamada kullanıyor, gerçek sonuçlar için değil

Nasıl bir generatif yapay zeka çalışan performans göstergesi haline geliyor

Generatif yapay zekanın (YZ) popülerliği arttıkça, şirketler çalışanlarından bu sistemlerle ilgili pratik başarılar göstermelerini giderek daha fazla talep ediyor. Bu baskıya yanıt olarak yeni bir fenomen ortaya çıktı: çalışanlar YZ'ye anlamsız görevler veriyor sadece teknoloji kullanım istatistiklerini iyileştirmek için.

Financial Times Amazon'daki durumu anlatıyor

Financial Times makalesinde, e-ticaret devi Amazon'un çalışanlarının MeshClaw adlı yazılım çözümünü giderek daha aktif kullandığı anlatılıyor. Bu ajan, çalışanların çalışma araçlarına bağlanır ve onların adına görevleri yerine getirebilir. Bazıları bunu, aslında faydasız olan işlemleri otomatikleştirerek YZ'yi öğrenme performanslarını artırmak için kullanıyor.

Sebep – yöneticilerin artan baskısı: artık %80'in üzerinde geliştirici her hafta YZ kullanmak zorunda. Her çalışan için ayrı bir istatistik tutuluyor ve hedeflere ulaşamayanlar bunu yönetime açıklamak zorunda. Resmen, yöneticiler çalışanları YZ token kullanım verilerine göre değerlendirmek zorunda değiller, ancak son aylarda bunun gerçekleştiğine dair şüpheler ortaya çıktı.

Bu ortamda bazı Amazon çalışanları sahte teşviklerle karşılaşıyor: kişisel fayda için yüksek aktiflik taklit ediyorlar, şirketin yararına değil. Bu, YZ altyapısına büyük yatırımlar yapan ve yatırımcılara ile yönetime gerçek faydayı göstermek isteyen teknoloji devleri için özellikle önemli.

Amazon YZ kullanım verilerini nasıl yönetiyor

Amazon, bu yıl yaklaşık 200 milyar dolar harcamayı planlıyor. Teknolojilerin gerçekten kullanıldığından emin olmak için YZ kullanımını kontrol etmeyi güçlendiriyor. Başlangıçta çalışanların YZ kullanımına ilişkin grup istatistikleri yayınlanıyordu, ancak şimdi bireysel sonuçlara yalnızca uzmanlar ve doğrudan yöneticileri erişebiliyor. Yöneticilere resmi olarak bu verileri personel performansını değerlendirmek için kullanmaları yasaklandı.

Diğer teknoloji şirketlerindeki durum

Financial Times, benzer kötüye kullanımın Meta Platforms'ta da gözlemlendiğini belirtiyor. Amazon'un 30'dan fazla uzman tarafından geliştirilen MeshClaw, üretim sürümlerine kod yükleyebilir, e-postaları sıralayabilir ve Slack gibi uygulamalarla etkileşime girebilir. Birçok çalışan, bu çözümlerin güvenliği konusunda endişe duyuyor: YZ hatalar üretebilir ve eylemleri üzerinde kontrol zayıf kalıyor.

Bu nedenle, generatif YZ kullanımına yönelik artan gereksinimler, bazen gerçek iş sonuçlarını elde etmek için bir araç yerine kendi başına hedef haline gelen “performans göstergeleri” yaratıyor.