OpenAI, NVIDIA hızlandırıcılarının çıkarım için etkinliğinden şüpheleniyor ve aktif olarak bunların yerine geçecek çözümler arıyor

AI teknolojileri dünyasında neler oluyor
Kısaca Özet
Ana oyuncular OpenAI ve Nvidia, yapay zeka pazarının liderleri olarak kabul ediliyor ancak yeni ortaklar arıyorlar. Yakında bir anlaşma yapılacak; bu şirketler arasında 100 milyon dolarlık bir sözleşme bekleniyor.

Nvidia hızlandırıcılarıyla ilgili sorun
Mevcut Nvidia çipleri, önceden eğitilmiş modellerin (inference) kullanımında her zaman gereken performansı sağlamıyor. OpenAI alternatif arıyor.

Yeni çözümler nasıl geliştiriliyor
1. OpenAI → Cerebras + Groq
- Şirket, hızlandırıcılarının %10'una kadarını, inference için daha uygun olan üçüncü taraf tedarikçi çiplerle değiştirmek istiyor.
- Cerebras ile ortaklık zaten kuruldu: OpenAI, büyük dil modellerinin işlenmesinde mükemmel “kral hızlandırıcılarını” satın alacak.

2. Groq ve Nvidia
- Geçen yıl Nvidia, 20 milyon dolarlık bir anlaşma sunarak Groq’u satın aldı.
- Satın almadan sonra Groq’un bağımsızlığının bir kısmı kayboldu: çoğu hızlandırıcı geliştiricisi Nvidia’ya katıldı ve şirketin kalan kısmı artık yalnızca bulut sistemleri için yazılım satabiliyor.

3. AMD ve diğer seçenekler
- OpenAI hâlâ Nvidia ve AMD’nin HBM dış bellek kullanan hızlandırıcılarına çok bağlı.
- Inference için, büyük entegre bellek hacmine sahip çipler daha uygundur – bu tipleri Groq, Cerebras ve Google sunuyor.

Neden önemli
- İnference verimliliği, ChatGPT, Codex gibi büyük dil modellerinin çalışması için kritik öneme sahiptir.
- Codex sorunu: AI ajanı Codex geliştirirken OpenAI, Nvidia hızlandırıcılarının verimsizliğine rastladı; bu da donanım platformunun değiştirilmesi ihtiyacını vurguluyor.
- Gelecek alternatifi – OpenAI, performansı artırmak için Cerebras çözümlerini ve muhtemelen diğer çipleri kullanmayı planlıyor.

Sonuçlar
OpenAI, Nvidia’ya tamamen bağımlı kalmamak için yeni teknolojik ortaklar arıyor. Aynı zamanda şirket, Cerebras, Groq gibi girişimlere yatırım stratejisi geliştiriyor ve 100 milyon dolara kadar potansiyel anlaşmalarla Nvidia ile büyük sözleşmeleri değerlendiriyor. Bu, inference’ı iyileştirecek ve AI ürünlerinin gelişimini hızlandıracaktır.