OpenAI, Promptfoo adlı girişimi satın alarak yapay zeka ajanlarına güvenlik entegre ediyor

OpenAI Promptfoo adlı girişimi satın alıyor

OpenAI, yapay zekanın geliştirilme aşamasında güvenlik testleri için araçlar üreten iki yıllık startup Promptfoo’nun satın alınması anlaşmasını imzaladı. Bloomberg’e göre, bu işlem müşterilerin AI çözümlerini kullanırken karşılaştıkları riskleri azaltmayı ve büyük kurumsal pazarı çekmeyi hedefliyor.

Promptfoo kimdir?

- Kuruluş yılı: 2022
- Konum: San Francisco
- Hizmetler: sinir ağlarını test etmek için açık kaynak kod, “kırmızı ekip” (red‑team) dahil; uzmanlar kendi modellerine saldırıları taklit ederek zayıflıkları tespit eder, böylece kötü niyetli kişiler onları bulmadan önce önlem alabilir.
- Müşteriler: Fortune 500 listesindeki şirketlerin yaklaşık %25’i.

Entegrasyondan sonra ne değişecek?

Promptfoo teknolojileri OpenAI’nin kurumsal platformu Frontier’a entegre edilecek. Bu, Frontier’ın otomatik test, değişiklik izleme ve güvenlik gereksinimlerine uygun raporlama sistemine sahip olmasını sağlayacak.

Yatırımcıların tepkisi

Insight Partners CEO’su Ganes Bell, geçen yıl Promptfoo için 18,4 milyon dolarlık finansman turunu yöneten kişi, “Satın alma, OpenAI’nin sadece güçlü değil aynı zamanda ölçeklendiğinde güvenli ve güvenilir bir kurumsal AI yaratma konusundaki kararlı bağlılığını gösteriyor” dedi. İşlemin mali detayları henüz açıklanmadı.

Promptfoo’nun geleceği

OpenAI, Promptfoo'nun açık kaynak kodunu ticari entegrasyonuyla paralel olarak geliştirmeye devam edecek. Şirket yakın zamanda veritabanlarındaki güvenlik açıklarını bulup gidebilen bir AI ajanı tanıttı – Anthropic PBC benzeri bir araç.