Oracle Cloud Infrastructure (OCI), NVIDIA Vera Rubin NVL72 sistemleri ve Vera CPU'ları kapsayacak şekilde altyapısını çoklu gigavat ölçeğine genişletiyor.
NVIDIA ve Oracle’dan dev yapay zeka hamlesi: OCI Supercluster altyapısı büyüyor. NVIDIA ve Oracle, yapay zeka eğitimi, çıkarım (inference) ve ajan tabanlı (agentic) uygulamalara yönelik artan talebi karşılamak amacıyla Oracle Cloud Infrastructure (OCI) Supercluster altyapısını NVIDIA Vera Rubin NVL72 sistemleriyle çoklu gigavat ölçeğine genişleteceğini duyurdu. İki dev şirket, aynı zamanda NVIDIA Vera Rubin NVL72 ve NVIDIA Vera CPU sistemlerinin OCI üzerinde genel kullanıma sunulmasıyla iş birliğini derinleştirdi.
Gerçekleştirilen bu genişleme; hem modellerin eğitildiği ve çalıştırıldığı yüksek GPU gücü gerektiren süreçleri hem de yapay zeka ajanlarının araç çalıştırma, kod test etme ve veri çekme gibi CPU yoğunluklu işlemlerini destekleyen esnek bir altyapı sunuyor. Müşteriler, iş yüklerine göre CPU ve GPU kaynaklarını birbirinden bağımsız olarak ölçeklendirerek boşta kalma süresini en aza indirebilecek.
OpenAI, GPT-6 Astra'yı OCI Üzerinde Eğitti
OCI Superclusters; NVIDIA NVL72 raf ölçekli sistemlerini, NVIDIA Spectrum-X Ethernet ağ teknolojilerini içeren Oracle Acceleron altyapısını ve devasa yapay zeka modellerini eğitmek için gereken gigavat seviyesindeki güç ve soğutma sistemlerini bir araya getiriyor.
OpenAI, söz konusu dev altyapının ulaştığı gücü pratik olarak ortaya koydu. Şirket, yeni nesil frontier modeli GPT-6 Astra'yı Abilene'deki 100 binden fazla NVIDIA Blackwell GPU'ya sahip OCI Supercluster üzerinde eğitti ve hizmete sundu.
OpenAI Bilgi İşlem Altyapısı Mühendislik Lideri Sreekanth Pothanis, konuya ilişkin değerlendirmesinde, "Öncü modellerimiz ilerledikçe, bu hıza ayak uydurabilecek bir altyapıya ihtiyaç duyuyoruz. OCI üzerindeki NVIDIA Vera Rubin, model eğitimimizi hızlandırmak ve zorlu yapay zeka iş yüklerini karşılamak için gerekli performans ve ölçeği sağlıyor" ifadelerini kullandı.
Ajan Tabanlı Yapay Zeka İş Yükleri İçin NVIDIA Vera CPU
Yapay zeka ajanlarının sadece yanıt üretmekle kalmayıp kod çalıştırıp veri topladığına dikkat çekilen açıklamada, bu CPU yoğunluklu işlemlerin yavaşlamasının GPU'ları da beklettiği vurgulandı. OCI Compute üzerindeki NVIDIA Vera CPU'ları, yüksek tek çekirdek performansı ve bellek bant genişliği ile ajanların bu karmaşık görevleri çok daha hızlı tamamlamasına imkan tanıyor.
OpenAI Bilgi İşlem Baş Teknolojisi Sorumlusu (CTO) Uday Ruddarraju da ajan tabanlı iş yüklerini ölçeklendirmek için OCI üzerinde Vera CPU'ları canlı üretim ortamına aldıklarını doğruladı.
x86 Sunucu Konfigürasyonunda HGX Rubin NVL8 Geliyor
Planlanan genişleme kapsamında OCI, x86 tabanlı sunucu konfigürasyonunda 8 adet Rubin GPU'yu bir araya getiren NVIDIA HGX Rubin NVL8 sistemini de sunmaya hazırlanıyor. İki adet 64 çekirdekli Intel Xeon 6 CPU, 4TB DDR5 bellek ve 6.4 Tbps yüksek hızlı RDMA ağı ile donatılacak bu platform, daha küçük konfigürasyonlarda yeni nesil Rubin GPU teknolojisine geçmek isteyen kurumlar için esnek bir dağıtım seçeneği sağlayacak.