Model Eğitimi ve İnce Ayar
Büyük veri setleriyle model eğitimi veya hazır bir modelin kuruma göre ince ayarı. Paralel çalıştığı için eğitim süresi ayrılan kapasiteyle birlikte kısalır.
Tipik iş yükü: Dil modeli eğitimi, kuruma özel model ince ayarı
Hesaplama gücü ihtiyacı ortaya çıktığında, işin teknik kısmından önce tedarik ve işletme tarafı yoruyor.
Tedarik süreci, bütçe onayı ve kurulum bir araya gelince projenin başlaması gereken tarih çoktan geçiyor.
Yoğun dönemde kapasite yetişmiyor, proje bittikten sonra aynı donanım aylarca atıl kalıyor. İkisi de maliyet.
Sürücü ve sürüm yönetimi, soğutma, enerji ve kapasite planlaması BT ekibinin asıl işinden vakit alıyor.
Hesaplama gücü var, ama verinin nerede işlendiği ve mevzuata uygunluğu kurum içinde soru işareti yaratıyor.
2002'den beri kurumsal sistemleri kuruyor, işletiyor ve ayakta tutuyoruz. Sunucu odasından veri merkezine, kablodan sanallaştırmaya kadar her katmanda çalıştık.
Bu işi yalnızca sağlayıcı–müşteri ilişkisi olarak kurmuyoruz. Birlikte çalıştığımız kurumların iş hedeflerini, büyüme planlarını ve kısıtlarını biliriz; altyapıyı buna göre kurar, ihtiyaç değiştiğinde yeniden şekillendiririz.
Bir arıza olduğunda hangi katmana bakılacağını biliriz. Sorunu başka bir sağlayıcıya havale etmeyiz, çözümü biz üstleniriz.
Bulut altyapısı, yerinde destek ve ağ güvenliği aynı çatı altında yürür. Sunucunuz bulutta, anahtarınız sahada olsa da süreci baştan sona aynı ekip takip eder.
Altyapı Türkiye'deki veri merkezlerimizde çalışır, veriniz yurt dışına çıkmaz. Destek ekibi de aynı ülkede; aynı saat diliminde, aynı dilde ve sizi tanıyan kişilerle konuşursunuz.
ISO 27001, 22301, 20000, 9001 ve TSE belgelerine sahibiz. Denetim geldiğinde altyapı tarafının belgesi sizden değil bizden istenir.
Ay sonunda sürpriz çıkaran değişken fatura yok. Kapasite ihtiyaca göre anlık artar, aylık tutar sözleşmede yazılıdır.
Müdahale ve geri dönüş süreleri sözleşmede yazılıdır, ne yapıldığı aylık raporda görünür. Altyapınız kurulduğu gibi kalmaz: yeni nesil çözümleri takip eder, kurumunuza uygun olanı önerir ve devreye alınmasını üstleniriz.
İhtiyacınız olan kapasite dönem başında birlikte belirlenir ve o dönem boyunca size ayrılır. Ayrılan kaynak izole GPU bölümlendirme (MIG) ile sınırları tanımlı bir kaynak olarak verilir; hangi iş yükünüzün ne kadar kaynak kullanacağını siz planlarsınız.
Hayır. Size ayrılan GPU kaynağı izole edilir ve başka iş yükleriyle paylaşılmaz. Bölümlendirme sayesinde hem GPU işlem gücü hem de GPU belleği ayrılmış hâlde çalışır; başka bir iş yükünün yoğunluğu sizin performansınızı etkilemez.
GPU kaynağınıza SSH üzerinden uzaktan erişirsiniz. Kendi kütüphanelerinizi ve araçlarınızı kurar, mevcut çalışma düzeninizi olduğu gibi sürdürürsünüz. Erişim yetkileri kurumunuzla birlikte tanımlanır.
Dönemsel ayrılmış kapasite modeliyle çalışıyoruz: kapasite dönem başında belirlenir ve sözleşme tutarı o dönem boyunca sabittir. Yoğun çalıştığınız bir ay yüzünden beklenmedik bir fatura çıkmaz. Kapasite ihtiyacınız değişirse dönem yenilemesinde birlikte güncellenir.
Kapasite artışı planlı olarak yapılır; ihtiyaç ortaya çıktığında görüşür ve sözleşme kapsamında güncelleriz. Donanım tedariki beklemenize gerek kalmaz, çünkü altyapı zaten kurulu ve işletiliyor.
İşlem gücü Türkiye'deki veri merkezlerimizde çalışır; verileriniz yurt dışına çıkmaz ve KVKK ile sektör mevzuatı kapsamında işlenir. Altyapı coğrafi olarak yedeklidir, 7/24 izlenir ve yüksek erişilebilirlik mimarisiyle kurulmuştur.
Kendi modelinizi eğitecek, ince ayar yapacak veya kendi yazdığınız kodu GPU üzerinde çalıştıracaksanız GPU Hizmeti size uygundur; kaynağı alır, üzerinde dilediğinizi çalıştırırsınız. Amacınız hazır dil modellerini uygulamalarınızdan kullanmaksa Dil Modeli Hizmeti daha doğrudur; orada donanımla değil, tek bir API ile ilgilenirsiniz.
Uygulamalarınızın modellere bağlandığı yönetilen erişim katmanı.
Kurumun kendi bilgisi üzerinde çalışan, kaynak gösteren yapay zeka platformu.
Uygulamalarınızın üzerinde çalıştığı sunucu, depolama ve ağ kaynakları.
Mevcut sistemlerinizi, iş yüklerinizi ve beklentilerinizi konuşuyoruz.
İhtiyacınıza göre kaynak ve hizmet kapsamı çıkarılır; ne aldığınız ve ne ödediğiniz netleşir.
Taşıma planlanır, sistemler test edilir ve çalışır durumda teslim edilir.