Prototip, 2017
Tek kasada 11 su soğutmalı GPU
CAD ile tasarlanmış tek bir kasada, tek bir su devresiyle soğutulan çift işlemcili sunucu platformu.
GRUENCY / Yapay zekâ iş istasyonları
Sürekli yük için yapay zekâ iş istasyonları
Model eğitimi ve yerel LLM çıkarımı bir makineyi saatlerce veya günlerce tam güçte çalıştırır. GRUENCY, GPU’ları, güç dağıtımını ve soğutmayı bu sürekli yüke göre boyutlandırır. Her yapay zekâ iş istasyonu teslimattan önce burn-in testinden geçirilir.
Siparişten önce neler belirlenir
İşlem gücü, bellek, PCIe hatları, güç ve gürültü, çalıştırdığınız modellerden başlayarak birlikte tanımlanır.
- Modellere göre boyutlandırılmış GPU sınıfı ve VRAM: niceleme, bağlam uzunluğu ve batch boyutu
- Her GPU’nun bağlantı genişliği belirtilerek yuva yuva planlanmış PCIe topolojisi
- İş istasyonu veya sunucu platformu; işin gerektirdiği durumlarda ECC bellekle
- Ölçülen sürekli tüketimin üzerinde pay bırakan güç dağıtımı
- Kararlaştırılan gürültü hedefine göre tasarlanmış su soğutma veya yüksek basınçlı hava soğutma
- Veri kümeleri, checkpoint’ler ve geçici çalışma alanı için depolama düzeni
Teslimattan önce test
Her yapay zekâ iş istasyonu Varşova’dan kendi test kaydıyla çıkar. Bu kayıt uzun süreli tam yük testini (burn-in), her GPU için termal profili ve kararlaştırılan hedefe göre gürültü kontrolünü içerir. Varışta Sebastian makineyi ortamınıza uzaktan devreye alır. Hız da ölçülür: GPU ve bellek performansı ile dil modellerinde saniye başına token.
Önceki çalışmalar
NVIDIA için tedarikçi çalışmaları
Yapay zekâ hesaplama ve görsel prodüksiyon sistemleri
NVIDIA için yapay zekâ, render ve görselleştirme sistemleri üzerine tedarikçi çalışmaları. WS.COMPUTER müşterileri 30’dan fazla ülkede bulunmaktadır.
2011’ten beri
Çoklu GPU sistemleri
Birbirini izleyen GPU nesillerinde, her biri kendi iş yüküne göre tanımlanmış makineler.
Yapay zekâ iş istasyonlarıyla ilgili sorular
Yerel LLM çıkarımı için bir makine nasıl boyutlandırılır?
Çalıştırdığınız modellerden yola çıkılarak. Parametre sayısı, niceleme (quantization), bağlam uzunluğu ve batch boyutu gereken VRAM’i ve bellek bant genişliğini belirler. Danışmanlık görüşmesindeki ilk soru budur.
Eğitim makinesi için hava mı, su soğutma mı?
Sürekli güç tüketimine ve gürültü hedefine bağlıdır. İki GPU çoğu zaman hava ile soğutulabilir. Sürekli yük altındaki dört veya daha fazla GPU genellikle özel bir su soğutma devresi gerektirir.
Polonya dışına teslimat ve devreye alma yapıyor musunuz?
Evet. Makineler AB genelinde ve dünya çapında özel nakliye ambalajıyla teslim edilir. Ortamınıza uzaktan devreye alma her teslimatın bir parçasıdır.
Danışmanlık talep edin
Modelleri, verileri ve makinenin nerede kullanılacağını açıklayın.
Veya e-posta adresimiz: info@gruency.com · WS.COMPUTER’da yapılandırın