Prototyp, 2017
11 vodou chlazených GPU v jedné skříni
Dvouprocesorová serverová platforma v jedné skříni navržené v CAD, chlazená jedním vodním okruhem.
GRUENCY / Pracovní stanice pro AI
Pracovní stanice pro AI na trvalou zátěž
Trénování modelů a lokální inference LLM drží stroj na plném výkonu hodiny i dny. GRUENCY dimenzuje GPU, napájení a chlazení pro tuto nepřetržitou zátěž. Každá pracovní stanice pro AI prochází před dodáním zátěžovým testem.
Co se rozhoduje před objednáním
Výpočetní výkon, paměť, linky PCIe, napájení a hluk se navrhují společně, podle modelů, které provozujete.
- Třída GPU a VRAM dimenzované podle modelů: kvantizace, délka kontextu a velikost dávky
- Topologie PCIe plánovaná slot po slotu, s uvedenou šířkou linky každého GPU
- Platforma pracovní stanice nebo serveru, s pamětí ECC tam, kde to práce vyžaduje
- Napájení s rezervou nad naměřeným trvalým příkonem
- Vodní chlazení nebo vysokotlaké vzduchové chlazení, navržené na dohodnutou hlučnost
- Rozvržení úložiště pro datové sady, checkpointy a pracovní prostor
Testování před dodáním
Každá pracovní stanice pro AI opouští Varšavu s vlastním protokolem o testech. Ten zahrnuje dlouhodobý zátěžový test při plném zatížení, teplotní profil každého GPU a kontrolu hluku vůči dohodnutému cíli. Po doručení Sebastian stroj na dálku zprovozní ve vašem prostředí. Měří se i rychlost: výkon GPU a paměti a tokeny za sekundu u jazykových modelů.
Dosavadní práce
Dodávky pro NVIDIA
Výpočetní systémy pro AI a vizuální produkci
Dodávky pro NVIDIA v oblasti systémů pro AI, rendering a vizualizaci. Klienti WS.COMPUTER sídlí ve více než 30 zemích.
Od roku 2011
Sestavy s více GPU
Stroje napříč generacemi GPU, každý navržený pro svou úlohu.
Dotazy k pracovním stanicím pro AI
Jak se dimenzuje stroj pro lokální inferenci LLM?
Podle modelů, které provozujete. Počet parametrů, kvantizace, délka kontextu a velikost dávky určují potřebnou VRAM a propustnost paměti. To je první otázka konzultace.
Vzduchové, nebo vodní chlazení pro stroj na trénování?
Záleží na trvalém příkonu a cílové hlučnosti. Dvě GPU lze často chladit vzduchem. Čtyři a více GPU pod nepřetržitou zátěží obvykle vyžadují vodní okruh na míru.
Dodáváte a zprovozňujete i mimo Polsko?
Ano. Stroje dodáváme v celé EU i po celém světě v přepravním obalu na míru. Vzdálené zprovoznění ve vašem prostředí je součástí každé dodávky.
Požádat o konzultaci
Popište modely, data a místo, kde bude stroj používán.
Nebo napište na info@gruency.com · Konfigurace na WS.COMPUTER