Prototípus, 2017
11 vízhűtéses GPU egyetlen házban
Kétprocesszoros szerverplatform egyetlen, CAD-ben tervezett házban, egy vízhűtési körrel hűtve.
GRUENCY / MI-munkaállomások
MI-munkaállomások tartós terhelésre
A modelltanítás és a helyi LLM-inferencia órákig vagy napokig teljes teljesítményen tartja a gépet. A GRUENCY erre a folyamatos terhelésre méretezi a GPU-kat, a tápellátást és a hűtést. Minden MI-munkaállomás átadás előtt burn-in teszten megy át.
Amit a megrendelés előtt eldöntünk
A számítási teljesítményt, a memóriát, a PCIe-sávokat, a tápellátást és a zajszintet együtt specifikáljuk, az Ön által futtatott modellekből kiindulva.
- A modellekhez méretezett GPU-kategória és VRAM: kvantálás, kontextushossz és batchméret
- Slotonként megtervezett PCIe-topológia, minden GPU-nál megadott kapcsolatszélességgel
- Munkaállomás- vagy szerverplatform, ECC memóriával, ahol a munka megkívánja
- Tápellátás tartalékkal a mért tartós fogyasztás felett
- Vízhűtés vagy nagy statikus nyomású léghűtés, egyeztetett zajszint-célra tervezve
- Háttértár-kiosztás adatkészletek, checkpointok és ideiglenes munkaterület számára
Tesztelés átadás előtt
Minden MI-munkaállomás saját tesztjegyzőkönyvvel hagyja el Varsót. Ez tartalmaz egy tartós, teljes terhelésű burn-in tesztet, minden GPU hőprofilját, valamint az egyeztetett célhoz mért zajszint-ellenőrzést. Megérkezés után Sebastian távolról helyezi üzembe a gépet az Ön környezetében. A sebességet is mérjük: a GPU- és memóriateljesítményt, valamint a nyelvi modelleknél a másodpercenkénti tokenszámot.
Korábbi munkák
Az NVIDIA beszállítójaként
MI-számítási és vizuális gyártási rendszerek
Beszállítói munka az NVIDIA részére MI-, renderelési és vizualizációs rendszereken. A WS.COMPUTER ügyfelei több mint 30 országban működnek.
2011 óta
Több GPU-s gépek
Gépek egymást követő GPU-generációkon át, mindegyik a saját feladatához specifikálva.
Kérdések az MI-munkaállomásokról
Hogyan méretezik a gépet helyi LLM-inferenciához?
Az Ön által futtatott modellekből kiindulva. A paraméterszám, a kvantálás, a kontextushossz és a batchméret határozza meg a szükséges VRAM-ot és memória-sávszélességet. Ez a konzultáció első kérdése.
Lég- vagy vízhűtés egy tanítógéphez?
Ez a tartós teljesítményfelvételtől és a zajszint-céltól függ. Két GPU gyakran léghűtéssel is megoldható. Négy vagy több, folyamatos terhelés alatt álló GPU általában egyedi vízhűtési kört igényel.
Lengyelországon kívül is szállítanak és helyeznek üzembe?
Igen. A gépeket egyedi szállítási csomagolásban szállítjuk az EU egész területére és világszerte. A távoli üzembe helyezés az Ön környezetében minden szállítás része.
Konzultáció kérése
Írja le a modelleket, az adatokat és azt, hol fogják használni a gépet.
Vagy írjon e-mailt: info@gruency.com · Konfigurálás itt: WS.COMPUTER