Prototüüp, 2017
11 vesijahutusega GPU-d ühes korpuses
Kahe protsessoriga serveriplatvorm ühes CAD-is projekteeritud korpuses, jahutatud ühe veeahelaga.
GRUENCY / AI-tööjaamad
AI-tööjaamad pidevaks koormuseks
Mudelite treenimine ja kohalik LLM-inferents hoiavad masinat täisvõimsusel tunde või päevi. GRUENCY valib GPU-d, toite ja jahutuse just sellise pideva koormuse jaoks. Iga AI-tööjaam läbib enne tarnimist koormustesti.
Mis otsustatakse enne tellimist
Arvutusvõimsus, mälu, PCIe-liinid, toide ja müratase spetsifitseeritakse koos, lähtudes mudelitest, mida kasutate.
- GPU klass ja VRAM vastavalt mudelitele: kvantimine, konteksti pikkus ja partii suurus
- PCIe-topoloogia planeeritud pesa haaval, iga GPU ühenduse laius on kirjas
- Tööjaama- või serveriplatvorm, ECC-mäluga seal, kus töö seda nõuab
- Toide varuga üle mõõdetud pideva voolutarbe
- Vesijahutus või kõrgsurve-õhkjahutus, projekteeritud kokkulepitud mürataseme järgi
- Andmesalvestuse paigutus andmekogumite, kontrollpunktide ja ajutiste failide jaoks
Testimine enne tarnimist
Iga AI-tööjaam lahkub Varssavist oma testiprotokolliga. See hõlmab pikaajalist täiskoormustesti, iga GPU soojusprofiili ja mürataseme kontrolli kokkulepitud sihtväärtuse suhtes. Kohale jõudes võtab Sebastian masina teie keskkonnas kaugteel kasutusele. Mõõdetakse ka kiirust: GPU ja mälu jõudlust ning keelemudelite tokeneid sekundis.
Varasemad tööd
Tööd NVIDIA jaoks
AI-arvutus- ja visuaalse tootmise süsteemid
Tööd NVIDIA jaoks AI-, renderdus- ja visualiseerimissüsteemide alal. WS.COMPUTER kliendid asuvad enam kui 30 riigis.
Alates 2011
Mitme GPU-ga ehitused
Masinad järjestikuste GPU-põlvkondade kaupa, igaüks spetsifitseeritud oma töö jaoks.
Küsimused AI-tööjaamade kohta
Kuidas valida masin kohalikuks LLM-inferentsiks?
Lähtudes mudelitest, mida kasutate. Parameetrite arv, kvantimine, konteksti pikkus ja partii suurus määravad vajaliku VRAM-i ja mälu ribalaiuse. See on konsultatsiooni esimene küsimus.
Õhk- või vesijahutus treenimismasinale?
See sõltub pidevast voolutarbest ja mürataseme sihist. Kaht GPU-d saab sageli jahutada õhuga. Neli või enam pideva koormuse all töötavat GPU-d vajavad tavaliselt eritellimusel veeahelat.
Kas tarnite ja võtate kasutusele ka väljaspool Poolat?
Jah. Masinad tarnitakse kogu ELi ja üle maailma eritellimusel transpordipakendis. Kaugteel kasutuselevõtt teie keskkonnas kuulub iga tarne juurde.
Küsige konsultatsiooni
Kirjeldage mudeleid, andmeid ja kohta, kus masinat kasutatakse.
Või e-postiga info@gruency.com · Konfigureerige WS.COMPUTERis