GRUENCY  /  AI darbstacijas

AI darbstacijas ilgstošai slodzei

Modeļu apmācība un lokāla LLM izsecināšana notur datoru pilnā jaudā stundām vai dienām. GRUENCY izvēlas GPU, barošanu un dzesēšanu šai nepārtrauktajai slodzei. Katra AI darbstacija pirms piegādes tiek pārbaudīta slodzes testā.

Konfigurēt WS.COMPUTER vietnē

Kas tiek izlemts pirms pasūtīšanas

Skaitļošanas jauda, atmiņa, PCIe joslas, barošana un troksnis tiek specificēti kopā, sākot no modeļiem, ko darbināt.

  • GPU klase un VRAM atbilstoši modeļiem: kvantizācija, konteksta garums un pakešu izmērs
  • PCIe topoloģija plānota katram slotam, norādot katra GPU savienojuma platumu
  • Darbstacijas vai servera platforma, ar ECC atmiņu, ja darbs to prasa
  • Barošana ar rezervi virs izmērītā ilgstošā patēriņa
  • Ūdens dzesēšana vai augstspiediena gaisa dzesēšana, projektēta atbilstoši saskaņotam trokšņa mērķim
  • Datu glabātuves izkārtojums datu kopām, kontrolpunktiem un pagaidu datiem

Testēšana pirms piegādes

Katra AI darbstacija atstāj Varšavu ar savu testu protokolu. Tas ietver ilgstošu pilnas slodzes testu, katra GPU termisko profilu un trokšņa pārbaudi pret saskaņoto mērķi. Pēc piegādes Sebastian attālināti nodod datoru ekspluatācijā Jūsu vidē. Tiek mērīts arī ātrums: GPU un atmiņas veiktspēja un marķieri sekundē valodas modeļos.

Datora iekšpuse: procesora ūdens bloks, kontūra caurules, atmiņas moduļi un dzesēšanas šķidruma kontrolleris WS.COMPUTER datorā

Iepriekšējie darbi

Prototips, 2017

11 ar ūdeni dzesēti GPU vienā korpusā

Divprocesoru servera platforma vienā CAD projektētā korpusā, dzesēta ar vienu ūdens kontūru.

Darbs NVIDIA uzdevumā

AI skaitļošanas un vizuālās producēšanas sistēmas

Darbs NVIDIA uzdevumā pie AI, renderēšanas un vizualizācijas sistēmām. WS.COMPUTER klienti atrodas vairāk nekā 30 valstīs.

Kopš 2011

Vairāku GPU datori

Datori vairākām secīgām GPU paaudzēm, katrs specificēts savam uzdevumam.

Jautājumi par AI darbstacijām

Kā izvēlēties datoru lokālai LLM izsecināšanai?

Atbilstoši modeļiem, ko darbināt. Nepieciešamo VRAM un atmiņas joslas platumu nosaka parametru skaits, kvantizācija, konteksta garums un pakešu izmērs. Tas ir pirmais jautājums konsultācijā.

Gaisa vai ūdens dzesēšana apmācības datoram?

Tas ir atkarīgs no ilgstošā jaudas patēriņa un trokšņa mērķa. Divus GPU bieži var dzesēt ar gaisu. Četriem vai vairāk GPU nepārtrauktā slodzē parasti vajag individuālu ūdens kontūru.

Vai piegādājat un nododat ekspluatācijā arī ārpus Polijas?

Jā. Datori tiek piegādāti visā ES un pasaulē īpašā transporta iepakojumā. Attālināta nodošana ekspluatācijā Jūsu vidē ir katras piegādes daļa.

Pieteikt konsultāciju

Aprakstiet modeļus, datus un vietu, kur dators tiks izmantots.

Vai rakstiet e-pastu info@gruency.com  ·  Konfigurēt WS.COMPUTER vietnē