Prototyp, 2017
11 GPU chłodzonych cieczą w jednej obudowie
Dwuprocesorowa platforma serwerowa w jednej obudowie zaprojektowanej w CAD, chłodzona jednym obiegiem cieczy.
GRUENCY / Stacje robocze AI
Stacje robocze AI do pracy pod długotrwałym obciążeniem
Trenowanie modeli i lokalna inferencja LLM utrzymują maszynę na pełnej mocy przez wiele godzin lub dni. GRUENCY dobiera GPU, zasilanie i chłodzenie pod takie ciągłe obciążenie. Każda stacja robocza AI przechodzi przed dostawą test obciążeniowy (burn-in).
Co ustala się przed zamówieniem
Moc obliczeniowa, pamięć, linie PCIe, zasilanie i hałas są określane łącznie, na podstawie uruchamianych modeli.
- Klasa GPU i ilość VRAM dobrane do modeli: kwantyzacja, długość kontekstu i rozmiar partii
- Topologia PCIe zaplanowana gniazdo po gnieździe, z podaną szerokością łącza każdego GPU
- Platforma stacji roboczej lub serwerowa, z pamięcią ECC tam, gdzie wymagają tego zadania
- Zasilanie z zapasem względem zmierzonego długotrwałego poboru mocy
- Chłodzenie cieczą lub powietrzem z wentylatorami wysokociśnieniowymi, zaprojektowane pod uzgodniony poziom hałasu
- Układ pamięci masowej na zbiory danych, punkty kontrolne (checkpointy) i przestrzeń roboczą
Testy przed dostawą
Każda stacja robocza AI opuszcza Warszawę z własnym protokołem testów. Obejmuje on długotrwały test pod pełnym obciążeniem (burn-in), profil termiczny każdego GPU i pomiar hałasu względem uzgodnionego poziomu. Po dostawie Sebastian zdalnie uruchamia maszynę w środowisku klienta.
Dotychczasowe realizacje
Prace dla NVIDIA
Systemy obliczeniowe AI i systemy do produkcji wizualnej
Realizacje dla NVIDIA w obszarze systemów AI, renderingu i wizualizacji. Klienci WS.COMPUTER pochodzą z ponad 30 krajów.
Od 2014
Maszyny multi-GPU
Maszyny oparte na kolejnych generacjach GPU, każda skonfigurowana pod konkretne zadania.
Pytania o stacje robocze AI
Jak dobiera się maszynę do lokalnej inferencji LLM?
Na podstawie uruchamianych modeli. Liczba parametrów, kwantyzacja, długość kontekstu i rozmiar partii (batch size) określają potrzebną ilość VRAM i przepustowość pamięci. To pierwsze pytanie podczas konsultacji.
Chłodzenie powietrzem czy cieczą w maszynie do trenowania?
Zależy to od długotrwałego poboru mocy i docelowego poziomu hałasu. Dwa GPU często można chłodzić powietrzem. Cztery lub więcej GPU pod ciągłym obciążeniem zwykle wymagają indywidualnego układu chłodzenia cieczą.
Czy dostawa i uruchomienie są możliwe poza Polską?
Tak. Maszyny są dostarczane na terenie UE i na całym świecie w opakowaniach transportowych wykonanych na wymiar. Każda dostawa obejmuje zdalne uruchomienie w środowisku klienta.
Umów konsultację
Proszę opisać modele, dane i miejsce, w którym maszyna będzie pracować.
Można też napisać na adres info@gruency.com · Konfigurator: WS.COMPUTER