Πρωτότυπο, 2017
11 υδρόψυκτες GPU σε ένα πλαίσιο
Πλατφόρμα server δύο CPU σε ενιαίο πλαίσιο σχεδιασμένο σε CAD, με ψύξη από ένα κύκλωμα υδρόψυξης.
GRUENCY / Σταθμοί εργασίας AI
Σταθμοί εργασίας AI για συνεχές φορτίο
Η εκπαίδευση μοντέλων και το τοπικό inference LLM κρατούν ένα μηχάνημα σε πλήρη ισχύ για ώρες ή μέρες. Η GRUENCY διαστασιολογεί τις GPU, την τροφοδοσία και την ψύξη για αυτό το συνεχές φορτίο. Κάθε σταθμός εργασίας AI δοκιμάζεται με burn-in πριν από την παράδοση.
Τι αποφασίζεται πριν από την παραγγελία
Υπολογιστική ισχύς, μνήμη, γραμμές PCIe, τροφοδοσία και θόρυβος προσδιορίζονται μαζί, με αφετηρία τα μοντέλα που χρησιμοποιείτε.
- Κατηγορία GPU και VRAM ανάλογα με τα μοντέλα: κβαντοποίηση, μήκος context και μέγεθος batch
- Τοπολογία PCIe σχεδιασμένη υποδοχή προς υποδοχή, με δηλωμένο το εύρος σύνδεσης κάθε GPU
- Πλατφόρμα σταθμού εργασίας ή server, με μνήμη ECC όπου το απαιτεί η εργασία
- Τροφοδοσία με περιθώριο πάνω από τη μετρημένη συνεχή κατανάλωση
- Υδρόψυξη ή αερόψυξη υψηλής στατικής πίεσης, σχεδιασμένη για συμφωνημένο στόχο θορύβου
- Διάταξη αποθήκευσης για σύνολα δεδομένων, checkpoints και προσωρινό χώρο εργασίας
Δοκιμές πριν από την παράδοση
Κάθε σταθμός εργασίας AI φεύγει από τη Βαρσοβία με το δικό του πρωτόκολλο δοκιμών. Περιλαμβάνει burn-in υπό συνεχές πλήρες φορτίο, θερμικό προφίλ για κάθε GPU και έλεγχο θορύβου έναντι του συμφωνημένου στόχου. Κατά την παραλαβή, ο Sebastian θέτει το μηχάνημα σε λειτουργία εξ αποστάσεως στο περιβάλλον σας. Μετριέται και η ταχύτητα: απόδοση GPU και μνήμης, καθώς και tokens ανά δευτερόλεπτο σε γλωσσικά μοντέλα.
Προηγούμενες εργασίες
Εργασίες ως προμηθευτής της NVIDIA
Συστήματα υπολογισμών AI και οπτικής παραγωγής
Εργασίες ως προμηθευτής της NVIDIA σε συστήματα AI, rendering και οπτικοποίησης. Οι πελάτες της WS.COMPUTER βρίσκονται σε περισσότερες από 30 χώρες.
Από το 2011
Κατασκευές πολλαπλών GPU
Μηχανήματα σε διαδοχικές γενιές GPU, το καθένα με προδιαγραφές για το δικό του φορτίο εργασίας.
Ερωτήσεις για σταθμούς εργασίας AI
Πώς διαστασιολογείται ένα μηχάνημα για τοπικό inference LLM;
Με βάση τα μοντέλα που χρησιμοποιείτε. Ο αριθμός παραμέτρων, η κβαντοποίηση, το μήκος context και το μέγεθος batch καθορίζουν την απαιτούμενη VRAM και το εύρος ζώνης μνήμης. Αυτή είναι η πρώτη ερώτηση στη συμβουλευτική συνάντηση.
Αερόψυξη ή υδρόψυξη για μηχάνημα εκπαίδευσης;
Εξαρτάται από τη συνεχή κατανάλωση ισχύος και τον στόχο θορύβου. Δύο GPU συχνά μπορούν να ψύχονται με αέρα. Τέσσερις ή περισσότερες GPU υπό συνεχές φορτίο χρειάζονται συνήθως κύκλωμα υδρόψυξης κατά παραγγελία.
Παραδίδετε και θέτετε σε λειτουργία εκτός Πολωνίας;
Ναι. Τα μηχανήματα παραδίδονται σε όλη την ΕΕ και παγκοσμίως σε ειδική συσκευασία μεταφοράς. Η θέση σε λειτουργία εξ αποστάσεως στο περιβάλλον σας περιλαμβάνεται σε κάθε παράδοση.
Αίτημα συμβουλευτικής συνάντησης
Περιγράψτε τα μοντέλα, τα δεδομένα και πού θα χρησιμοποιείται το μηχάνημα.
Ή στείλτε email στο info@gruency.com · Διαμόρφωση στο WS.COMPUTER