GRUENCY  /  AI वर्कस्टेशन

लगातार लोड के लिए AI वर्कस्टेशन

मॉडल ट्रेनिंग और लोकल LLM इन्फ़रेंस मशीन को घंटों या दिनों तक पूरी पावर पर रखते हैं। GRUENCY इसी लगातार लोड के अनुसार GPU, पावर डिलीवरी और कूलिंग तय करता है। हर AI वर्कस्टेशन डिलीवरी से पहले बर्न-इन में टेस्ट किया जाता है।

WS.COMPUTER पर कॉन्फ़िगर करें

ऑर्डर से पहले क्या तय किया जाता है

कंप्यूट, मेमोरी, PCIe लेन, पावर और नॉइज़ एक साथ स्पेसिफ़ाई किए जाते हैं, आपके द्वारा चलाए जाने वाले मॉडलों से शुरू करके।

  • मॉडल के अनुसार GPU क्लास और VRAM: क्वांटाइज़ेशन, कॉन्टेक्स्ट लेंथ और बैच साइज़
  • स्लॉट-दर-स्लॉट योजनाबद्ध PCIe टोपोलॉजी, हर GPU की लिंक विड्थ के उल्लेख के साथ
  • वर्कस्टेशन या सर्वर प्लेटफ़ॉर्म, जहाँ काम की ज़रूरत हो वहाँ ECC मेमोरी के साथ
  • मापे गए लगातार ड्रॉ से अधिक हेडरूम वाली पावर डिलीवरी
  • वॉटर-कूलिंग या हाई-प्रेशर एयर कूलिंग, तय नॉइज़ लक्ष्य के अनुसार डिज़ाइन की गई
  • डेटासेट, चेकपॉइंट और स्क्रैच स्पेस के लिए स्टोरेज लेआउट

डिलीवरी से पहले टेस्टिंग

हर AI वर्कस्टेशन अपने टेस्ट रिकॉर्ड के साथ वारसॉ से रवाना होता है। इसमें लगातार फ़ुल-लोड बर्न-इन, हर GPU की थर्मल प्रोफ़ाइल और तय लक्ष्य के मुकाबले नॉइज़ जाँच शामिल है। पहुँचने पर Sebastian मशीन को रिमोट रूप से आपके एनवायरनमेंट में कमीशन करते हैं। स्पीड भी मापी जाती है: GPU और मेमोरी परफ़ॉर्मेंस, और लैंग्वेज मॉडल पर टोकन प्रति सेकंड।

बिल्ड का अंदरूनी भाग: WS.COMPUTER बिल्ड में CPU वॉटर ब्लॉक, लूप ट्यूबिंग, मेमोरी बैंक और कूलेंट कंट्रोलर

पिछला कार्य

प्रोटोटाइप, 2017

एक चेसिस में 11 वॉटर-कूल्ड GPU

एक ही CAD-डिज़ाइन किए गए केस में डुअल-CPU सर्वर प्लेटफ़ॉर्म, एक वॉटर लूप से कूल किया गया।

NVIDIA के लिए वेंडर कार्य

AI कंप्यूट और विज़ुअल प्रोडक्शन सिस्टम्स

AI, रेंडरिंग और विज़ुअलाइज़ेशन सिस्टम्स पर NVIDIA के लिए वेंडर कार्य। WS.COMPUTER के क्लाइंट्स 30 से अधिक देशों में हैं।

2011 से

मल्टी-GPU बिल्ड

GPU की लगातार पीढ़ियों में बनी मशीनें, हर एक अपने वर्कलोड के अनुसार स्पेसिफ़ाई की गई।

AI वर्कस्टेशन के बारे में प्रश्न

लोकल LLM इन्फ़रेंस के लिए मशीन का साइज़ कैसे तय करते हैं?

आपके द्वारा चलाए जाने वाले मॉडलों से। पैरामीटर संख्या, क्वांटाइज़ेशन, कॉन्टेक्स्ट लेंथ और बैच साइज़ आवश्यक VRAM और मेमोरी बैंडविड्थ तय करते हैं। कंसल्टेशन में यही पहला प्रश्न होता है।

ट्रेनिंग मशीन के लिए एयर कूलिंग या वॉटर कूलिंग?

यह लगातार पावर ड्रॉ और नॉइज़ लक्ष्य पर निर्भर करता है। दो GPU को अक्सर एयर-कूल किया जा सकता है। लगातार लोड में चार या अधिक GPU के लिए आमतौर पर कस्टम वॉटर लूप चाहिए।

क्या आप पोलैंड के बाहर डिलीवरी और कमीशनिंग करते हैं?

हाँ। मशीनें कस्टम ट्रांसपोर्ट पैकेजिंग में पूरे EU और विश्वभर में डिलीवर की जाती हैं। आपके एनवायरनमेंट में रिमोट कमीशनिंग हर डिलीवरी का हिस्सा है।

कंसल्टेशन का अनुरोध करें

मॉडल, डेटा और मशीन कहाँ उपयोग होगी, इसका विवरण दें।

या ईमेल करें info@gruency.com  ·  WS.COMPUTER पर कॉन्फ़िगर करें