אב טיפוס, 2017
11 מעבדי GPU בקירור מים במארז אחד
פלטפורמת שרת דו-מעבדית במארז יחיד בתכנון CAD, המקוררת במעגל מים אחד.
GRUENCY / תחנות עבודה ל-AI
תחנות עבודה ל-AI לעומס ממושך
אימון מודלים והסקה מקומית של LLM מחזיקים מכונה בהספק מלא במשך שעות או ימים. GRUENCY מגדירה את מעבדי ה-GPU, אספקת החשמל והקירור לעומס רציף זה. כל תחנת עבודה ל-AI נבדקת ב-burn-in לפני האספקה.
מה נקבע לפני ההזמנה
כוח חישוב, זיכרון, נתיבי PCIe, הספק ורעש מוגדרים יחד, החל מהמודלים שאתם מריצים.
- סוג GPU ו-VRAM בהתאם למודלים: קוונטיזציה, אורך הקשר וגודל אצווה
- טופולוגיית PCIe מתוכננת חריץ אחר חריץ, עם רוחב הקישור של כל GPU
- פלטפורמת תחנת עבודה או שרת, עם זיכרון ECC כשהעבודה דורשת זאת
- אספקת חשמל עם מרווח מעל הצריכה הממושכת הנמדדת
- קירור מים או קירור אוויר בלחץ גבוה, מתוכנן ליעד רעש מוסכם
- פריסת אחסון למערכי נתונים, לנקודות ביקורת (checkpoints) ולשטח עבודה זמני
בדיקות לפני האספקה
כל תחנת עבודה ל-AI יוצאת מוורשה עם רשומת בדיקות משלה. היא כוללת בדיקת burn-in ממושכת בעומס מלא, פרופיל תרמי לכל GPU ובדיקת רעש מול היעד המוסכם. עם ההגעה, Sebastian מפעיל את המכונה מרחוק בסביבה שלכם. גם המהירות נמדדת: ביצועי GPU וזיכרון, וטוקנים לשנייה במודלי שפה.
עבודות קודמות
עבודה כספק עבור NVIDIA
מערכות מחשוב ל-AI ולהפקה חזותית
עבודה כספק עבור NVIDIA על מערכות AI, רינדור והדמיה. לקוחות WS.COMPUTER נמצאים ביותר מ-30 מדינות.
מאז 2011
בניות מרובות GPU
מכונות לאורך דורות GPU עוקבים, כל אחת מוגדרת לעומס העבודה שלה.
שאלות על תחנות עבודה ל-AI
כיצד מגדירים מכונה להסקה מקומית של LLM?
לפי המודלים שאתם מריצים. מספר הפרמטרים, הקוונטיזציה, אורך ההקשר וגודל האצווה קובעים את ה-VRAM ואת רוחב פס הזיכרון הנדרשים. זו השאלה הראשונה בייעוץ.
קירור אוויר או מים למכונת אימון?
הדבר תלוי בצריכת ההספק הממושכת וביעד הרעש. שני מעבדי GPU ניתן לעיתים קרובות לקרר באוויר. ארבעה מעבדי GPU ויותר בעומס רציף דורשים בדרך כלל מעגל קירור מים ייעודי.
האם אתם מספקים ומפעילים מחוץ לפולין?
כן. המכונות מסופקות ברחבי האיחוד האירופי ובכל העולם באריזת הובלה ייעודית. הפעלה מרחוק בסביבה שלכם היא חלק מכל אספקה.
בקשת ייעוץ
תארו את המודלים, את הנתונים ואת המקום שבו המכונה תשמש.
או בדוא״ל info@gruency.com · הגדרת תצורה ב- WS.COMPUTER