GRUENCY  /  Estaciones de trabajo para IA

Estaciones de trabajo para IA bajo carga sostenida

El entrenamiento de modelos y la inferencia local de LLM mantienen una máquina a plena potencia durante horas o días. GRUENCY dimensiona las GPU, la alimentación y la refrigeración para esa carga continua. Cada estación de trabajo para IA se prueba con burn-in antes de la entrega.

Configurar en WS.COMPUTER

Qué se decide antes del pedido

El cálculo, la memoria, las líneas PCIe, la alimentación y el ruido se especifican de forma conjunta, a partir de los modelos que usted ejecuta.

  • Clase de GPU y VRAM dimensionadas según los modelos: cuantización, longitud de contexto y tamaño de lote
  • Topología PCIe planificada ranura por ranura, con el ancho de enlace indicado para cada GPU
  • Plataforma de estación de trabajo o de servidor, con memoria ECC cuando el trabajo lo requiere
  • Alimentación con margen sobre el consumo sostenido medido
  • Refrigeración por agua o por aire de alta presión, diseñada según un objetivo de ruido acordado
  • Distribución del almacenamiento para conjuntos de datos, checkpoints y espacio temporal

Pruebas antes de la entrega

Cada estación de trabajo para IA sale de Varsovia con su propio registro de pruebas. Este incluye una prueba de burn-in a plena carga sostenida, un perfil térmico de cada GPU y un control de ruido frente al objetivo acordado. A la llegada, Sebastian pone en marcha la máquina a distancia en su entorno.

Interior de un equipo WS.COMPUTER: bloque de agua de la CPU, tubos del circuito, bancos de memoria y controlador de refrigerante

Trabajos anteriores

Prototipo, 2017

11 GPU refrigeradas por agua en un solo chasis

Una plataforma de servidor de doble CPU en una única caja diseñada en CAD, refrigerada por un solo circuito de agua.

Trabajos para NVIDIA

Sistemas de cálculo para IA y de producción visual

Trabajos para NVIDIA en sistemas de IA, renderizado y visualización. Los clientes de WS.COMPUTER se encuentran en más de 30 países.

Desde 2014

Equipos multi-GPU

Máquinas de sucesivas generaciones de GPU, cada una especificada para su carga de trabajo.

Preguntas sobre estaciones de trabajo para IA

¿Cómo se dimensiona una máquina para la inferencia local de LLM?

A partir de los modelos que usted ejecuta. El número de parámetros, la cuantización, la longitud de contexto y el tamaño de lote determinan la VRAM y el ancho de banda de memoria necesarios. Es la primera pregunta de la consulta.

¿Refrigeración por aire o por agua para una máquina de entrenamiento?

Depende del consumo sostenido y del objetivo de ruido. A menudo, dos GPU pueden refrigerarse por aire. Cuatro o más GPU bajo carga continua suelen necesitar un circuito de agua a medida.

¿Realizan la entrega y la puesta en marcha fuera de Polonia?

Sí. Las máquinas se entregan en toda la UE y en el resto del mundo en un embalaje de transporte a medida. La puesta en marcha a distancia en su entorno forma parte de cada entrega.

Solicite una consulta

Describa los modelos, los datos y dónde se utilizará la máquina.

O escriba a info@gruency.com  ·  Configure en WS.COMPUTER