Máquinas virtuales vCPU: cuando no necesita una GPU

Las GPU son el tema principal, pero hay mucho trabajo real antes y después de la etapa de GPU. Las descargas, el preprocesamiento, el empaquetado, la orquestación, la unión de API y «hacer que funcione de forma fiable» suelen ser tareas de la CPU. Pagar el precio de la GPU mientras se trabaja con la CPU es una de las maneras más fáciles de acumular créditos sin obtener ningún beneficio.

En Compute con Hivenet, puede lanzar una máquina virtual (VM) sin una GPU. Tienes la misma forma de «servidor Linux real», solo que funciona con vCPU en lugar de GPU.

Si aún estás decidiendo si quieres una VM, empieza por aquí: [[Interlink: VM o contenedor: cómo elegir en 60 segundos]]. Si tu pregunta es «¿Necesito una máquina virtual con GPU?» esta ayuda: Máquina virtual GPU: qué es y quién la necesita realmente.

Qué es una máquina virtual vCPU, en inglés sencillo

Una máquina virtual vCPU es una máquina Linux completa sin GPU conectadas. Elige un sistema operativo, te conectas a través de SSH, instalas paquetes con sudo, ejecutas servicios en segundo plano y mantienes un entorno de sistema que se comporte como un servidor normal.

Esa parte del «control total del sistema operativo» es la razón por la que se usa una máquina virtual, incluso para cargas de trabajo que solo utilizan CPU. Si no necesitas controlar el sistema operativo, una instancia de contenedor suele ser la opción más sencilla.

Cuando una máquina virtual vCPU es la herramienta adecuada

Use una máquina virtual de vCPU cuando necesite un entorno con forma de servidor, pero su carga de trabajo no se beneficie de la aceleración de la GPU.

Ejemplos comunes:

La preparación de datos y el ETL que alimentan la GPU funcionan más adelante.
La descarga de conjuntos de datos, la conversión de formatos, la extracción de archivos, la limpieza del texto, el cambio de tamaño de las imágenes, la fragmentación de documentos y la creación de entradas de formación e inferencia suelen estar vinculadas a la CPU.

Ejecutar «servicios de soporte» para su pila de IA.
Esto incluye API ligeras, colas de trabajos, programadores, proxies inversos y herramientas internas que coordinan los trabajos de la GPU. Si la GPU está inactiva mientras se ejecuta el servicio, manténgalo en la vCPU.

Inferencia de CPU para cargas de trabajo pequeñas o que no son críticas para la latencia.
Algunos modelos y tareas funcionan bien en la CPU, especialmente cuando el rendimiento y la latencia no son estrictos. Si el rendimiento de la vCPU es aceptable, no compres una GPU por costumbre. Si no es aceptable, cámbiala. Sencillo.

Crea, empaqueta y realiza tareas similares a las de CI.
La compilación de dependencias, la creación de ruedas, el empaquetado de artefactos, la creación de imágenes de contenedores, la ejecución de pruebas o la preparación de paquetes desplegables suelen ser tareas de la CPU. Si Docker forma parte del flujo de trabajo, una máquina virtual suele ser más fácil: Ejecute Docker de la forma habitual en una máquina virtual de procesamiento.

Una máquina de «mesa de trabajo» de larga duración.
Si desea un entorno uniforme al que pueda volver (cadenas de herramientas, scripts, servicios), pero no necesita una GPU conectada todo el tiempo, las máquinas virtuales vCPU son una base práctica.

Si algo de esto suena como «Quiero un servidor Linux que yo controle», una máquina virtual vCPU es una buena opción.

Cuándo debe usar un recipiente en su lugar

Usa una instancia de contenedor (incluso en vCPU) cuando tu objetivo sea «ejecutar esta carga de trabajo» y no quieras administrar el sistema operativo.

Los contenedores suelen ser la elección correcta para:

• Secuencias de comandos de corta duración y ejecuciones repetibles.
• Un servicio único que no necesita servicios del sistema ni una personalización profunda del sistema operativo.
• Cargas de trabajo que se asignan de forma limpia a una plantilla o a una configuración en contenedores.

Si tu contenedor sigue bloqueándote, esa es la señal para pasar a una máquina virtual: Cuándo vale la pena cambiar de una instancia de contenedor a una VM.

Cuándo deberías seguir pagando por una GPU

Utilice una GPU cuando la carga de trabajo realmente se beneficie de ella, especialmente para cargas de trabajo informáticas modernas aceleradas por GPU.

Por lo general, eso incluye:

• Formación y puesta a punto.
• Inferencia de modelos grandes en la que el rendimiento de la CPU no es aceptable.
• Servicios de inferencia sensibles a la latencia donde el tiempo de respuesta es importante.

Si no está seguro de si la GPU vale la pena, este es el enfoque simple: primero ejecute una pequeña prueba en la vCPU. Si es evidente que el rendimiento no es lo suficientemente bueno, pásate a la GPU con confianza.

Un patrón económico que funciona bien

Divida su canalización.

Dedique los pasos que consumen mucha CPU a la vCPU (preparación, orquestación, descargas, empaquetado). Utilice las GPU únicamente para las tareas que requieren un uso intensivo de la GPU (entrenamiento, inferencia intensiva), como Cargas de trabajo de IA comunes para las pymes. Cierre la instancia de GPU tan pronto como esté lista.

Esta es la misma lógica de nuestro artículo sobre precios, pero aplicada de forma práctica: Precios de máquinas virtuales con GPU en la nube: lo que realmente estás pagando.

Si necesitas Docker para tu pila de CPU, no ocultes las instrucciones en una entrada de blog. Usa el tutorial de documentación: Instalación de Docker en una máquina virtual de procesamiento. Para los proveedores que piensan en el lado de la oferta de este modelo, nuestra entrevista con El primer proveedor certificado de GPU de Hivenet muestra cómo la capacidad de la GPU puede pasar de la minería a la IA.

El acceso y la creación de redes siguen siendo importantes

La relación entre CPU y GPU no cambia la forma en que se llega a la máquina ni se exponen los servicios.

Si estás probando una interfaz de usuario de forma privada, el reenvío de puertos SSH suele ser la ruta más limpia. Si necesitas un enlace público, usa HTTPS. Si necesitas conexiones directas con los clientes, usa TCP o UDP.

No te dejes sorprender por la persistencia

Detener/iniciar es útil, pero no trate una instancia detenida como almacenamiento a largo plazo.

¿Qué sistema operativo deberías elegir?

Si no tienes ninguna preferencia, Ubuntu suele ser la opción menos sorprendente. Si te preocupa más la estabilidad o las herramientas más nuevas, Debian y Fedora pueden tener sentido.

Prueba Compute

Si pagas por las GPU mientras trabajas con la CPU, una máquina virtual vCPU es la solución más fácil. Lanza una máquina virtual de vCPU pequeña, ejecuta allí los pasos de la CPU y, a continuación, activa las GPU solo cuando realmente las necesites.

‍