Máquina virtual frente a contenedor para aprendizaje automático

Si tu carga de trabajo de aprendizaje automático se ejecuta de forma limpia a partir de una imagen de contenedor y no necesitas administrar el sistema operativo, usa una instancia de contenedor. Si necesitas un control total del sistema operativo, quieres que Docker se comporte con normalidad o si sigues superando los límites del sistema, usa una máquina virtual (VM).

Las máquinas virtuales emulan servidores completos, incluidos su propio sistema operativo y su propio núcleo, lo que les permite ejecutar diferentes sistemas operativos como sistemas operativos invitados en el mismo hardware físico. Las máquinas virtuales son entornos informáticos aislados que emulan ordenadores físicos y contienen su propio sistema operativo, lo que permite emular servidores o escritorios completos en un único host. Esto significa que puede ejecutar diferentes sistemas operativos (como Windows, Linux o macOS) para fines de desarrollo, pruebas o compatibilidad, todos en el mismo hardware físico. Por el contrario, los contenedores virtualizan el sistema operativo, comparten el kernel del sistema operativo anfitrión y no emulan servidores completos. Esto limita los contenedores al kernel del sistema operativo anfitrión, por lo que no pueden ejecutar diferentes sistemas operativos como lo hacen las máquinas virtuales.

La computación de Hivenet es compatible con ambos, y tú eliges el tiempo de ejecución cuando creas una instancia. Si quieres un selector rápido que no sea específico para ML, empieza por aquí: VM o contenedor: cómo elegir en 60 segundos.

Introducción a la virtualización

La virtualización le permite ejecutar varias máquinas virtuales (VM) en una máquina física, de modo que puede alojar diferentes sistemas operativos y aplicaciones en un único servidor. Este enfoque le ayuda a hacer un mejor uso de los recursos del sistema: puede ejecutar varias cargas de trabajo sin tener que comprar hardware independiente para cada una de ellas. La virtualización simplifica la administración de los recursos, respalda los procesos automatizados y reduce los costos de infraestructura al colocar más cargas de trabajo en menos servidores físicos. Se ha convertido en algo esencial en el desarrollo de software y evaluación de proveedores de procesamiento distribuido porque facilita mucho las pruebas, la implementación y el escalado de las aplicaciones. Ya sea que esté ejecutando varias máquinas virtuales para diferentes proyectos o dando soporte a un entorno de desarrollo complejo, la virtualización le brinda la flexibilidad y la eficiencia que necesita para mantenerse al día con los exigentes requisitos actuales de desarrollo de software y computación en nube.] (https://compute.hivenet.com/post/why-should-developers-compute-with-hivenet)..

¿Qué son los contenedores?

Los contenedores empaquetan e implementan sus aplicaciones de manera liviana, portátil y uniforme en diferentes entornos. A diferencia de las máquinas virtuales que necesitan un sistema operativo completo para cada instancia, los contenedores comparten el kernel del sistema operativo anfitrión para ejecutar la capa de aplicación. Puede ejecutar varias aplicaciones con menos recursos: se inician rápidamente y ocupan menos espacio de almacenamiento. Los contenedores funcionan bien para las aplicaciones nativas de la nube (aplicaciones creadas específicamente para entornos de nube) en las que se necesita portabilidad y escalabilidad, especialmente cuando las pequeñas y medianas empresas lo desean aproveche las tendencias de la IA con la computación de GPU en la nube. Cuando agrupa una aplicación y todas sus dependencias en un único contenedor, el software se ejecuta de forma fiable, ya sea en su portátil, en un servidor de pruebas o en producción. Este enfoque simplifica la implementación y la administración, por lo que los equipos eligen los contenedores cuando quieren avanzar con rapidez y mantener la coherencia en los diferentes entornos.

Qué eliges en Compute: máquinas virtuales

Una instancia de contenedor es un tiempo de ejecución eficiente para ejecutar una aplicación o un servicio. Se inicia rápido, se mantiene liviano y, por lo general, es la forma más fácil de ejecutar herramientas de aprendizaje automático comunes. Los contenedores son imágenes ejecutables ligeras, portátiles e independientes que contienen aplicaciones de software y sus dependencias, lo que las hace ideales para una implementación rápida de aplicaciones. Los contenedores se pueden implementar rápida y fácilmente, lo que resulta beneficioso para las aplicaciones que necesitan un escalado rápido. Las aplicaciones en contenedores se suelen utilizar para implementar y administrar cargas de trabajo modernas de aprendizaje automático, y se pueden implementar contenedores para implementar aplicaciones de manera eficiente en varios entornos.

Una máquina virtual es un entorno Linux completo. Usted elige un sistema operativo, se conecta a través de SSH, instala paquetes de sistema, ejecuta servicios y, por lo general, lo trata como si fuera «su propio servidor». Las máquinas virtuales se suelen utilizar para escenarios de implementación de aplicaciones más complejos o cuando se necesitan implementar aplicaciones que requieren un control total del sistema operativo. Es más adecuado cuando la configuración de aprendizaje automático se parece a una máquina, no a un solo proceso.

Puede implementar contenedores para cargas de trabajo ligeras y escalables, o usar máquinas virtuales para necesidades de implementación de aplicaciones antiguas o más complejas.

Si quieres tener una visión más amplia de lo que ha cambiado, lee: Compute ahora admite máquinas virtuales (VM).

Los factores específicos de ML que realmente importan: sistema operativo

Control ambiental
El trabajo de ML rara vez consiste en «ejecutar solo un binario». Terminas necesitando herramientas de Python, bibliotecas de sistema, versiones específicas de paquetes, procesos en segundo plano y, a veces, dependencias extrañas. Si las limitaciones del entorno te bloquean constantemente, una máquina virtual detiene la fricción. Los contenedores, que suelen tener un tamaño más pequeño en comparación con las máquinas virtuales, son más rápidos de implementar y escalar, y optimizan el uso de los recursos, lo que permite un escalado e implementación más rentables.

Reproducibilidad
Los contenedores son resistentes en cuanto a repetibilidad porque se convierte el entorno en una imagen y se ejecuta de la misma manera cada vez. Los contenedores utilizan definiciones estáticas para sus entornos, lo que ayuda a garantizar la coherencia y reduce las desviaciones de la configuración, ya que los contenedores suelen destruirse y redistribuirse con frecuencia. Las máquinas virtuales también pueden ser reproducibles, pero hay que ser más disciplinado a la hora de configurarlas.

Forma del flujo de trabajo
Algunos flujos de trabajo de ML parecen un servicio (un servidor de inferencia). Otros parecen un sistema pequeño (API + cola + trabajador + interfaz de usuario + almacenamiento). Los sistemas multiservicio suelen resultar más naturales en una máquina virtual, especialmente si confías en Docker Compose.

Comodidad de seguridad y aislamiento
Una máquina virtual le brinda un límite más sólido de «máquina separada». Si opera en un entorno más estricto, o simplemente desea un mayor aislamiento para su tranquilidad, ese puede ser un factor decisivo.

Control de costos
Por lo general, el costo tiene menos que ver con el tipo de tiempo de ejecución y más con el hardware y el tiempo que lo dejas en funcionamiento. Dicho esto, los contenedores suelen ayudarte a «terminar» más rápido, lo que puede reducir el tiempo de ejecución desperdiciado. Los contenedores suelen ser considerablemente más económicos que las máquinas virtuales debido a su menor peso y a su uso más eficiente de los recursos, lo que los convierte en una opción rentable para muchas cargas de trabajo de aprendizaje automático. Este artículo se centra en ese aspecto de la cuestión: Precios de máquinas virtuales con GPU en la nube: lo que realmente estás pagando.

Escenarios de aprendizaje automático comunes y el tiempo de ejecución que elegiría

Estás creando prototipos o experimentando Empieza con una instancia de contenedor. Empezarás a trabajar más rápido y, si el experimento fracasa (como ocurre con muchos otros), no tendrás que mantener un entorno similar al de un servidor. Si más adelante descubres que necesitas controlar el sistema, el cambio es normal: Cuándo vale la pena cambiar de una instancia de contenedor a una VM.

Estás entrenando o ajustando con una pila conocida Si tu trabajo de formación ya se ejecuta a partir de una imagen de contenedor, quédate con los contenedores. Los contenedores se suelen utilizar para microservicios, aplicaciones web y canalizaciones de CI/CD, y son ideales para escalar rápidamente los trabajos de formación de aprendizaje automático o para inferir API mediante herramientas de orquestación como Kubernetes o Docker Swarm. Esto es especialmente cierto cuando se está iterando el código y se quieren ejecutar de forma repetible. Una máquina virtual se vuelve atractiva cuando necesitas herramientas a nivel del sistema operativo, dependencias especiales del sistema o cuando estás creando un entorno de entrenamiento duradero al que siempre vuelves.

Estás sirviendo a la inferencia Una instancia de contenedor suele ser la ruta de inferencia más limpia porque se asigna bien a «ejecutar un servicio, exponerlo y reemplazarlo cuando se actualiza». Si la configuración de la inferencia necesita varios servicios que cooperen entre sí, componentes del sistema personalizados o un diseño similar al de un host, opte por una máquina virtual. Por lo general, las máquinas virtuales se utilizan para aplicaciones antiguas y para diversos requisitos de sistemas operativos, y pueden ejecutar cualquier sistema operativo huésped, independientemente del sistema operativo del host.

Estás creando una pila de aprendizaje automático multiservicio Máquina virtual ligera. En el momento en que tienes una interfaz de usuario web, una API, un trabajador y una cola, te encuentras en el territorio de los «sistemas pequeños». Los contenedores permiten descomponer aplicaciones monolíticas en varios contenedores (microservicios), lo que mejora la escalabilidad y la capacidad de administración. La administración de aplicaciones en contenedores suele realizarse con herramientas de orquestación como Kubernetes, y un tiempo de ejecución de contenedores como Docker es esencial para ejecutar y administrar los contenedores. Si Docker forma parte de tu flujo de trabajo, una máquina virtual te resultará familiar. Empieza aquí: Ejecute Docker de la forma habitual en una máquina virtual de procesamiento. Para configurar Docker paso a paso, usa: Instalación de Docker en Compute. Las cargas de trabajo en contenedores se pueden gestionar junto con las máquinas virtuales para ofrecer flexibilidad en pilas complejas.

Estás haciendo puntos de referencia o comparaciones de rendimiento Máquina virtual ligera. La evaluación comparativa consiste principalmente en controlar las variables. Una máquina virtual le brinda un sistema operativo base consistente y un lugar estable para las herramientas. Si quieres una explicación sencilla sobre «quién necesita una máquina virtual con GPU», usa: Máquina virtual GPU: qué es y quién la necesita realmente.

Estás bloqueado por necesidades a nivel del sistema Esta es la señal de VM más clara. Si sigues necesitando instalaciones a nivel de sistema operativo, sudo o servicios de sistema operativo, estás harto del debate. Cambie a una máquina virtual y continúe. Las máquinas virtuales son ideales para aplicaciones antiguas que requieren un aislamiento sólido, sistemas operativos diversos o una asignación de recursos a nivel de hardware. La guía de conmutadores está aquí: Cuándo vale la pena cambiar de una instancia de contenedor a una VM.

Las organizaciones pueden usar contenedores para el desarrollo de aplicaciones modernas y, al mismo tiempo, confiar en las máquinas virtuales para las aplicaciones heredadas. Los contenedores también se pueden ejecutar dentro de las máquinas virtuales para combinar los beneficios de ambas tecnologías, como la portabilidad y la seguridad.

Un práctico valor predeterminado que te mantiene alejado de los problemas

Si aún no lo sabes, comienza con una instancia de contenedor. Los contenedores pueden ejecutar varias aplicaciones en el mismo hardware de manera más eficiente que las máquinas virtuales, al compartir recursos con otros contenedores de la máquina host. Esto hace que los contenedores sean ideales para maximizar la utilización de los recursos y la rentabilidad.

Los contenedores son más livianos y portátiles que las máquinas virtuales, lo que los hace adecuados para la creación rápida de prototipos y el escalado. Pueden iniciarse y detenerse en unos segundos, mientras que las máquinas virtuales suelen tardar unos minutos en arrancar.

Cambie a una máquina virtual en el momento en que sus notas comiencen a llenarse de soluciones alternativas del entorno. Si ha pasado una hora intentando hacer que un contenedor se comporte como un servidor normal, esa es su respuesta.

Mejores prácticas para contenedores y máquinas virtuales

Querrá usar herramientas y métodos específicos para ejecutar contenedores y máquinas virtuales de manera eficaz. Usa un motor de contenedores como Docker para administrar tus cargas de trabajo y crea archivos de compilación estáticos (como Dockerfiles) para que cada implementación sea uniforme y repetible. En el caso de las máquinas virtuales, usa un hipervisor para asignar los recursos del sistema y ejecuta varias máquinas virtuales en un host físico para aprovechar al máximo tu hardware. En los entornos de nube, puede combinar contenedores y máquinas virtuales en una configuración híbrida, lo que le brinda flexibilidad, aislamiento y la capacidad de escalar. Si sigue estos métodos, mejorará su infraestructura, reducirá los costos y se asegurará de que tanto los contenedores como las máquinas virtuales admitan sus cargas de trabajo de manera eficaz.

Cómo llegar a su aplicación de aprendizaje automático desde el exterior en entornos de nube

Aquí es donde la gente pierde tiempo, por lo que vale la pena decirlo claramente: «la aplicación se ejecuta» y «puedo acceder a ella» son problemas distintos.

Si estás probando una interfaz de usuario de forma privada, el reenvío de puertos SSH suele ser la ruta menos complicada. Si necesitas un enlace web público, usa HTTPS. Si necesitas conexiones directas con los clientes, usa TCP o UDP.

El futuro del aprendizaje automático con contenedores y máquinas virtuales

La infraestructura de aprendizaje automático necesita contenedores y máquinas virtuales para funcionar correctamente. Los contenedores empaquetan los modelos de aprendizaje automático con sus dependencias, para que pueda implementarlos rápidamente y obtener los mismos resultados en diferentes entornos. Las máquinas virtuales le brindan el aislamiento y la seguridad que necesitan las cargas de trabajo de aprendizaje automático sensibles o con muchos recursos, especialmente cuando se trata de requisitos de cumplimiento o configuraciones de sistemas personalizadas. Cuando utiliza contenedores y máquinas virtuales de forma conjunta, su organización puede escalar los recursos de la nube cuando sea necesario y ejecutar aplicaciones complejas. A medida que las cargas de trabajo de aprendizaje automático se hagan más grandes y complejas, necesitará tanto contenedores como máquinas virtuales para implementar, administrar e innovar de manera eficaz. Las organizaciones que utilizan estas tecnologías gestionarán mejor las demandas modernas de aprendizaje automático y crearán nuevas oportunidades en la computación en nube.

Pruebe Compute para aplicaciones en contenedores

Si desea tomar la decisión con un riesgo mínimo, inicie la configuración más pequeña que pueda ejecutar su flujo de trabajo, ejecute una prueba real y, a continuación, decida si desea la velocidad de los contenedores o el control de una máquina virtual.

‍