Máquina virtual versus contêiner para aprendizado de máquina

Se sua carga de trabalho de aprendizado de máquina for executada de forma limpa a partir de uma imagem de contêiner e você não precisar gerenciar o sistema operacional, use uma instância de contêiner. Se você precisar de controle total do sistema operacional, quiser que o Docker se comporte normalmente ou continuar atingindo os limites do sistema, use uma máquina virtual (VM).

As máquinas virtuais emulam servidores inteiros, incluindo seu próprio sistema operacional e seu próprio kernel, permitindo que elas executem sistemas operacionais diferentes como sistemas operacionais convidados no mesmo hardware físico. As VMs são ambientes de computação isolados que emulam computadores físicos e contêm seu próprio sistema operacional, possibilitando a emulação de servidores ou desktops inteiros em um único host. Isso significa que você pode executar sistemas operacionais diferentes (como Windows, Linux ou macOS) para fins de desenvolvimento, teste ou compatibilidade, tudo no mesmo hardware físico. Em contraste, os contêineres virtualizam o sistema operacional, compartilhando o kernel do sistema operacional hospedeiro e não emulam servidores inteiros. Isso limita os contêineres ao kernel do sistema operacional hospedeiro, portanto, eles não podem executar sistemas operacionais diferentes como as VMs.

O Hivenet Compute suporta ambos, e você escolhe o tempo de execução ao criar uma instância. Se você quiser um seletor rápido e não específico de ML, comece aqui: VM ou contêiner: como escolher em 60 segundos.

Introdução à virtualização

A virtualização permite que você execute várias máquinas virtuais (VMs) em uma máquina física, para que você possa hospedar diferentes sistemas operacionais e aplicativos em um único servidor. Essa abordagem ajuda você a usar melhor os recursos do sistema — você pode executar várias cargas de trabalho sem comprar hardware separado para cada uma. A virtualização simplifica a forma como você gerencia recursos, suporta processos automatizados e reduz os custos de infraestrutura ao colocar mais cargas de trabalho em menos servidores físicos. Tornou-se essencial no desenvolvimento de software e avaliação de provedores de computação distribuída porque facilita muito o teste, a implantação e o dimensionamento de aplicativos. Se você estiver executando várias máquinas virtuais para projetos diferentes ou dando suporte a um ambiente de desenvolvimento complexo, a virtualização oferece a flexibilidade e a eficiência necessárias para acompanhar os exigentes requisitos atuais de desenvolvimento de software e computação em nuvem.] (https://compute.hivenet.com/post/why-should-developers-compute-with-hivenet)..

O que são contêineres?

Os contêineres empacotam e implantam seus aplicativos de uma forma leve, portátil e consistente em diferentes ambientes. Diferentemente das máquinas virtuais que precisam de um sistema operacional completo para cada instância, os contêineres compartilham o kernel do sistema operacional do host para executar a camada de aplicação. Você pode executar vários aplicativos com menos recursos — eles são inicializados rapidamente e usam menos espaço de armazenamento. Os contêineres funcionam bem para aplicativos nativos da nuvem (aplicativos criados especificamente para ambientes em nuvem) nos quais você precisa de portabilidade e escalabilidade, especialmente quando pequenas e médias empresas desejam aproveite as tendências de IA com a computação de GPU em nuvem. Quando você agrupa um aplicativo e todas as suas dependências em um único contêiner, seu software é executado de forma confiável, seja em seu laptop, em um servidor de teste ou em produção. Essa abordagem simplifica a implantação e o gerenciamento, e é por isso que as equipes escolhem contêineres quando querem se mover rapidamente e manter as coisas consistentes em diferentes ambientes.

O que você está escolhendo na computação: máquinas virtuais

Uma instância de contêiner é um tempo de execução eficiente para executar um aplicativo ou serviço. Ele começa rápido, permanece leve e geralmente é a maneira mais fácil de executar ferramentas comuns de ML. Os contêineres são imagens executáveis leves, portáteis e independentes que contêm aplicativos de software e suas dependências, tornando-os ideais para implantação rápida de aplicativos. Os contêineres podem ser implantados com rapidez e facilidade, o que é benéfico para aplicativos que precisam de escalabilidade rápida. Os aplicativos em contêineres são comumente usados para implantar e gerenciar cargas de trabalho modernas de ML, e você pode implantar contêineres para implantar aplicativos com eficiência em vários ambientes.

Uma VM é um ambiente Linux completo. Você escolhe um sistema operacional, se conecta por SSH, instala pacotes do sistema, executa serviços e geralmente o trata como “seu próprio servidor”. As VMs geralmente são usadas para cenários de implantação de aplicativos mais complexos ou quando você precisa implantar aplicativos que exigem controle total do sistema operacional. É mais adequado quando sua configuração de ML parece uma máquina, não um único processo.

Você pode implantar contêineres para cargas de trabalho leves e escaláveis ou usar VMs para necessidades de implantação de aplicativos mais complexos ou legados.

Se você quiser uma visão geral mais ampla do que mudou, leia: A computação agora oferece suporte a máquinas virtuais (VMs).

Os fatores específicos de ML que realmente importam: sistema operacional

Controle ambiental
O trabalho de ML raramente é “executar apenas um binário”. Você acaba precisando de ferramentas Python, bibliotecas do sistema, versões específicas de pacotes, processos em segundo plano e, às vezes, dependências estranhas. Se você está constantemente bloqueado pelas limitações do ambiente, uma VM interrompe o atrito. Os contêineres, geralmente menores em comparação às máquinas virtuais, são mais rápidos de implantar e escalar e otimizam o uso de recursos, permitindo escalabilidade e implantação mais econômicas.

Reprodutibilidade
Os contêineres são fortes em termos de repetibilidade porque você transforma o ambiente em uma imagem e o executa sempre da mesma forma. Os contêineres usam definições estáticas para seus ambientes, o que ajuda a garantir a consistência e reduz o desvio de configuração, já que os contêineres geralmente são destruídos e reimplantados com frequência. As VMs também podem ser reproduzíveis, mas você precisa ser mais disciplinado sobre como configurá-las.

forma do fluxo de trabalho
Alguns fluxos de trabalho de ML parecem um serviço (um servidor de inferência). Outros parecem um sistema pequeno (API + fila + trabalhador + UI + armazenamento). Os sistemas de vários serviços geralmente parecem mais naturais em uma VM, especialmente se você confiar no Docker Compose.

Segurança e conforto de isolamento
Uma VM oferece um limite mais forte de “máquina separada”. Se você está operando em um ambiente mais rigoroso, ou simplesmente quer mais isolamento para ter paz de espírito, isso pode ser um fator decisivo.

Controle de custos
O custo geralmente tem menos a ver com o tipo de tempo de execução e mais a ver com o hardware e por quanto tempo você o deixa em execução. Dito isso, os contêineres geralmente fazem com que você “termine” mais rápido e isso pode reduzir o desperdício de tempo de execução. Os contêineres geralmente são significativamente mais baratos do que as máquinas virtuais devido ao menor peso e ao uso mais eficiente de recursos, o que os torna uma opção econômica para muitas cargas de trabalho de ML. Este artigo se concentra nesse lado da questão: Preços de VMs com GPU em nuvem: o que você realmente está pagando.

Cenários comuns de ML e o tempo de execução que eu escolheria

Você está prototipando ou experimentando Comece com uma instância de contêiner. Você começará a trabalhar mais rapidamente e, se o experimento terminar (como muitos), você não ficará mantendo um ambiente em forma de servidor. Se você descobrir mais tarde que precisa de controle do sistema, a troca é normal: Quando vale a pena mudar de uma instância de contêiner para uma VM.

Você está treinando ou ajustando com uma pilha conhecida Se seu trabalho de treinamento já é executado a partir de uma imagem de contêiner, use contêineres. Os contêineres geralmente são usados para microsserviços, aplicativos da web e pipelines de CI/CD e são ideais para escalonamento rápido de trabalhos de treinamento de ML ou APIs de inferência usando ferramentas de orquestração como Kubernetes ou Docker Swarm. Isso é especialmente verdadeiro quando você está iterando no código e deseja execuções repetíveis. Uma VM se torna atraente quando você precisa de ferramentas no nível do sistema operacional, dependências especiais do sistema ou está criando um ambiente de treinamento duradouro ao qual continua voltando.

Você está servindo inferência Uma instância de contêiner geralmente é o caminho mais limpo para inferência porque ela é bem mapeada para “executar um serviço, expô-lo e substituí-lo durante a atualização”. Se sua configuração de inferência precisar de vários serviços cooperativos, peças personalizadas do sistema ou um layout “semelhante ao de um host”, mude para uma VM. As VMs geralmente são usadas para aplicativos legados e diversos requisitos de sistema operacional e podem executar qualquer sistema operacional convidado, independentemente do sistema operacional do host.

Você está criando uma pilha de ML de vários serviços VM enxuta. No momento em que você tem uma interface de usuário da web, uma API, um trabalhador e uma fila, você está em um território de “sistema pequeno”. Os contêineres suportam a decomposição de aplicativos monolíticos em vários contêineres (microsserviços), aprimorando a escalabilidade e a capacidade de gerenciamento. O gerenciamento de aplicativos em contêineres geralmente é feito com ferramentas de orquestração, como o Kubernetes, e um tempo de execução de contêineres, como o Docker, é essencial para executar e gerenciar contêineres. Se o Docker fizer parte do seu fluxo de trabalho, uma VM o manterá familiar. Comece aqui: Execute o Docker da maneira normal em uma VM de computação. Para a configuração passo a passo do Docker, use: Instale o Docker na computação. As cargas de trabalho em contêineres podem ser gerenciadas junto com as VMs para flexibilidade em pilhas complexas.

Você está fazendo benchmarks ou comparações de desempenho VM enxuta. O benchmarking trata principalmente de controlar variáveis. Uma VM oferece um sistema operacional básico consistente e um local estável para ferramentas. Se você quiser uma explicação em inglês simples sobre “quem precisa de uma GPU VM”, use: Máquina virtual GPU: o que é e quem realmente precisa de uma.

Você está bloqueado pelas necessidades do nível do sistema Este é o sinal de VM mais claro. Se você continuar precisando de sudo, serviços do sistema ou instalações no nível do sistema operacional, acabou de debater. Mude para uma VM e continue. As VMs são adequadas para aplicativos legados que exigem forte isolamento, diversos sistemas operacionais ou alocação de recursos em nível de hardware. O guia do switch está aqui: Quando vale a pena mudar de uma instância de contêiner para uma VM.

As organizações podem usar contêineres para o desenvolvimento de aplicativos modernos e, ao mesmo tempo, confiar nas VMs para aplicativos legados. Os contêineres também podem ser executados dentro de VMs para combinar os benefícios de ambas as tecnologias, como portabilidade e segurança.

Um padrão prático que mantém você longe de problemas

Se você ainda não sabe, comece com uma instância de contêiner. Os contêineres podem executar vários aplicativos no mesmo hardware com mais eficiência do que as máquinas virtuais, compartilhando recursos com outros contêineres na máquina host. Isso torna os contêineres ideais para maximizar a utilização de recursos e a relação custo-benefício.

Os contêineres são mais leves e portáteis do que as máquinas virtuais, o que os torna adequados para prototipagem e escalabilidade rápidas. Elas podem iniciar e parar em alguns segundos, enquanto as máquinas virtuais normalmente levam alguns minutos para inicializar.

Mude para uma VM no momento em que suas anotações começarem a ser preenchidas com soluções alternativas do ambiente. Se você passou uma hora tentando fazer um contêiner se comportar como um servidor normal, essa é a sua resposta.

Práticas recomendadas para contêineres e máquinas virtuais

Você desejará usar ferramentas e métodos específicos para executar contêineres e máquinas virtuais com eficiência. Use um mecanismo de contêiner como o Docker para gerenciar suas cargas de trabalho e crie arquivos de compilação estáticos (como Dockerfiles) para que cada implantação permaneça consistente e repetível. Para máquinas virtuais, use um hipervisor para alocar recursos do sistema e execute várias VMs em um host físico para obter mais do seu hardware. Em ambientes de nuvem, você pode combinar contêineres e VMs em uma configuração híbrida — isso oferece flexibilidade, isolamento e capacidade de escalar. Ao seguir esses métodos, você melhorará sua infraestrutura, reduzirá custos e garantirá que tanto os contêineres quanto as máquinas virtuais suportem suas cargas de trabalho de forma eficaz.

Acessando seu aplicativo de ML de fora em ambientes de nuvem

É aqui que as pessoas perdem tempo, então vale dizer claramente: “o aplicativo roda” e “eu consigo acessá-lo” são problemas separados.

Se você estiver testando uma interface de usuário de forma privada, o encaminhamento de portas SSH geralmente é o caminho menos complicado. Se você precisar de um link público, use HTTPS. Se você precisar de conexões diretas com o cliente, use TCP ou UDP.

Futuro do aprendizado de máquina com contêineres e máquinas virtuais

A infraestrutura de aprendizado de máquina precisa de contêineres e máquinas virtuais para funcionar bem. Os contêineres empacotam modelos de ML com suas dependências, para que você possa implantá-los rapidamente e obter os mesmos resultados em diferentes ambientes. As máquinas virtuais oferecem o isolamento e a segurança de que cargas de trabalho de ML confidenciais ou com muitos recursos precisam, especialmente quando você está lidando com requisitos de conformidade ou configurações personalizadas do sistema. Quando você usa contêineres e VMs juntos, sua organização pode escalar os recursos da nuvem quando necessário e executar aplicativos complexos. À medida que as cargas de trabalho de ML se tornam maiores e mais complexas, você precisará de contêineres e máquinas virtuais para implantar, gerenciar e inovar com eficiência. As organizações que usam essas tecnologias lidarão melhor com as demandas modernas de aprendizado de máquina e criarão novas oportunidades na computação em nuvem.

Experimente o Compute para aplicativos em contêineres

Se você quiser tomar a decisão com o mínimo de risco, inicie a menor configuração que possa executar seu fluxo de trabalho, execute um teste real e decida se deseja a velocidade dos contêineres ou o controle de uma VM.

‍