Se você estiver familiarizado com aprendizado profundo, provavelmente já ouviu a frase PyTorch vs. TensorFlow mais de uma vez.
PyTorch e TensorFlow são duas das estruturas de aprendizado profundo mais populares. Este guia apresenta uma visão geral abrangente dos principais recursos dessas duas estruturas – para ajudá-lo a decidir qual estrutura usar – para seu próximo projeto de aprendizado profundo.
Neste artigo, primeiro apresentaremos os dois frameworks: PyTorch e TensorFlow. E, em seguida, resuma os recursos que eles oferecem.
Vamos começar!
últimas postagens
O que é o PyTorch?
PyTorch é uma estrutura de código aberto para criar modelos de aprendizado de máquina e aprendizado profundo para vários aplicativos, incluindo processamento de linguagem natural e aprendizado de máquina.
É um framework Pythonic desenvolvido pela Meta AI (que não o Facebook AI) em 2016, baseado no Torch, um pacote escrito em Lua.
Recentemente, a Meta AI lançou o PyTorch 2.0. A nova versão oferece melhor suporte para treinamento distribuído, compilação de modelos e redes neurais gráficas (GNNs), entre outros.
O que é o TensorFlow?
Introduzido em 2014, o TensorFlow é uma estrutura de aprendizado de máquina de ponta a ponta de código aberto do Google. Ele vem com recursos para preparação de dados, implantação de modelo e MLOps.
Com o TensorFlow, você obtém suporte de desenvolvimento multiplataforma e suporte pronto para uso em todos os estágios do ciclo de vida do aprendizado de máquina.
PyTorch x TensorFlow
Tanto o PyTorch quanto o TensorFlow são estruturas super populares na comunidade de aprendizado profundo. Para a maioria dos aplicativos nos quais você deseja trabalhar, essas duas estruturas fornecem suporte integrado.
Fonte da imagem: star-history.com
Aqui, resumiremos os principais recursos do PyTorch e do TensorFlow e também identificaremos os casos de uso em que você pode preferir uma estrutura em detrimento da outra.
#1. Biblioteca de conjuntos de dados e modelos pré-treinados
Uma estrutura de aprendizado profundo deve vir com baterias incluídas. Muitas vezes, você não gostaria de codificar um modelo do zero. Em vez disso, você pode aproveitar modelos pré-treinados e ajustá-los ao seu caso de uso.
Da mesma forma, gostaríamos que os conjuntos de dados comumente usados estivessem prontamente disponíveis. Isso nos permitiria construir modelos experimentais rapidamente sem ter que configurar um pipeline de coleta de dados ou importar e limpar dados de outras fontes.
Para esse fim, queremos que essas estruturas venham com conjuntos de dados e modelos pré-treinados para que possamos obter um modelo de linha de base muito mais rapidamente.
Conjuntos de dados e modelos do PyTorch
O PyTorch tem bibliotecas como o archote, o archaudio e o maçarico para tarefas de NLP, processamento de áudio e imagem, respectivamente. Portanto, ao trabalhar com o PyTorch, você pode aproveitar os conjuntos de dados e modelos fornecidos por essas bibliotecas, incluindo:
- Torchtext.datasets e Torchtext.models para conjuntos de dados e processamento para tarefas de processamento de linguagem natural
- archvision.datasets e archivision.models fornecem conjuntos de dados de imagem e modelos pré-treinados para tarefas de visão computacional
- archaudio.datasets e archaudio.models para conjuntos de dados e pesos de modelos pré-treinados e utilitários para aprendizado de máquina em áudio
Conjuntos de dados e modelos do TensorFlow
Além disso, você pode procurar os modelos PyTorch e TensorFlow no HuggingFace Model Hub.
#2. Suporte para implantação
No debate PyTorch vs. TensorFlow, o suporte para implantação geralmente ocupa o centro do palco.
Um modelo de aprendizado de máquina que funciona muito bem em seu ambiente de desenvolvimento local é um bom ponto de partida. No entanto, para obter valor dos modelos de aprendizado de máquina, é importante implantá-los na produção e monitorá-los continuamente.
Nesta seção, veremos os recursos que o PyTorch e o TensorFlow oferecem para implantar modelos de aprendizado de máquina na produção.
TensorFlow estendido (TFX)
O TensorFlow Extended, abreviado como tfx, é uma estrutura de implantação baseada no TensorFlow. Ele fornece funcionalidade que ajuda você a orquestrar e manter pipelines de aprendizado de máquina. Ele fornece recursos para validação e transformação de dados, entre outros.
Com o TensorFlow Serving, você pode implantar modelos de aprendizado de máquina em ambientes de produção.
TorchServe
Há uma opinião comum de que o PyTorch é popular na comunidade de pesquisa, enquanto o TensorFlow é popular na indústria. No entanto, recentemente, essas duas estruturas encontraram uso generalizado.
Como o TensorFlow Serving, o PyTorch fornece o TorchServe, uma estrutura fácil de usar que facilita a exibição de modelos PyTorch na produção. Além disso, você também pode usar o TensorFlow Lite para implantar modelos de aprendizado de máquina em dispositivos móveis e outros dispositivos de ponta.
Apesar de ambas as estruturas fornecerem suporte à implantação, o TensorFlow oferece suporte nativo à implantação do modelo. É, portanto, a escolha preferida em ambientes de produção.
#3. Recursos para interpretabilidade do modelo
Você pode criar modelos de aprendizado profundo para aplicativos usados em domínios como saúde e finanças. Mas se os modelos são caixas pretas que geram um determinado rótulo ou previsão, há um desafio de interpretar as previsões do modelo.
Isso levou ao aprendizado de máquina interpretável (ou ML explicável) para criar abordagens para explicar o funcionamento de redes neurais e outros modelos de aprendizado de máquina.
Portanto, a interpretabilidade é super importante para o aprendizado profundo e para entender melhor o funcionamento das redes neurais. E veremos quais recursos o PyTorch e o TensorFlow oferecem para o mesmo.
PyTorch CaptumName
PyTorch Captum, a biblioteca de interpretabilidade do modelo para PyTorch, fornece vários recursos para a interpretabilidade do modelo.
Esses recursos incluem métodos de atribuição como:
- Gradientes integrados
- CAL, FORMA
- DeepLIFT
- GradCAM e variantes
- Métodos de atribuição de camada
Explicação do TensorFlow (tf-explicar)
O Tensorflow Explain (tf-explain) é uma biblioteca que fornece funcionalidade para a interpretabilidade da rede neural, incluindo:
- Gradientes integrados
- GradCAM
- SmoothGrad
- Gradientes de baunilha e muito mais.
Até agora, vimos os recursos de interpretabilidade. Passemos a outro aspecto importante – a privacidade.
#4. Suporte para aprendizado de máquina com preservação de privacidade
A utilidade dos modelos de aprendizado de máquina depende do acesso aos dados do mundo real. No entanto, isso vem com a desvantagem de que a privacidade dos dados é perdida. Recentemente, houve avanços significativos em relação às técnicas de aprendizado de máquina que preservam a privacidade, como privacidade diferencial e aprendizado federado.
PyTorch OpacusName
O treinamento de modelo diferencialmente privado garante que registros individuais enquanto ainda aprendem informações úteis sobre o conjunto de dados como um todo.
E o PyTorch Opacus permite treinar modelos com privacidade diferenciada. Para saber como implementar o treinamento de modelo privado diferenciado, confira a introdução ao Opacus.
TensorFlow federado
O aprendizado federado elimina a necessidade de uma entidade centralizada de coleta e processamento de dados. Em um ambiente federado, os dados nunca saem do proprietário ou local. Portanto, o aprendizado federado facilita uma melhor governança de dados.
O TensorFlow Federated fornece funcionalidade para treinar modelos de aprendizado de máquina em dados descentralizados.
#5. Facilidade de Aprendizagem
PyTorch é uma estrutura de aprendizado profundo Pythonic. Codificar confortavelmente no PyTorch requer proficiência intermediária em Python, incluindo uma boa compreensão dos conceitos de programação orientada a objetos, como herança.
Por outro lado, com o TensorFlow, você pode usar a API Keras. Essa API de alto nível abstrai alguns dos detalhes de implementação de baixo nível. Como resultado, se você está apenas começando a criar modelos de aprendizado profundo, pode achar o Keras mais fácil de usar.
PyTorch vs. TensorFlow: uma visão geral
Até agora, discutimos os recursos do PyTorch e do TensorFlow. Aqui está uma comparação abrangente:
FeaturePyTorchTensorFlowConjuntos de dados e modelos pré-treinados em Torchtext, Touch Audio e TorchvisionBiblioteca de conjuntos de dados e modelos pré-treinadosConjuntos de dados e modelos pré-treinados em TorchText, Torchaudio e TorchvisionDeploymentTorchServe para servir modelos de aprendizado de máquina TensorFlow Serving e TensorFlow Lite para implantações de modelo Interpretabilidade do modeloPyTorch Captumtf-explain Privacidade- Preservando o aprendizado de máquinaPyTorch Opacus para treinamento de modelos privados diferenciadosTensorFlow Federated para aprendizado de máquina federadoFacilidade de aprendizadoRequer proficiência intermediária em Python Relativamente mais fácil de aprender e usar
Recursos de aprendizagem
Por fim, vamos encerrar nossa discussão examinando alguns recursos úteis para aprender PyTorch e TensorFlow. Esta não é uma lista exaustiva, mas uma lista de recursos escolhidos a dedo que o deixarão atualizado rapidamente com essas estruturas.
#1. Aprendizado profundo com PyTorch: uma blitz de 60 minutos
O tutorial blitz de 60 minutos no site oficial do PyTorch é um excelente recurso para iniciantes para aprender o PyTorch.
Este tutorial ajudará você a começar a usar os fundamentos do Pytorch, como tensores e autografados, e a criar uma rede neural básica de classificação de imagens com o PyTorch.
#2. Deep Learning com PyTorch: zero a GANs
Deep Learning with PyTorch: Zero to GANs by Jovian.ai é outro recurso abrangente para aprender deep learning com PyTorch. Ao longo de cerca de seis semanas, você pode aprender:
- Noções básicas do PyTorch: tensores e gradientes
- Regressão linear no PyTorch
- Construindo redes neurais profundas, ConvNets e ResNets no PyTorch
- Construindo redes adversárias generativas (GANs)
#3. Curso Completo do TensorFlow 2.0
Se você deseja entender o TensorFlow, o TensorFlow 2.0 Complete Course no canal da comunidade freeCodeCamp será útil.
#4. TensorFlow – Python Deep Learning Neural Network API por DeepLizard
Outro ótimo curso do TensorFlow para iniciantes é do DeepLizard. Neste curso do TensorFlow para iniciantes, você aprenderá os fundamentos do aprendizado profundo, incluindo:
- Carregando e pré-processando conjuntos de dados
- Construindo redes neurais de baunilha
- Construindo redes neurais convolucionais (CNNs)
Conclusão
Em resumo, este artigo ajudou você a obter uma visão geral de alto nível do PyTorch e do TensorFlow. A escolha da estrutura ideal dependerá do projeto em que você está trabalhando. Além disso, isso exigiria que você considerasse o suporte para implantação, explicabilidade e muito mais.
Você é um programador Python querendo aprender essas estruturas? Nesse caso, considere explorar um ou mais dos recursos compartilhados acima.
E se você estiver interessado em PNL, confira esta lista de cursos de processamento de linguagem natural para fazer. Feliz aprendizado!