O que são Modelos de Embedding? Uma Visão Geral

O que são modelos de embedding?

Modelos de embedding são um tipo de modelo de aprendizado de máquina projetado para representar dados (como texto, imagens ou outras formas de informação) em um espaço vetorial contínuo de baixa dimensão. Estes incorporações capturar similaridades semânticas ou contextuais entre pedaços de dados, permitindo que as máquinas realizem tarefas como comparação, agrupamento ou classificação de forma mais eficaz.

Imagine que você queira descrever diferentes frutas. Em vez de descrições longas, você usa números para características como doçura, tamanho e cor. Por exemplo, uma maçã pode ser [8, 5, 7] enquanto uma banana é [9, 7, 4]. Esses números tornam mais fácil comparar ou agrupar frutas semelhantes.

O que um modelo de embedding faz?

Um modelo de embedding converte texto, imagens e áudio em números significativos e os compara para encontrar padrões ou conexões. Esse processo é semelhante a como uma biblioteca organiza livros por gênero ou tópico, permitindo que os usuários encontrem o que procuram mais rapidamente.

Aqui estão exemplos de casos de uso diário para modelos de incorporação:

Busca de texto

Imagine digitar “best Greek food” em um mecanismo de busca. Um modelo de incorporação converterá sua consulta em números e recuperará documentos com incorporações semelhantes. O modelo mostrará então os resultados que estão próximos da sua consulta.

Recomendar filmes

Se você gostou de um filme, o sistema usa um modelo de embedding para representá-lo (por exemplo, gênero, elenco, clima) como números. Ele compara esses números com os embeddings de outros filmes e recomenda outros semelhantes.

Relacione as imagens e as legendas

Um modelo de vetorização (embedding) pode relacionar a imagem de um pôr do sol sobre o oceano com a legenda “Um pôr do sol sereno sobre ondas calmas do oceano”, convertendo tanto a imagem quanto as legendas potenciais em representações numéricas (vetores). O modelo identifica a legenda com o vetor mais próximo ao vetor da imagem, garantindo uma correspondência precisa. Essa técnica alimenta ferramentas como busca de imagens e marcação de fotos.

Agrupe os itens semelhantes

Um site de compras usa incorporações para agrupar produtos semelhantes. Por exemplo, “tênis vermelhos” pode estar próximo a “tênis azuis” no espaço de incorporação, portanto, eles são exibidos como relacionados.

Tipos de modelos de embeddings

Existem vários modelos de incorporação, cada um projetado para diferentes tipos de dados e tarefas. Aqui estão os principais tipos:

Modelos de incorporação de palavras

Estes modelos convertem palavras em vetores numéricos que capturam significados semânticos e relações entre palavras. Exemplos incluem:

• Word2vec: Aprende incorporações de palavras prevendo uma palavra com base no seu contexto (skip-gram) ou prevendo o contexto com base em uma palavra (CBOW).
• GloVe (Global Vectors for Word Representation): Um modelo que utiliza estatísticas de coocorrência de palavras de um grande corpus para criar incorporações.
• fastText: Semelhante ao Word2vec, mas considera informações de subpalavras, tornando-o mais eficaz para idiomas morfologicamente ricos.

Modelos de *word embedding* contextualizados

Estes modelos geram embeddings de palavras dinâmicos com base no contexto em que uma palavra aparece. Ao contrário dos embeddings estáticos, o significado de uma palavra pode mudar dependendo do seu uso.

• BERT (Representações de Codificadores Bidirecionais de Transformadores): Gera embeddings de palavras com base no contexto das palavras ao redor, tornando-o altamente eficaz para tarefas como resposta a perguntas e análise de sentimentos.
• GPT (Transformador Pré-treinado Generativo): Gera embeddings contextualizados para geração de texto e outras tarefas de linguagem.
• ELMo (Embeddings from Language Models): Fornece incorporações de palavras com base no contexto da frase inteira, permitindo capturar significados mais profundos.

Modelos de incorporação de frases ou documentos

Estes modelos criam embeddings que representam frases ou documentos inteiros, em vez de apenas palavras individuais.

• Doc2vec: Uma extensão do Word2vec que gera embeddings para documentos inteiros, considerando o contexto das palavras no documento.
• InferSent: Um codificador de frases que aprende a mapear frases em embeddings para tarefas como similaridade de frases e classificação.

Modelos de incorporação de imagens

Estes modelos representam imagens como vetores, possibilitando tarefas como reconhecimento e recuperação de imagens.

• Redes Neurais Convolucionais (CNNs): Modelos como ResNet e VGG extraem características de imagens e geram embeddings de classificação e reconhecimento de imagens.
• CLIP (Contrastive Language-Image Pre-training): Um modelo que conecta imagens e descrições textuais gerando embeddings para ambas e alinhando-as no mesmo espaço vetorial para tarefas como busca de imagem e texto.

Modelos de incorporação de áudio e fala

Estes modelos convertem dados de áudio ou fala em embeddings, que são úteis para tarefas como reconhecimento de fala e detecção de emoções.

• VGGish: Um modelo de incorporação para áudio, particularmente música e fala, baseado em CNNs.
• Wav2vec Um modelo da Meta AI que gera embeddings para áudio de fala bruto, o que é eficaz para tarefas de conversão de fala em texto.

Cada modelo é projetado para lidar com tipos específicos de dados e tarefas, ajudando a capturar e representar relacionamentos de forma útil para aplicações de aprendizado de máquina.

Como os modelos de embedding são treinados?

Os modelos de embedding são treinados utilizando grandes conjuntos de dados e objetivos de aprendizado específicos que os orientam a criar representações de dados numéricos significativas. O processo de treinamento envolve as seguintes etapas:

1. Coleta e preparação de dados

• Conjuntos de dados: Grandes conjuntos de dados (como corpora de texto) são necessários para embeddings de linguagem, conjuntos de dados de imagens rotuladas para embeddings visuais e conjuntos de dados emparelhados (por exemplo, imagens e legendas) para embeddings multimodais.
• Pré-processamento O texto é tokenizado em palavras ou subpalavras, as imagens são redimensionadas e normalizadas, e o áudio é transformado em espectrogramas ou outros formatos.

2. Escolha de um objetivo de treinamento

O modelo aprende a criar incorporações otimizando para um objetivo específico. Objetivos comuns incluem:

• Previsão de contexto (modelos de linguagem)

• Exemplo: O modelo skip-gram do Word2vec prevê as palavras ao redor para uma determinada palavra. Se a entrada for “The cat sat on the __”, o modelo pode prever “mat”.”

• Minimizando diferenças em dados relacionados (aprendizado contrastivo)

• Exemplo: No CLIP, uma imagem e sua legenda são aproximadas no espaço de incorporação, enquanto imagens e legendas não relacionadas são afastadas.

• Objetivos de classificação ou específicos de tarefas

• Exemplo: Um modelo pode prever se uma imagem contém um cachorro ou um gato. Os embeddings são ajustados para tornar a tarefa mais fácil, agrupando imagens semelhantes.

3. Usando redes neurais

• Modelos rasos: Modelos antigos como o Word2vec usam redes neurais simples para aprender incorporações com base em padrões de co-ocorrência.
• Modelos profundos: Transformers (ex.: BERT, GPT) e CNNs extraem padrões e relações mais complexos processando dados em camadas.

4. Retropropagação e otimização

• O modelo faz uma previsão, calcula um erro (a diferença entre a previsão e o alvo) e ajusta seus parâmetros usando retropropagação.
• Um otimizador (como o Adam ou o SGD) atualiza os embeddings e os pesos do modelo para minimizar este erro.

5. Avaliando e refinando

• O modelo é avaliado usando dados de validação para garantir que ele produza incorporações significativas para as tarefas pretendidas.
• Ajustes como a otimização de hiperparâmetros ou o ajuste fino em conjuntos de dados específicos são feitos para melhorar o desempenho.

---

Como funcionam os modelos de incorporação?

Agora, vamos mergulhar em como esses modelos funcionam:

1. Processamento de dados de entrada

O modelo insere dados brutos (por exemplo, texto, imagens ou áudio) e os pré-processa da seguinte maneira:

• O texto é tokenizado em unidades menores, como palavras ou subpalavras.
• As imagens são divididas em elementos menores, como pixels ou características.
• O áudio é convertido em formas de onda ou espectrogramas.

2. Extração de características

O modelo de incorporação analisa a entrada para identificar características-chave:

• Com texto, ele considera o contexto e o significado das palavras.
• Com imagens, ele detecta padrões visuais, cores ou formas.
• Com áudio, ele identifica tons, frequências ou ritmos.

Por exemplo, o Word2vec aprende relações entre palavras com base na frequência com que elas aparecem juntas em um grande conjunto de dados. Por exemplo, ele pode notar que “rei” e “rainha” aparecem frequentemente em contextos semelhantes e atribuir a eles incorporações próximas no espaço vetorial.

Redução de dimensionalidade

Dados de alta dimensionalidade (por exemplo, uma imagem com milhões de pixels) são compactados em um vetor de menor dimensionalidade. Esse vetor preserva as informações essenciais enquanto descarta detalhes desnecessários. Por exemplo, uma imagem pode ser reduzida a um vetor de 512 dimensões, capturando suas principais características sem reter a resolução completa.

4. Aprendizagem por meio de treinamento

Os modelos de incorporação são treinados em grandes conjuntos de dados usando técnicas de aprendizado de máquina para detectar padrões e relacionamentos. Essas técnicas incluem:

• Aprendizado não supervisionado: O modelo aprende a organizar os dados agrupando palavras ou imagens semelhantes.
• Aprendizado supervisionado: O modelo aprende a alinhar embeddings com rótulos específicos ou a distinguir entre pares semelhantes e dessemelhantes (por exemplo, associando legendas às imagens corretas).

5. Incorporações de saída

O modelo gera um vetor para cada entrada. Essas incorporações podem ser:

• Comparados usando medidas matemáticas como a similaridade de cosseno.
• Agrupados ou clusterizados para análise.
• Passado para outros modelos de aprendizado de máquina para tarefas como classificação ou recomendação.

---

Como escolher o modelo de embedding correto

Escolher o modelo de incorporação correto depende do tipo de dados com o qual você está trabalhando e da tarefa específica que deseja realizar. Aqui estão algumas considerações importantes para ajudar você a selecionar o modelo adequado.

Tipo de dado

• Texto: Se você estiver trabalhando com dados de texto, como frases ou documentos, escolha um modelo com base em sua necessidade de embeddings de palavras estáticos ou embeddings dinâmicos baseados em contexto. (ex.: Word2vec, GloVe, BERT, GPT).
• Imagens: Se você estiver trabalhando com imagens, precisará de um modelo que possa converter características visuais em embeddings (por exemplo, ResNet, VGG, CLIP).
• Áudio Se você estiver trabalhando com dados de áudio ou fala, procure modelos projetados especificamente para lidar com som (por exemplo, VGGish ou Wav2vec).

Requisitos da tarefa

• Tarefas em nível de palavra: Se você precisar analisar ou comparar palavras individuais, modelos como Word2vec ou fastText podem ser apropriados.
• Tarefas em nível de frase ou documento: Para tarefas que exigem uma representação de frases inteiras ou documentos (por exemplo, similaridade ou classificação), modelos como Doc2vec ou BERT são mais adequados.
• Tarefas multimodais: Se você precisar trabalhar com texto e imagens (ou outras combinações), modelos como CLIP ou DALL-E são ideais porque alinham embeddings em diferentes tipos de dados.

Considerações de desempenho

• Velocidade e eficiência: Modelos mais simples como Word2vec e GloVe são mais rápidos e exigem menos recursos, tornando-os adequados para conjuntos de dados menores e aplicações em tempo real. No entanto, eles podem não capturar relações sutilezas tão bem quanto modelos mais complexos.
• Precisão e profundidade: Modelos mais avançados, como BERT e GPT, oferecem alta precisão ao capturar relações semânticas profundas e contexto; no entanto, eles são computacionalmente caros e lentos para treinar.

Tamanho do conjunto de dados

• Grandes conjuntos de dados: Para grandes conjuntos de dados, modelos como BERT e CLIP, que são pré-treinados em vastas quantidades de dados, podem ser ajustados para tarefas específicas.
• Conjuntos de dados menores: Se você tiver dados limitados, modelos como fastText ou Word2vec podem ter um desempenho melhor, pois podem ser treinados com menos pontos de dados.

Modelos pré-treinados vs. treinamento personalizado

• Se você está trabalhando em uma tarefa geral e não precisa de um modelo altamente especializado, usar embeddings pré-treinados de modelos como BERT, GPT ou ResNet geralmente é suficiente e economiza tempo.
• Se os seus dados forem altamente específicos (por exemplo, um domínio ou idioma de nicho), talvez você precise fazer o ajuste fino de um modelo pré-treinado ou treinar um modelo personalizado.

Conclusão

Neste post, exploramos como os modelos de incorporação ajudam a transformar dados complexos, como texto, imagens ou áudio, em representações numéricas simplificadas que os computadores conseguem entender e processar de forma eficiente. Ao aprender as relações e os padrões dentro dos dados, esses modelos viabilizam aplicações que vão desde o processamento de linguagem natural até o reconhecimento de imagens e tarefas multimodais. Escolher o modelo de incorporação certo depende de fatores como o tipo de dado, a tarefa específica, o tamanho do conjunto de dados e os recursos computacionais disponíveis.

Você pode acessar estes recursos do Couchbase para continuar aprendendo sobre embeddings vetoriais e pesquisa:

• Um Guia para Pesquisa Vetorial
• Busca Híbrida: Uma Visão Geral
• Use a Pesquisa Vetorial para Aplicações de IA
• Grandes Modelos de Linguagem Explicados
• Explore os novos serviços de IA no Capella