Continuamos ouvindo dos clientes que eles veem o imenso valor e a importância da inteligência artificial (IA), IA generativa, busca vetorial e computação de borda. Essas tecnologias estão se tornando mais críticas para coletar dados e fornecer insights acionáveis. Ao mesmo tempo, continua a haver uma rápida expansão de dispositivos IoT, com decisões sendo tomadas em tempo real com base em dados transmitidos por sensores.
Muitas organizações estão prestes a mergulhar de cabeça na integração dessas tecnologias para poderem oferecer uma experiência aprimorada ao cliente. Elas estão usando a IA como um meio para alcançar objetivos em suas aplicações – garantindo que sejam sempre rápidas, disponíveis, capazes de interagir em tempo real e de se engajar no contexto.
As empresas têm entusiasmo e hesitações em relação à IA
Embora a empolgação com as possibilidades da IA seja palpável, as empresas estão adotando uma abordagem cautelosa. Essas organizações têm hesitações sobre segurança de dados, conformidade e questões legais em torno do uso da IA. Elas continuam avaliando a melhor forma de aproveitar e governar aplicativos impulsionados por IA. Embora ainda haja certos aspectos de privacidade, segurança e precisão a serem resolvidos, é claro que as possibilidades potenciais que podem ser desbloqueadas são intrigantes demais para serem ignoradas.
A IA exige dados confiáveis
Dados são a força vital para o treinamento de modelos de IA. Quanto mais dados atuais, limpos e confiáveis puderem ser fornecidos aos LLMs, mais confiáveis serão as respostas. E quanto mais dados você fornece aos modelos de IA, mais precisos eles se tornam. O modo como e onde você processa os dados tem implicações na velocidade e na disponibilidade das aplicações impulsionadas por IA.
Utilizando computação de borda para melhorar a velocidade e a disponibilidade
Se você armazena e processa dados na nuvem, pode enfrentar desafios de velocidade e disponibilidade para dispositivos móveis. Se for uma linha de visão direta e fácil de volta aos pontos de acesso, pode ser tranquilo, mas passar por celular/5G pode ser um tormento ao tentar fazer vídeo e análises ao mesmo tempo. Isso exige uma largura de banda significativa para ir da nuvem para a borda e voltar, especialmente em áreas onde a conectividade é um problema, como estádios lotados, navios de cruzeiro, aviões e para trabalhadores em campo.
O Couchbase fornece um banco de dados de nuvem a borda, juntamente com busca vetorial – para integrar diretamente com modelos de IA na borda. Isso dá aos desenvolvedores a capacidade de armazenar e processar dados na nuvem (Capela) e em dispositivos com um banco de dados embutido (Couchbase Lite). TO banco de dados Couchbase pode ficar bem próximo de onde você vai usá-lo, como em uma loja de varejo, centro de distribuição ou hospital. Ambos suportam busca vetorial e sincronização automática entre dispositivos e com a nuvem.
Utilizar os princípios básicos da computação de ponta para processar os dados localmente significa uma dependência muito menor da nuvem e da conexão com a internet. Colocar o banco de dados no próprio dispositivo (celular, tablet, quiosque, PDV, dispositivos IoT) ajuda os clientes a atingirem disponibilidade 100% e tempos de resposta garantidos para a pesquisa vetorial.
Exemplos de busca vetorial em ação
Um exemplo de busca vetorial em ação está no caixa automático do supermercado lidando com itens sem código de barras. O processo atual consiste em digitar o item, selecionar o correto na tela e depois colocá-lo na sacola. Com a busca vetorial, a capacidade de encontrar coisas por meio da busca visual semântica inverte esse paradigma. Você colocaria o item no balcão, a câmera o escaneia e reconhece, e então você o coloca na sacola. Isso reduz um processo de 10 a 20 segundos para 2 segundos. À primeira vista, parecem números pequenos, mas ao processar longas filas de clientes em supermercados ou centenas de passageiros chegando a um aeroporto ou a um hospital, esses números podem somar-se rapidamente.
A busca vetorial e o reconhecimento de imagem em dispositivos móveis também terão um impacto enorme. Fazer consultas de itens com base no próprio item funcionará muito melhor do que códigos de barras. Embora os códigos de barras possam desbotar, amassar e ser adulterados ao longo do tempo, a busca vetorial reconhece o próprio item e acelera o processo, o que é melhor tanto para os clientes quanto para os varejistas.
Outro exemplo disso em ação é com sinistros de seguros. Um segurado pode tirar uma foto dos danos ocorridos no seu carro e descobrir rapidamente quais peças precisarão ser reparadas e para qual oficina mecânica ele pode ser levado. Há inúmeros casos de uso potenciais para busca vetorial e de imagens.
Vetores de linguagem natural
Os LLMs são ótimos em produzir vetores a partir de linguagem natural. O áudio fornece outro mecanismo para injetar mais contexto sobre o que o usuário da busca vetorial está tentando alcançar, o que melhora a precisão. A busca e as consultas são bastante rígidas, mas os vetores oferecem mais flexibilidade.
Um exemplo disso em ação é que, em vez de pesquisar por um item específico, você poderia dizer: “Vou fazer o jantar hoje à noite, estou com vontade de comida italiana, dois adultos e três crianças vão vir comer, o que você recomenda que eu faça com os ingredientes que tenho em casa?”. Você pode ser muito mais detalhado e preciso quando consegue conversar naturalmente com o sistema por meio de áudio com LLMs e busca vetorial.
Conclusão
A busca vetorial e a computação de borda são capacidades verdadeiramente transformadoras. A infraestrutura de borda será uma parte importante de muitas soluções à medida que a necessidade de velocidade e processamento localizado aumenta. Os líderes de TI devem trabalhar com os líderes de negócios para ajudá-los a visualizar e entender o que é possível. A capacidade de conceber casos de uso potenciais e divulgá-los na organização é um papel crítico para a TI e é extremamente benéfico para a organização.
- Saiba mais sobre Couchbase e busca vetorial
- Comece a usar o Capella gratuitamente e experimente a busca vetorial hoje
Deixe um comentário
Você precisa fazer o login para publicar um comentário.