인공지능

PDF RAG 데모: 카우치베이스 셸을 통한 간소화된 AI 워크플로 구축

8 분 읽기

이전에 우리는 사용자가 ‘채팅'할 수 있는 파이썬 앱을 통해 Couchbase RAG 기능을 사용하는 방법을 보여주었습니다.’ PDF와 함께 또는 X와 함께. 구축하기는 간단하지만, 더 간단하게 만들 수 있을까요? 저는 최근에 Couchbase Shell을 많이 사용해 보았는데, 이를 통해 비슷한 작업을 할 수 있을 것입니다.

범위 및 컬렉션 설정

이미 잘 알고 계실 것으로 생각합니다 카우치베이스 셸 (cbsh), 그리고 구성된 클러스터와 모델이 있습니다.

범위와 컬렉션을 생성 및 선택한 다음, 기본 인덱스를 생성합니다:

PDF를 청크 단위의 텍스트로 변환하기

PDF을 텍스트로 변환할 수 있는 다양한 도구가 있습니다. 대부분의 리눅스 배포판에서 다음을 찾을 수 있습니다. pdftotext.

이렇게 하면 동일한 경로에 텍스트 버전의 파일이 생성되지만, 다음이 추가됩니다. .txt 확장 프로그램.

함께 누셸 (cbsh은 Nushell을 기반으로 합니다) split 명령어 덕분에 텍스트를 쉽게 쪼갤 수 있습니다. 문제는 파일을 청크로 나누는 데 필요한 올바른 구분자(delimiter)를 찾는 것입니다. 다행히도 여러 줄 문자열을 지원하므로, 파일에서 두 문단 사이의 텍스트를 복사해서 붙여넣었습니다. 하지만 정규식을 사용하면 좀 더 정교한 작업을 할 수 있어야 합니다. 그것이 블로그 소재와 프로덕션의 차이입니다 😇.

이것은 텍스트 문자열 테이블을 생성합니다. Couchbase로 가져오기 위해 이를 content JSON 객체 안의 텍스트 필드로 감싸고, 무작위로 생성된 UUID를 추가한 뒤 결과를 upsert합니다.

다음 단계는 텍스트의 임베딩, 즉 벡터 표현을 생성하는 것입니다:

그런 다음 벡터 검색 인덱스를 생성합니다. 여기서는 pdf라고 부르며, 필드를 색인화합니다. 텍스트 벡터, 1536차원 벡터를 생성하고 사용하세요 L2 노름 기본값이므로 유사도 알고리즘의 경우입니다.

모노폴리 규칙을 가져왔고 감옥에서 나오는 법을 묻고 있습니다. 원래 예시에서는 맥락이 있는 답변과 없는 답변이 각각 하나씩 있었습니다.

그리고 문맥과 함께:

Let’s simplify this by putting everything in a script. This is the content of myScript.nu:

You can source the script file and then call those functions:

Here, you can see the same kind of result we achieved in the Python RAG demo, but this time using Couchbase Shell. It should be easier to manipulate, change or extend, because you don’t need to deploy an app or know Python. However, it will be less flexible than what you can achieve with Python and Langchain.

If this interests you, stay tuned–more AI and Couchbase Shell content is on the way!

이 기사 공유하기

작가

로랑은 파리에 사는 찌질한 매니아 기질이 있는 헤비메탈 마니아입니다. 그는 주로 자바(Java)로 코드를 작성하고 AsciiDoc으로 구조화된 텍스트를 작성하며, 데이터, 리액티브 프로그래밍 및 기타 유행어 같은 주제에 대해 자주 이야기합니다. 그는 또한 Clever Cloud와 Nuxeo의 전직 개발자 애드보케이트로 활동하며 해당 커뮤니티가 더 크고 강하게 성장하도록 시간과 전문 지식을 쏟아부었습니다. 현재는 카우치베이스(Couchbase)에서 개발자 관계(Developer Relations)를 총괄하고 있습니다.

댓글 남기기

카우치베이스 카펠라를 시작할 준비가 되셨나요?

개발 시작하기

NoSQL을 탐색하고, 리소스를 찾아보고, 튜토리얼을 시작하려면 개발자 포털을 확인하세요.

카펠라 프리 사용하기

단 몇 번의 클릭으로 카우치베이스(Couchbase)를 직접 체험해 보세요. Capella DBaaS는 시작하기 가장 쉽고 빠른 방법입니다.

연락해

Couchbase 제품군에 대해 더 알고 싶으신가요? 저희가 도와드리겠습니다.