빠르고 안정적이며 실시간 대화형, 상황 인식이 가능한 애플리케이션을 구축하고자 하는 조직에게 인공 지능(AI)과 생성형 AI(GenAI)는 점점 더 필수적인 요소가 되고 있습니다. 하지만 일부 조직은 너무 조심스럽게 도입에 접근하거나 구현에 어려움을 겪으면서 뒤처지고 있습니다.
최근 MIT 보고서 에 따르면 기업의 제너레이티브 AI 구현이 95%에 미치지 못하고 있는 것으로 나타났습니다. 이 연구는 AI 모델 자체의 품질이 아니라 도구와 조직의 학습 격차에서 비롯된 것으로 나타났습니다. ChatGPT와 같은 AI 도구는 개별 직원에게는 잘 작동하지만 워크플로우를 학습하거나 적응하지 못하기 때문에 기업에서 사용하는 데는 한계가 있습니다.
AI를 안내하는 인간의 역할
인공지능 도입을 주저하는 근본적인 이유 중 하나는 인공지능이 인간의 일자리를 대체할 것이라는 두려움 때문입니다. 일부 직무에서는 사실일 수 있지만, 현재 지식 업무의 모습은 일자리의 전면적인 대체보다는 역동적인 변화의 모습에 가깝습니다. 과거에는 인간이 생산에만 집중했다면 이제는 AI가 그 역할을 맡게 되었습니다. 인간은 AI 엔진에 데이터를 제공하고, 작업을 검토한 다음 추가적인 컨텍스트를 제공하거나 결과물을 개선하기 위해 프롬프트를 조정하는 등 지원적인 역할을 더 많이 하고 있습니다.
인간은 이러한 역동적인 변화에 적응해야 하지만, 여전히 AI 워크플로에서 중요한 역할을 담당하고 있습니다. 인간은 “AI 컨덕터,”는 의도와 창의성을 가지고 AI 에이전트를 조율하는 전문가입니다. 이들은 AI 에이전트를 위해 정리하는 대신 업계 전문 지식과 개인적인 경험을 바탕으로 AI 에이전트를 안내합니다. AI를 경쟁자로 두려워하기보다는 지휘를 기다리는 도구로 여겨야 합니다.
-
- 관련 게시물: 카우치베이스가 구현하는 AI 기반 애플리케이션의 미래
AI 워크플로우의 한가운데 있는 사람
기업들은 AI 기반 결과의 정확성, 투명성, 책임성에 대한 우려로 인해 중요한 의사 결정에 AI에 의존하는 것을 주저합니다. “중간 인간'은 이러한 잠재적 우려를 완화할 수 있는 한 가지 방법입니다. ”중간에 인간'이라는 개념은 AI 시스템과 인간이 구조화된 방식으로 협업하는 워크플로우를 의미하며, AI가 완전히 자율적으로 작동하도록 하는 대신 인간이 의사 결정, 감독 또는 개선의 주요 지점에 적극적으로 관여합니다.
AI가 결과를 생성하는 동안 최종 결과물이 나오기 전에 사람이 개입하여 평가하고 수정합니다. 이러한 인간의 입력은 시간이 지남에 따라 AI 에이전트를 개선하는 데 도움이 됩니다. 이 “의사 결정 게이트” 메커니즘은 인간의 판단을 프로세스에 직접 반영함으로써 AI 워크플로우가 안전하고 윤리적이며 적응력을 유지할 수 있도록 도와줍니다. 인간은 통제권과 책임감을 유지하고, AI는 신속하게 결과를 제공함으로써 효율성을 높일 수 있습니다.
사람이 AI 워크플로에 참여하는 방법은 크게 세 가지가 있습니다:
-
- 사람이 프롬프트를 작성하거나 AI가 행동할 수 있는 지침을 제공합니다. 챗봇이 인간의 일상 업무를 보조하는 경우가 가장 일반적입니다. AI는 인간의 업무를 대체하는 것이 아니라 협업과 업무 향상을 위해 사용되고 있습니다.
- AI는 중요한 순간에 워크플로우를 인간에게 넘깁니다. 사람이 개입하는 곳에 체크포인트가 내장되어 있습니다.
- 특히 민감한 워크플로우의 경우 사람이 AI의 최종 작업을 검토하여 정확성을 검증합니다.
장점과 과제
AI 워크플로우에 사람이 계속 참여하면 여러 가지 이점이 있습니다. 첫째, 부정적인 영향을 미치기 전에 오류를 발견하고 수정할 수 있습니다. 이는 의료, 금융, 법률과 같이 중요한 분야에서 매우 중요합니다. 또한 인간은 편견을 발견하고, 결과물이 투명하고 신뢰할 수 있는지 확인하고, AI 시스템이 지속적으로 학습하면서 모델을 미세 조정하는 데 도움이 되는 피드백을 제공할 수 있습니다. 사람이 AI 에이전트를 감독함으로써 다른 영역으로 영역을 넓히지 않고 자신의 전문 영역에 머물도록 할 수 있습니다.
그러나 사람이 계속 관여하는 데에는 몇 가지 어려움이 있습니다. 워크플로우 중간에 사람이 있으면 AI 가속화에 장애가 될 수 있습니다. 완전 자율 에이전트를 활용하는 것보다 확장성과 효율성이 떨어집니다. 또한 교육 및 인력 배치에 대한 비용이 증가하고, 사람이 언제 개입해야 하는지 파악하는 데 따르는 복잡성의 균형을 맞추는 문제도 있습니다.
-
- 관련 게시물: 에이전트 AI 워크플로 평가
AI 자동화가 준비되지 않은 역할
AI와 관련하여 고려해야 할 또 다른 사항은 해당 업무가 자동화될 수 있는지 여부뿐만 아니라 인간이 원하는지 여부입니다. 인간이 물류 업무나 기술적인 역할을 맡는 AI의 가치를 분명히 인식하고 있다면 신뢰, 공감, 책임감, 도덕적 판단을 중시하는 역할에는 더 강한 거부감을 보일 수 있습니다.
몇 가지 예는 다음과 같습니다:
-
- 의료/관계형 역할 - 의사, 간호사, 치료사, 심리학자, 호스피스 도우미
- 교육적 역할 - 교사, 보육사, 코치, 멘토
- 정의/리더십 역할 - 판사, 변호사, 경찰관, 종교 지도자, 정치인
- 크리에이티브 역할 - 아티스트, 언론인
“중간에 사람”이 있는 워크플로”
아직 AI에 완전히 의존할 준비가 되지 않은 역할도 있지만, 오늘날에는 사람이 적절한 시기에 개입하기 전에 AI가 무거운 작업을 처리할 수 있는 영역이 많습니다.
콘텐츠 제작, 관리, 문서 검토: AI는 스팸 및 유해한 게시물/댓글을 필터링하고, 개요를 작성하고, 긴 텍스트 문서를 요약하고, 동영상을 전사하고, 이미지를 생성할 수 있습니다. 그러면 사람은 정확성을 확인하고, 어조를 다듬고, 브랜드 일관성을 유지할 수 있습니다.
고객 지원: 이는 오늘날 가장 흔하게 볼 수 있는 AI 사용 사례 중 하나입니다. 챗봇은 일상적인 질문에 대한 고객 서비스를 제공하고 추가 자료에 대한 링크를 제공할 수 있습니다. 보다 복잡하고 독특한 문제나 고객이 난동을 부리는 경우에는 사람이 개입합니다.
채용 및 채용 AI는 이력서를 스캔하고 지원서를 빠르게 검토한 다음 특정 채용 기준에 따라 후보자의 순위를 매길 수 있습니다. 그런 다음 인간 채용 관리자가 목록을 확인하고 편견이 없는지 확인한 후 최종 면접 결정을 내립니다.
영양 및 피트니스: AI는 목표와 신체 구성에 따라 운동 및 영양 계획을 제공할 수 있습니다. 개인 트레이너는 운동이 올바른 자세로 수행되고 있는지 확인하고 동기 부여를 제공합니다. 고객의 피트니스 여정이 진행됨에 따라 트레이너는 필요에 따라 원래 계획을 수정할 수 있습니다.
금융 거래: AI 모델은 기본 시장 상황에 따라 특정 주식 거래를 제안할 수 있습니다. 인간 재정 고문은 고객의 전체 재무 상황을 고려하여 최종 거래를 실행합니다.
의료 영상: AI는 엑스레이와 MRI를 스캔하여 종양이나 기타 잠재적 위험 신호를 확인할 수 있습니다. 인간 방사선 전문의가 결과를 확인하고 공식 보고서를 작성합니다.
-
- 관련 게시물: 벡터 검색을 위한 엣지 AI로 가는 길 구축하기
“중간자” 역할의 워크플로 요소
이러한 “중간에 있는 사람” 시나리오는 다음과 같은 워크플로 요소로 구성됩니다:
-
- 원시 입력(데이터/작업) → 소스 자료(스캔, 이력서, 거래, 문서 등)입니다.
- AI 처리(분석/예측) → AI가 분류, 순위 지정, 감지 또는 생성을 수행합니다.
- 인간 검토(감독/수정) → 인간 전문가가 AI 결과물의 품질, 편향성 또는 맥락을 확인합니다.
- 결정 지점(승인 또는 재정의) → 프로세스의 계속 또는 중단 여부를 사람이 결정하는 공식적인 “게이트'입니다.
- 최종 결과물(조치/결정) → 결과(진단, 채용, 거래, 보고, 중재 등).
- 피드백 루프(모델 개선) → 사람이 수정한 내용을 AI 시스템에 피드백하여 재학습하고 성능을 개선합니다.
카우치베이스는 AI 기반 세상을 위한 플랫폼을 제공합니다.
데이터는 AI 모델 학습의 생명선입니다. LLM에 제공할 수 있는 최신의 깨끗하고 신뢰할 수 있는 데이터가 많을수록 응답의 신뢰도가 높아집니다. 또한 AI 모델에 더 많은 데이터를 제공할수록 더 정확도가 높아집니다. LLM과의 상호 작용은 텍스트 기반이므로 LLM과 데이터를 교환하는 가장 좋은 방법은 JSON입니다. Couchbase는 애플리케이션 요구사항의 변화에 따라 적응하는 JSON 기반 아키텍처로 유연한 데이터 모델링을 제공합니다.
트랜잭션, 분석, 모바일, AI 워크로드를 원활하고 완벽하게 관리되는 솔루션으로 통합한 Couchbase는 개발자와 기업이 애플리케이션과 AI 에이전트를 자신 있게 구축하고 확장할 수 있도록 지원하여 클라우드에서 엣지까지 그리고 그 사이의 모든 영역에서 탁월한 성능, 확장성, 비용 효율성을 제공합니다.
인간은 여전히 AI가 완전히 대체할 수 없는 고유한 가치를 워크플로우에 제공합니다.
현 시점에서 인간은 조만간 자율 AI 에이전트로 완전히 대체되지는 않을 것입니다. 인간에게는 AI가 복제할 수 없는 귀중한 자질이 여전히 존재합니다. 윤리적 판단, 창의성, 공감, 진정성, 삶의 경험 등은 인간에게 필요합니다. 콘텐츠가 모두 AI로 생성되면 모든 것이 똑같이 들리고 브랜드의 목소리는 메아리 없는 메아리로 사라집니다. 사람들은 경험, 관계, 신뢰 구축을 통해 다른 사람들과 연결됩니다. 고객의 목소리를 직접 듣는 것은 AI가 대체할 수 없는 증거와 검증을 제공합니다. 전반적으로 AI가 워크플로우에서 중요한 역할을 하는 것은 분명하지만, 중간에 사람이 있는 것이 가장 올바른 결정일 때가 많습니다.
자세한 내용은 새로운 카펠라의 AI 서비스.
