테디노트의 랭체인을 활용한 RAG 비법노트 : 심화편

데이터를 검색해서 답변을 생성하는 RAG를 익혔다면 이제 정보를 더 정교하게 추출하고 처리 흐름을 유연하게 설계하는 고급 RAG(Advanced RAG)로 나아갈 차례다. 이 책에서는 RAG 시스템이 더 정확하고 관련성 높은 문서를 선택하도록 구성해 응답 품질을 높이고, 입력 조건과 처리 목적에 따라 실행 흐름을 자유롭게 설계할 수 있는 구조를 구현하며, 정량적 지표를 바탕으로 문제점을 식별하고 반복 실험을 통해 성능을 개선하는 방법을 다룬다.

★ 파이프라인을 최적화하고 에이전트를 만들어 서비스로 배포하기까지

★ 90점짜리 RAG를 100점짜리 고급 RAG로 업그레이드하는 비법

데이터를 검색해서 답변을 생성하는 RAG를 익혔다면 이제 정보를 더 정교하게 추출하고 처리 흐름을 유연하게 설계하는 고급 RAG(Advanced RAG)로 나아갈 차례다. 이 책에서는 RAG 시스템이 더 정확하고 관련성 높은 문서를 선택하도록 구성해 응답 품질을 높이고, 입력 조건과 처리 목적에 따라 실행 흐름을 자유롭게 설계할 수 있는 구조를 구현하며, 정량적 지표를 바탕으로 문제점을 식별하고 반복 실험을 통해 성능을 개선하는 방법을 다룬다. 또한 LLM이 도구를 사용해 실질적인 작업을 자동으로 수행할 수 있도록 구성하고, 개발한 시스템을 외부 사용자에게 제공 가능한 형태로 서비스화하는 과정까지 포함한다.

★ 더욱 정교하게: 고급 RAG로 필요한 정보를 추출한다

기본 RAG의 리트리버는 단순히 벡터 유사도에만 근거해 실제로 중요한 문서를 뽑아내는 데 한계가 있다. 이때 리트리버 검색 문서의 순위를 재조정하는 리랭커(CrossEncoder, Cohere, Jina, FlashRank 등)를 도입하면 더욱 정확하고 관련성 높은 정보를 추출할 수 있다. 문서를 계층 구조로 요약하는 RAPTOR를 이용해 구체적인 질문부터 추상적인 질문까지 효과적으로 답변하는 방법도 있으며, Stuff, Map-Reduce, Map-Refine, CoD(Chain of Density), Clustering-Map-Refine 등 여러 기법을 이용해 밀도 높은 요약을 얻는 과정을 실험해 볼 수 있다.

★ 더욱 유연하게: LCEL 고급 문법을 이용해 복잡한 체인을 구성한다

LCEL 기반 체인을 구성하는 여러 Runnable 클래스(RunnableLambda, RunnableParallel, RunnableBranch, RunnablePassthrough 등)를 활용해 병렬 처리, 조건 분기, 라우팅, 동적 프롬프트 구성 등을 구현한다. 사용자 입력에 따라 프롬프트와 모델을 선택적으로 바꾸거나 체인 흐름을 분기 처리하는 고급 설계까지 직접 실습할 수 있다.

★ 더욱 정확하게: RAG 시스템의 응답 품질을 평가하고 개선한다

RAGAS를 통해 LLM 응답의 관련성, 신뢰도, 문맥과의 정합성 등을 수치화하여 평가하는 방법을 다루고, LangSmith API로 평가 데이터셋 생성, LLM-as-a-judge 기반 평가, 사용자 정의 평가자 구현, 휴리스틱 기반 평가, 온라인 평가 자동화, 응답 비교 평가 등 실제 품질 실험을 위한 다양한 평가 방식을 체계적으로 안내한다. 실습은 코드 기반으로 진행되며 실험 결과를 비교 분석하는 방식까지 포함되어 있다.

★ 더욱 편리하게: LangChain으로 에이전트를 구성하고 외부 도구를 연동한다

LLM이 외부 도구를 직접 호출해 복잡한 작업을 수행하는 에이전트 구조를 다룬다. 파이썬 REPL, Tavily 검색 도구, DALL·E 등 다양한 도구를 바인딩하고, 메모리 기능과 중간 응답 스트리밍까지 포함한 실습을 통해 실제 업무 수준의 자동화 작업을 구현해 본다. AgentExecutor, Agentic RAG, 파일 분석, 보고서 작성 자동화 등 실전 예제를 통해 단순한 QA를 넘어선 확장형 LLM 시스템 설계를 학습할 수 있다.

★ 더욱 완전하게: 실제 사용자에게 제공할 수 있는 서비스를 배포한다

Streamlit을 이용해 사용자 입력과 체인 실행 결과를 연결하는 웹 UI를 구성하고, 설정 파일과 GitHub 연동을 통해 배포 이후의 코드 수정과 테스트까지 실습한다. LangServe를 활용해 체인이나 에이전트를 API로 서빙하고, NGROK을 통해 외부에서 접근 가능한 환경을 구성한다.

▶코드 리뷰어들의 후기

“실습 중심으로 개념 학습은 물론, 실제 프로젝트에 곧바로 적용할 수 있는 실전형 가이드입니다. 특히 LangSmith와 같은 최신 도구까지 반영되어 있어 그 가치는 더 큽니다.”

_전창원_ LG CNS

“전공자가 아닌 제가 감히 리뷰를 해도 될지 고민했지만, 저와 비슷하게 다른 분야의 업무를 하면서 AI 분야 필요성을 느껴 배움을 시작하는 독자들에게 조금이라도 도움이 되고자 하는 마음으로 진행했습니다. 실습 중심의 구성과 친절한 설명 덕분에 누구든 부담 없이 시작할 수 있을 것입니다.”

_김무상_ 삼성전자

“『테디노트의 랭체인을 활용한 RAG 비법노트』는 LLM을 뛰어놀게 하는 아름다운 코드입니다. 리뷰를 거듭할수록 저자의 피와 땀이 얼마나 이 코드에 스며들었는지 느낄 수 있었습니다.”

_김정욱_ 브레인크루

▶이 책에 쏟아진 찬사

“시작이 어려웠던 모두에게 최고의 선택이 될 것입니다.”
_김재호_수원대학교 대학원 컴퓨터학과

“독보적 한국형 예시로 이해가 쏙쏙 되었고 빠르게 성장할 수 있었습니다.”
_박정기_JCH SYSTEMS / AI 선임 연구원 / n8n Korea 앰버서더

“복잡한 설명 없이 step by step 따라하기로! 정말 매력적입니다. 사실입니다.”
_신정호_입소스코리아 / 데이터사이언스

“책이 아니라 나침반을 사는 겁니다.”
_오주영_프리랜서

“LangChain 입문에 있어서 바이블 같은 책”
_정광원_주식회사 스튜디오엠 개발팀 팀장

“더 이상 랭체인이 무엇인지, 어떻게 개발해야 하는지 찾지 않게 되었습니다.”
_조영준_에스티이지

“코드를 따라 가다 보니 어느새 랭체인 마스터가 되었습니다.”
_허수영_윈드케어

▶이 책이 필요한 독자

RAG 시스템의 기본은 알고 있지만, 실무 수준의 고도화가 필요한 개발자
서비스 수준의 RAG를 구축하려는 개발자
검색 품질 향상과 성능 최적화에 관심 있는 개발자
사내 문서 검색, FAQ 시스템, 지식 관리 시스템을 구축하려는 기업 담당자
대용량 문서 처리와 정확도 향상이 중요한 업무를 담당하는 사람
AI 도입 후 품질 관리와 평가 체계 구축이 필요한 담당자
업무 자동화를 위한 에이전트 시스템 구축이 필요한 사람

▶ 이 책에서 다루는 내용

_PART 01 고급 RAG

문서 검색 후 리랭커로 순위를 재정렬해 RAG의 답변 품질을 높이고, 네이버 뉴스 기반 QA 시스템과 오픈소스 LLM을 활용한 구현 방법을 설명한다. 밀도 높은 요약을 위해 다섯 가지 방식도 소개한다.

_PART 02 LCEL 고급 문법

LangChain에서 모델과 데이터를 효율적으로 연결하고 실행하기 위한 표현 언어인 LCEL의 다양한 Runnable 클래스를 활용해 병렬 처리, 데이터 변환, 라우팅 등을 수행한다.

_PART 03 RAG 평가와 개선

RAGAS를 활용해 정답 없이도 응답의 품질을 평가하고, LangSmith에서 데이터셋 생성부터 LLM 기반 자동 평가, 휴리스틱 평가, 온라인 평가까지 여러 방식으로 RAG 시스템을 실험하고 개선하는 과정을 다룬다.

_PART 04 에이전트

LangChain 에이전트를 통해 LLM이 검색, 계산, 이미지 생성 등 외부 도구를 활용해 복잡한 작업을 수행하는 방법을 다룬다. 도구 바인딩, 메모리, 스트리밍 출력 기능을 실습하고, Agentic RAG부터 업무 자동화까지 다양한 활용 사례를 소개한다.

_PART 05 서비스 배포
LangChain 에이전트를 실제 서비스로 확장하는 방법을 다룬다. LangServe를 활용해 에이전트를 배포하고, Streamlit으로 사용자 입력과 실행 과정을 보여주는 웹 UI를 구축한다.