LLMOps 완벽 가이드

책 이미지

eBook 미리보기

책 정보

· 제목 : LLMOps 완벽 가이드 (생성형 AI 도입을 위한 운영 전략, 조직 구조, 도구 활용까지)
· 분류 : 국내도서 > 컴퓨터/모바일 > 인공지능
· ISBN : 9791175790575
· 쪽수 : 332쪽
· 출판일 : 2026-05-26

책 소개

기술적인 해결 방법 소개에 그치지 않고, LLMOps 엔지니어라는 새로운 역할 정의부터 조직의 AI 성숙도를 단계별로 높이는 로드맵까지 상세히 담았다. 앤트로픽의 MCP 프로토콜이나 에이전틱 워크플로 같은 최신 흐름을 운영자의 시각에서 재해석한다.

CHAPTER 1 대규모 언어 모델 소개
_1.1 주요 용어
_1.2 트랜스포머 모델
_1.3 대규모 언어 모델
_1.4 LLM 구조
_1.5 LLM 선택
_1.6 기업의 LLM 활용 사례
_1.7 LLM을 활용한 구축의 도전 과제
_1.8 결론
참고 문헌

CHAPTER 2 LLMOps 소개
_2.1 운영 프레임워크의 개념
_2.2 LLMOps 팀과 역할
_2.3 LLM과 조직
_2.4 LLMOps의 네 가지 목표
_2.5 LLMOps 성숙도 모델
_2.6 결론
참고 문헌
읽을거리

CHAPTER 3 LLM 기반 애플리케이션
_3.1 애플리케이션에서 AI 모델 사용하기
_3.2 인프라 애플리케이션
_3.3 VLM과 멀티모달 LLM의 부상
_3.4 LLMOps 질문
_3.5 LLM 기반 애플리케이션에서 무엇을 제어할 수 있는가?
_3.6 LLM 기반 인프라 시스템의 도전 과제
_3.7 결론
참고 문헌

CHAPTER 4 LLM 데이터 엔지니어링
_4.1 데이터 엔지니어링과 LLM의 부상
_4.2 데이터옵스 엔지니어 역할
_4.3 데이터 관리
_4.4 일반적 LLM 데이터 전처리 파이프라인
_4.5 벡터화
_4.6 결론
참고 문헌
읽을거리

CHAPTER 5 LLM 기반 애플리케이션의 모델 도메인 적응
_5.1 LLM 기초 훈련
_5.2 모델 앙상블 접근 방식
_5.3 모델 도메인 적응
_5.4 프롬프트 엔지니어링
_5.5 파인 튜닝
_5.6 전문가 혼합 모델
_5.7 자원 제약 장치용 모델 최적화
_5.8 효과적인 LLM 개발 전략
_5.9 결론
참고 문헌

CHAPTER 6 API 우선 LLM 배포
_6.1 모델 배포하기
_6.2 LLM용 API 개발하기
_6.3 API 구현하기
_6.4 자격 증명 관리
_6.5 API 게이트웨이
_6.6 API 버전 관리 및 수명 주기 관리
_6.7 LLM 배포 아키텍처
_6.8 검색 재정렬기 파이프라인을 활용한 RAG 자동화
_6.9 지식 그래프 자동 업데이트
_6.10 배포 지연 시간 최적화
_6.11 다중 모델 오케스트레이션
_6.12 RAG 파이프라인 최적화
_6.13 확장성과 재사용성
_6.14 결론

CHAPTER 7 LLM 평가
_7.1 평가가 어려운 이유
_7.2 성능 평가
_7.3 일반적인 평가 고려 사항
_7.4 전통적인 평가 지표의 한계
_7.5 결론
참고 문헌

CHAPTER 8 거버넌스: 모니터링, 개인정보 보호, 보안
_8.1 데이터 문제: 규모와 민감성
_8.2 보안 위험
_8.3 방어 조치: LLMSecOps
_8.4 LLMSecOps 감사 수행
_8.5 안전 및 윤리적 가드레일
_8.6 결론
참고 문헌

CHAPTER 9 스케일링: 하드웨어, 인프라, 자원 관리
_9.1 올바른 접근 방식 선택하기
_9.2 스케일링과 자원 할당
_9.3 모니터링
_9.4 LLM을 위한 A/B 테스트와 섀도 테스트
_9.5 자동 인프라 프로비저닝과 관리
_9.6 LLM 인프라 최적화
_9.7 LLM을 위한 병렬 및 분산 컴퓨팅
_9.8 고급 프레임워크 ZeRO와 DeepSpeed
_9.9 결론
참고 문헌

CHAPTER 10 LLM과 LLMOps의 미래
_10.1 현재의 한계를 넘어서는 확장
_10.2 하이브리드 아키텍처: 신경망과 심볼릭 AI의 결합
_10.3 LLMOps의 미래
_10.4 LLMOps 엔지니어로 성공하는 방법
_10.5 결론
참고 문헌
읽을거리

저자소개

아비 아리안 (지은이) 정보 더보기

Abide AI의 설립자이자 머신러닝 연구 엔지니어로, 10년 가까이 프로덕션 수준의 머신러닝 시스템을 구축해 왔습니다. 수학을 전공했으며 과거 UCLA 인지 시스템 연구실(CSL)에서 주데아 펄(Judea Pearl) 교수의 지도 아래 방문 연구원으로 활동하며 지능형 에이전트 개발에 집중했습니다. AutoML, 다중 에이전트 시스템, 대규모 언어 모델 분야에서 다수의 연구 논문을 저술했으며, 신경 정보 처리 시스템 학회(NeurIPS), 계산 언어 학회(ACL), 자연어 처리 실증 방법 학회(EMNLP), 근사 베이지안 추론 학회(AABI) 등 주요 학술 대회와 워크숍에서 리뷰어로 활발히 활동합니다. 현재는 AI 에이전트의 반성적 지능(reflective intelligence), 다중 에이전트 시스템의 분산형 자기 복구 프로토콜, 초대규모 AI 시스템의 GPU 엔지니어링 연구를 진행하고 있습니다.

펼치기

아비 아리안의 다른 책 >

박조은 (옮긴이) 정보 더보기

'오늘코드' 유튜브 채널을 운영하며, 파이썬 분야의 마이크로소프트 MVP로 활동 중입니다. 웹과 백엔드 개발자로 게임과 광고 회사에서 주로 근무했으며 다양한 도메인의 기업에서 프로젝트를 진행했습니다. 또한 다수의 대학교와 교육기관, 기업에서 강의를 맡아왔습니다. 『모두의 한국어 텍스트 분석 with 파이썬』(길벗, 2023)의 공저자이며 『NLP와 LLM 실전 가이드』(한빛미디어, 2025), 『실무로 통하는 LLM 애플리케이션 설계』(한빛미디어, 2025)를 우리말로 옮겼습니다.

펼치기

박조은의 다른 책 >

박주환 (옮긴이) 정보 더보기

전기전자공학을 전공했으며, 학부 졸업 프로젝트를 계기로 인공지능 분야에 관심을 두기 시작했습니다. 처음에는 모델 활용에 집중했으나, 산업계와 연계된 경험을 쌓으며 모델 학습 원리와 실제 환경에서의 동작 방식에 흥미를 느끼게 되었습니다. 이후 대규모 언어 모델을 중심으로 인공지능 시스템의 활용과 운영 전반에 걸친 지식을 지속해서 학습해 왔으며, 이 책의 번역 작업도 그러한 관심에서 시작했습니다.

펼치기