최고의 프롬프트 엔지니어링 강의

PART 01 LLM 그리고 새로운 시대의 개막

CHAPTER 01 머신러닝과 딥러닝의 개념
규칙 기반 AI와 머신러닝
전통적인 머신러닝과 딥러닝의 차이점

CHAPTER 02 LLM, 완전히 새로운 시대의 개막
LLM의 빅뱅
LLM의 작동 원리
LLM 성능을 향상시킨 주요 기술
LLM 응용 기술

CHAPTER 03 LLM, 특이점의 시작
GPT-4의 뛰어난 성능
소프트웨어 개발 방식의 진화
새로운 기회 찾기
새로운 기회의 시작

PART 02 프롬프트 엔지니어링 원 포인트 레슨

CHAPTER 04 프롬프트 엔지니어링이란
AI 시대 새로운 코딩, 프롬프트 엔지니어링
프롬프트 엔지니어링의 가장 대표적인 다섯 가지 방법
기본적인 프롬프트 구성
프롬프트 엔지니어링 원 포인트 레슨

CHAPTER 05 컨텍스트를 가져오는 기술 - 벡터 서치
LLM의 숨은 영웅, 임베딩
벡터 서치와 시맨틱 서치
벡터 서치의 명암

PART 03 프롬프트 엔지니어링 기초

CHAPTER 06 프롬프트를 디자인하는 방법
프롬프트 디자인의 세 가지 핵심 요소
프롬프트 디자인 프레임워크
프롬프트 디자인 프레임워크 예제
프롬프팅 테크닉 TOP 8
프롬프팅 확장 테크닉: 예시를 제공하고 생각하게 만들기
프롬프팅 확장 테크닉: 전략을 짜고 스스로 평가하기
포맷팅
프롬프트 체이닝
좋은 프롬프트 만들기

CHAPTER 07 LLM 구성 요소 및 생성 조건
토큰
컨텍스트 윈도우
주요 생성 옵션

CHAPTER 08 LLM의 대표적인 자연어 처리 기술
언어 번역
스타일 변경
편집 및 재작성
요약
개체명 인식
감정 인식
문서 분류
주제 모델링
유사성 평가
질문 답변

PART 04 프롬프트 엔지니어링 연습

CHAPTER 09 실습 준비하기
OpenAI Playground 환경 설정하기
OpenAI Playground 화면 살펴보기
ChatGPT 이용하기

CHAPTER 10 유튜브/블로그 제목 다듬기
프롬프트 작성하기

CHAPTER 11 영어 단어장 만들기
프롬프트 작성하기

CHAPTER 12 채용 인터뷰 질문 생성하기
프롬프트 작성하기

CHAPTER 13 실전 프롬프트 예시

PART 05 프롬프트 엔지니어링 실무

CHAPTER 14 LLM 역량을 200% 끌어올리는 방법
모델을 선택할 때 고려해야 할 것들
프롬프트 작성 도움받기
환각 줄이기
외부 지식 주입하기
외부 도구 사용하기: 함수 호출

CHAPTER 15 프롬프트 평가와 테스팅
프롬프트 요구 사항 명세
프롬프트 버전 관리
생성 결과 평가하기
평가 자동화

CHAPTER 16 LLM 보안
데이터 보안
프롬프트 보안
프롬프트 인젝션
실제 해킹 과정
프롬프트 인젝션 방어 방법 세 가지

CHAPTER 17 LLM의 미래, Agent
Autonomous Agent
Generative Agents
AGI의 구현

EPILOGUE
찾아보기

“ 프롬프트 엔지니어링은 더 많은 사람이 프로그래머가 될 수 있는 세상이 온 것을 의미합니다.”

시중에 나온 ChatGPT 사용법은 대부분 프롬프트 엔지니어링이 아닌 블라인드 프롬프팅 혹은 프롬프트 라이팅이라고 부르는 것들입니다. ChatGPT의 답변을 평가하는 설계가 없으니 결과의 일관성과 정확성을 보장할 수 없기 때문입니다. 이 책은 어쩌다 한 번, 우연히 그럴 듯한 결과를 내는 것이 아니라 실험론적 방법론에 기반하여 의도한 대로 정확하고 일관된 결과를 얻는 방법을 설명합니다. 다양한 프롬프트를 시도하고, 결과를 분석하며, 지속적으로 개선해 나가는 과정을 통해 AI를 의도한 대로 제어하고 사용 경험을 극대화하는 것을 목표로 합니다.

이 책은 프롬프트 템플릿을 ‘사용’하는 방법이 아닌 ‘작성’하는 방법, 그리고 프롬프트로 프로그램을 처음부터 구성하는 방법을 알려 줍니다. 물론 코딩을 할 수 있다면 라이브러리를 활용해 LLM 애플리케이션을 개발하는 것이 훨씬 간편할 수 있습니다. 그러나 이렇게 기초부터 배우는 이유는 외부에서 가져온 라이브러리나 프롬프트 템플릿을 사용하면 확장성이 낮고 문제가 있을 때 디버깅(문제를 특정하고 해결)하는 게 굉장히 어렵습니다. 현재 널리 알려져 있는 라이브러리도 계속 발전할 것이고 새로운 기술도 끊임없이 등장할 것입니다. 따라서 스스로 프롬프트를 만들고 구성하는 능력을 기르는 것은 AI를 단순 활용하는 것 이상의 큰 결과를 가져다 줄 것입니다.

LLM을 이용한 AI 도입 이후 CS 상담원에게 어떤 변화가 발생했는지 조사해 봤더니 시간당 상담 해결 건수가 13.8%나 증가했다고 합니다. 이는 상담 한 건을 처리하는 속도가 빨라진 동시에 하루 진행 상담 건수도 증가했다는 뜻입니다. 또한 성공적으로 해결한 상담 비율이 높아진 것도 변화에 기여한 주요 요인입니다. 하지만 여기서 중요한 것은 해결 건수 증가가 아닙니다. CS 상담원이 높은 수준의 상담 능력을 갖추는 데는 보통 6개월 정도의 교육이 필요한데, AI의 도움을 받으면 무려 2개월 만에 같은 수준의 능력을 갖추게 된다는 것이 핵심입니다. 이로 인해 고객 만족도뿐만 아니라 상담원 만족도도 같이 향상되었고, 업무 프로세스뿐만 아니라 상담원의 재직 기간도 크게 늘어나는 등 기업 전반에 큰 변화가 일어났습니다.