돈 되는 AI, 어디서부터 무엇을 어떻게 해야 할까

프롤로그

Chapter 01 기업이 AI 도입에 실패하는 이유
AI를 안 쓴다고 당장 망하지 않는다는 생각은 결국 실패한다
__AI 도입 실패의 주요 원인들
__[문제 해결 방안] 직원들이 왜 AI를 안 쓰는지부터 파악하라!
고립된 AI 조직으로 인해 실패한다
__AI 도입을 위한 9단계 업무 프로세스
__AI 도입을 위한 9단계 업무 프로세스의 단계별 역할
__AI 도입을 위한 9단계 업무 프로세스에서 알 수 있는 인사이트
__고립된 AI 조직의 문제점
__[문제 해결 방안] 개방된 AI 조직과 전사적인 협업만이 살길이다!
AI에 대한 생각이 서로 달라서 AI 프로젝트가 실패한다
__AI 프로젝트가 산으로 가는 이유
__[문제 해결 방안] 경영진은 실무자보다 AI 공부를 더 많이 해야 한다!
외부에서 영입한 AI 전문가에게 모든 것을 맡기면 실패한다
__외부 전문가 영입 전략의 함정
__내부 인재 육성의 전략적 가치
__[문제 해결 방안] 내부 인력을 중심으로 외부 전문가는 소수 채용한다!
실패 체크 리스트와 해결 방안
__전략 및 타이밍의 부재
__조직 문화 및 인식의 문제
__기술 및 도입 방식의 오해
__[CEO를 위한 비즈니스 인사이트] 6시그마 운동을 기억하십니까?

Chapter 02 돈 되는 AI 도입과 활용법
돈 되는 AI를 위한 문제 정의 방법
__문제 해결이 아닌 문제 정의부터: 4단계 필터링 가이드
__1단계: 문제를 좁고 예리하게 정의했는가?
__2단계: 데이터와 연관된 문제인가?
__3단계: AI로 풀 수 있는 유형인가?
__4단계: 그래서 돈이 되는가?(ROI 산출)
돈 되는 AI 분야를 선택하는 다섯 가지 원칙
__원칙1: 거창한 분야가 아닌 좁고 예리한 분야에 집중하라
__원칙2: 데이터가 아닌 비즈니스 목적에서 출발하라
__원칙3: 완벽히 새로운 것보다는 검증된 성공을 활용하라
__원칙4: AI를 특수 기술이 아닌 엑셀처럼 생각하라
__원칙5: 기존 시스템을 대체하거나 강화하는 곳을 공략하라
돈 되는 AI 프로젝트를 추진하는 방법
__AI 전문가 영입
__AI 프로젝트 외주
__하이브리드 모형: 전문가 영입 + AI 프로젝트 위주
__내부 직원 교육 후 자체 구현
돈 되는 AI 업무 4단계 로드맵: HR을 중심으로
__1단계: 업무 자동화로 반복 업무 줄이기
__2단계: 예측하여 미래 내다보기
__3단계: 시뮬레이션으로 다양한 '만약'의 결과 검토하기
__4단계: 업무 최적화로 최상의 해답 찾기
__[사례1] 최적화를 위한 아이디어 찾기: 세일즈포스닷컴
__[사례2] 최적화를 위한 아이디어 찾기: 팔란티어
돈 되는 AI 도입을 위한 ABCD 방법론
__ABCD 방법론이란
__ABCD 방법론은 왜 필요한가
__1단계: 분석 및 기회 발굴(Analysis)
__2단계: 문제 정의 및 설계(Blueprint)
__3단계: 구현 및 실행(Create)
__4단계: 성과 평가 및 발전(Develop)

Chapter 03 AI 이해를 통한 비즈니스 인사이트
AI를 이해하기 전에 알아두어야 할 세 가지
최소한의 AI 역사
__AI 겨울의 근본 원인
__[CEO를 위한 비즈니스 인사이트] 왜 AI 전문가들의 과도한 약속을 믿고 막대한 연구비를 지불했을까
인공지능의 학습과 추론
__학습: 최적의 공식을 찾아내는 고된 과정
__추론: 공식을 사용하여 답을 계산하는 과정
__[CEO를 위한 비즈니스 인사이트] 학습과 추론
컴퓨터는 어떻게 인간의 언어를 이해하게 되었는가
__벡터 혁명 이야기
__임베딩 과정
__[CEO를 위한 비즈니스 인사이트] 우리 기업에서 벡터화할 수 있는 자산에는 무엇이 있는가
LLM 시대를 연 혁명적 모델: 트랜스포머
__RNN
__LSTM
__트랜스포머의 등장
__트랜스포머의 아키텍처
__오픈AI는 왜 디코더만으로 GPT를 만들었을까?
AI를 더 똑똑하게 만드는 방법: 제1의 스케일링 법칙
__트랜스포머의 분화: 디코더 계열, 인코더 계열, 디코더-인코더 계열
__LLM 스케일링 법칙의 탄생
__프롬프트 엔지니어링의 시작
__[CEO를 위한 비즈니스 인사이트] 더 큰 모델, 더 많은 데이터, 더 많은 GPU 필요, 즉 쩐의 전쟁
GPT-3를 만들고 보니
__똑똑한 추론 능력
__상식이 없는 GPT-3의 답변
AI를 더 똑똑하게 만드는 방법: 제2의 스케일링 법칙
__GPT-3 이후 오픈AI의 고민
__[CEO를 위한 비즈니스 인사이트] 실패의 연속, 대화형 AI 서비스 비즈니스
__ChatGPT의 탄생을 위한 준비: 세계 최초 대화형 AI 서비스
__드디어 ChatGPT를 출시하다
__제2의 스케일링 법칙: RLHF
__[CEO를 위한 비즈니스 인사이트] 세상의 모든 지식을 보유한 AI vs 사용자가 원하는 답을 주는 AI
AI를 더 똑똑하게 만드는 방법: 제3의 스케일링 법칙
__테스트-시간 계산
__깊은 사고의 시작, O1의 출현
__현대 AI의 3단계 패러다임: 학습, 추론, 그리고 사고
딥시크의 등장
__딥시크에 관한 세 가지 핵심 질문
__딥시크의 두 번째 충격
__딥시크의 완전한 공개가 가져온 파급 효과
__ 딥시크가 준 영향
__젠슨 황의 테스트 타임 스케일링 법칙 발표가 주는 의미
__왜 얀 르쿤은 현재의 LLM으로 AGI를 달성할 수 없다고 하는가?
__[CEO를 위한 비즈니스 인사이트] 테스트 타임 스케일링 법칙이 한국 AI칩 벤처에 던지는 의미

Chapter 04 AI 시대의 시스템 사고
시스템1 사고: 빠른 직관
__시스템1 사고의 특성
시스템2 사고: 신중한 논리와 분석
__시스템2 사고의 특성
__대니얼 카너먼의 생각과 이론의 영향력
시스템1 사고는 AI의 추론 모델, 시스템2 사고는 AI의 사고 모델
__시스템1, 시스템2 사고와 AI 모델의 매핑
__시스템2 사고의 한계와 AI 사고 모델의 잠재력
__기업 환경에서 AI가 시스템2 사고를 대체할 때 벌어질 일들
__[문제 해결 방안: 기업 측면] 직원은 Ai 도구의 노예가 아닌, 도구의 지휘자가 되어야 한다
__[문제 해결 방안: CEO 측면] CEO는 조직 전체의 사고력을 앞장서서 이끌어야 한다
__[CEO를 위한 비즈니스 인사이트] AI 시대 고부가가치 업무란 무엇인가

Chapter 05 기업이 선택한 AI 활용 방법, RAG
기업이 RAG를 활용해야 하는 이유
__RAG란
__RAG의 장점
기업의 RAG 프로세스
__데이터 준비 과정: AI의 지식 창고(벡터DB) 구축하기
__질의 응답 파이프라인: 지능적으로 답변 생성하기
RAG에서 오픈 소스 LLM과 클로즈드 소스 LLM의 비교
__오픈 소스 LLM의 사용 방법
__오픈 소스 LLM vs 클로즈드 소스 LLM 기반 RAG 구현 비교 분석
RAG에서 고려해야 할 점
__임베딩 모델의 신중한 선택과 관리
__문서 처리의 복잡성
__검색의 정확도를 높이는 심화 기술
__지능형 RAG 구축
Ragas란 무엇인가?
__Ragas의 핵심 평가 지표
__검증 프로세스
__결과 분석 및 개선
RAG의 주요 활용 방안
__산업별 활용 방안
__RAG의 업무별 활용 방안

Chapter 06 AI 에이전트
AI 에이전트란?
__일반 프로그램과 AI 에이전트의 차이
__AI 에이전트의 구조
__AI 에이전트의 장점과 한계
AI 에이전트를 구현하는 방법
__AI 에이전트 구현을 위한 주요 개발 도구 종류
__기업에서 개발 도구 선택이 왜 중요한가?
에이전트 패키지
__랭체인: AI 에이전트 개발의 표준 프레임워크
__랭그래프: 복잡한 AI 에이전트를 위한 플로우 엔지니어링
__오픈 딥 리서치
__오픈AI Agents SDK
__CrewAI: 협업ㅎㄹ라는 에이전트 세계
바이브 코딩
__커서: 비주얼 스튜디오 코드 기반의 대표적인 바이브 코딩 도구
__클로드 코드: 앤트로픽의 코딩 전문 AI
__제미나이 CLI: 구글 AI 기반의 커맨드라인 도우미
노코드 도구
__마이크로소프트 코파일럿 스튜디오: AI 챗봇과 에이전트를 만드는 데 최적화
__구글 에이전트 빌더: 데이터 검색 기반 AI 에이전트 개발 플랫폼
__AWS 베드락 에이전트 코어: 7개 모듈로 구성된 종합 AI 에이전트 플랫폼
__n8n: 1000개 이상 앱을 연결하는 노코드 워크플로 자동화 도구
__디파이: LLM 기반 애플리케이션 개발을 위한 올인원 노코드 플랫폼
__어시웍스: 한국 기업 실무에 특화된 노코드 AI 에이전트 플랫폼
기존 시스템과의 AI 에이전트 통합
__단순 정보 조회: AI 단독으로도 가능한 영역
__최적화: 시스템 통합 없이는 불가능한 영역
__왜 통합이 최적화의 핵심인가
__AI 에이전트 통합으로 얻는 혁신적인 이득
AI 에이전트 vs 에이전틱 AI
__AI 에이전트와 에이전틱 AI의 개념 비교
__에이전틱 AI의 사례
__에이전틱 AI의 오케스트레이션 기능
__Skywork와 Genspark의 비교
__오픈AI의 ChatGPT 에이전트
AI 에이전트의 문제점
__AI 에이전트의 주요 문제점들
__AI 에이전트의 문제점을 해결하는 방안들
AI 에이전트 시대의 앱 스토어, MCP
__MCP 서버와 연동된 AI 에이전트의 작동 방식
__MCP 서버와 smithery.ai
__MCP의 아키텍처
__MCP의 핵심 가치
__MCP의 단점
__MCP 서버 추천
AI 에이전트의 활용 방안
__AI 에이전트의 산업별 활용 방안
__AI 에이전트의 업무별 활용 방안

Chapter 07 기업에서 AI를 도입하는 다양한 방안
국내 기업의 망분리 현황
__망분리 의무 대상 상세 분석
__망분리가 기업의 AI 활용에 어떤 제약을 주는가
데이터 보안과 아키텍처의 선택
__데이터 보안: 데이터를 지키는 방법(How)
__데이터 프라이버시: 데이터를 다루는 규칙(What & Why)
__전략적 절충과 하이브리드의 필요성
AI 도입을 위한 다양한 아키텍처
__A타입: 클로즈드 소스 LLM
__A-1타입: 오픈AI의 Assistant API 사용
__B타입: 오픈 소스 LLM 사용
__B-1타입: 오픈 소스 LLM + 클라우드 사용
__C타입: A타입 + B타입 하이브리드
__D타입: 오픈AI의 기업형 ChatGPT
__D-1타입: 오픈AI의 Team with GPTs

에필로그

한국 기업이 글로벌 트렌드를 리딩하기 위해서는 지금까지 가보지 않았던 길을 가야 합니다. 한국의 기업은 원래 열심히 일했습니다. 앞으로는 모든 직원이 열심히 하는 것은 기본이고, CEO들이 비상한 통찰력과 AI 시대를 꿰뚫는 기술적인 혜안을 가져야 합니다. 이 책은 그러한 리더십을 원하는 CEO들을 위해 썼습니다.

많은 기업을 컨설팅해 보면서 느낀 것은, 결국 그 기업의 AI 수준은 해당 기업 CEO들의 AI 수준보다 높을 수 없다는 것입니다. 왜 그럴까요? AI가 기업에 적용되는 과정에서 이렇게 해야 된다라는 지침이나 매뉴얼이 없기 때문입니다. AI라는 개념 자체가 매우 추상적이어서 그것을 이해하는 수준이 사람마다 천차만별이기 때문에 CEO는 자신들의 수준 이상을 기대하지 못합니다. 그러니 아무리 열심히 해도 딱 그 수준까지만 가게 되는 것입니다.

AI 프로젝트가 실패하는 데는 수많은 이유가 있지만, 가장 근본적인 원인은 바로 경영진과 실무진 사이의 AI에 대한 인식과 기대치의 거대한 간극에 있습니다. 이는 마치 여러 장님이 각자 다른 부위를 만지며 코끼리 전체를 상상하는 것과 같습니다. 이 간극이 프로젝트를 표류하게 하고 결국 실패로 이끌기도 합니다.