[큰글자책] AI와 의사 결정

같은 AI인데 왜 결과가 다를까?

01 AI보다 먼저 생각하라
02 맥락 없는 질문, 쓸모없는 답
03 탐색의 함정
04 도메인 지식의 부상
05 AI는 설명하지만, 설득은 인간의 몫
06 데이터 품질의 무게
07 인간 개입 지점을 설계하라
08 단일 AI vs 멀티 AI
09 AI로 사람의 행동을 시뮬레이션하다
10 실사례와 함께 하는 의사 결정

AI에게 묻기 전에 먼저 생각하라. 나는 이 문제에 대해 무엇을 알고 있는가. 나의 초기 가설은 무엇인가. 이 두 질문을 거친 후에 AI의 조언을 구하면, AI는 첫 번째 의견 제공자가 아니라 검증 도구가 된다. 연봉 협상에서 배트나를 알고 있는 사람이 더 나은 결과를 얻듯이, AI 시대에도 먼저 생각하는 사람이 더 나은 판단을 내린다. AI가 답을 주지만, 질문의 방향과 판단의 기준은 여전히 사람의 몫이다.

－01_“AI보다 먼저 생각하라” 중에서

여러분도 이런 경험을 해 본 적이 있는가? 과거에는 정보가 부족해서 결정을 못 했다면 지금은 정보가 너무 많아서 결정을 못 한다. 예전보다 정보를 획득하고, 수집하는 데 소요되는 시간은 훨씬 빨라졌는데 왜 결정은 더 어려워졌을까. 더 찾아보면 더 나은 답이 있을 것 같은 느낌이 든다. 실제로 “한 번만 더” 검색해서 미세하게 더 나은 선택지를 발견한 경험이 있기에 이 느낌을 무시하기 어렵다. “한 번만 더 검색하면…”의 무한 루프에 빠진다. 우리는 언제 “충분하다”고 판단하고 행동으로 옮길 것인가.

－03_“탐색의 함정” 중에서

두 담당자의 차이는 LLM 활용 능력이 아니다. 편향의 존재를 인식하고 이를 의사 결정에 반영했느냐의 차이다. 편향을 인식한 의사 결정자는 AI의 답변을 출발점으로 삼되, 맥락에 맞게 검증하고 보정한다. 편향을 인식하지 못한 의사 결정자는 AI의 답변을 그대로 수용하여 맥락에 맞지 않는 결정을 내린다. 그러므로 LLM을 활용한 의사 결정에서 편향을 고려하려면 다음 질문을 던져야 한다. 첫째, 이 AI의 답변이 어떤 문화적 관점을 전제하고 있는가. 둘째, 내가 의사 결정을 내리는 맥락의 특성이 AI의 훈련 데이터에 충분히 반영되어 있는가. 셋째, AI가 제시하는 ‘보편적’ 해답이 실제로는 특정 문화권의 관점은 아닌가. 이 질문들에 답할 수 없다면 AI의 조언을 맹신해서는 안 된다. 추가 검증이 필요하다는 신호라고 볼 수 있다.

－06_“데이터 품질의 무게” 중에서