AI와 인간의 판단

인간의 판단 오류에서 AI의 역할과 한계

01 합리성과 비합리성
02 개인의 판단 오류 1: 휴리스틱과 편향
03 개인의 판단 오류 2: 소음 혹은 분산
04 집단적 의사 결정과 비합리성
05 AI 모형의 설계와 그 적용
06 AI가 잘하는 일, 못하는 일
07 AI를 적용한 사례 1: 의료 분야
08 AI를 적용한 사례 2: 금융 투자 분야
09 AI를 적용한 사례 3: 연구 분야
10 AI 의사 결정의 장점과 한계

먼저 뇌의 구조와 기능을 개략적으로 살펴보자. 인간의 뇌는 크게 대뇌, 중뇌, 소뇌, 간뇌, 뇌간 등으로 구성되어 있고, 각각 특정한 기능을 수행한다. 대뇌는 다시 전전두엽(prefrontal cortex), 전두엽(frontal cortex), 두정엽(parietal lobe), 후두엽(occipital lobe), 측두엽(temporal lobe)으로 구성되어 있다. 전전두엽은 이성을 담당하는데, 비교·판단·추리·예측 기능을 수행한다. 전두엽은 신체를 움직이게 하는 명령 시스템이라 할 수 있다. 두정엽은 신체 접촉에 따른 외부의 자극을 인지하는 기능을 담당하고, 후두엽은 시각을 담당한다. 측두엽은 청각을 처리하며, 장기 기억을 담당하는 역할을 한다.

－01_“합리성과 비합리성” 중에서

비체계적 소음은 판단 과정에서 체계적이지 않거나 무작위적인 요인들에 의해 판단에 영향을 받는 경우다. 일례로, 늦게 일어나 아침 식사를 거르고 법정에 들어선 판사는 아침 식사를 했을 때보다 더 까다로워질 수 있다. 또 다른 예로, 부드러운 의자에 앉아 있을 때는 네모난 딱딱한 의자에 앉아 있을 때보다 대상에 대한 판단이 느슨해진다. 눈을 그린 포스터가 벽에 부착되어 있는 경우, 꽃 그림이 그려진 경우보다 판단이 엄격해진다. 심지어 전날 축구 국가대표팀이 상대국에 승리한 것이 판결의 처벌 수준을 완화시킬 수도 있다. 패배한 경우에는 그 반대의 현상이 전개될 수도 있다. 아침에 부부싸움을 했거나 자식과 불화를 겪은 경우 혹은 그 반대의 경우, 판사의 판결 내용이 달라질 수도 있다. 심지어 최근 판사들의 선고와 관련된 신문 기사가 판사에게 무의식적으로 영향을 미칠 수도 있다.

－03_“개인의 판단 오류 2: 소음 혹은 분산” 중에서

AI는 수많은 데이터를 읽고 특정 분류 기준에 따라 데이터를 분류하는 능력이 뛰어나다. 이를 위해 읽어 들일 데이터를 가능한 다양한 특성(feature)을 가진 데이터로 변환하는 작업이 분류 이전에 수행된다. 실제 상황에서 수집된 데이터(raw data)는 여러 특성이 혼합된 상태인 것이 보통이다. 이로부터 특성 데이터를 추출하고, 그 특성 데이터를 분류 작업을 수행하는 AI 모델에 매개 변수로 입력한다. 이런 사전 데이터 처리 작업(data pre-processing)이 분류 성능에 미치는 영향은 매우 크다. 최근 초거대 AI(hyperscale AI)는 수천억 또는 수조 개의 매개 변수를 입력받는다. 대표적인 예로, 오픈AI의 GPT-3 모델은 1750억 개 매개 변수를 받는다.

－06_“AI가 잘하는 일, 못하는 일” 중에서