[큰글자책] AI와 비전문가

비전문가도 이해할 수 있는 AI

01 배우: AI와 인간의 경계
02 아인슈타인: AI와 데이터의 관계
03 날씨 예보: AI 추천 알고리즘
04 야누스: AI와 일자리
05 애인 대행 아르바이트: AI와 사랑
06 돌아온 사전 혁명: AI와 검색
07 일타강사: AI와 교육
08 인류 멸망의 수: AI와 디스토피아
09 뫼비우스의 띠: AI와 저작권
10 AI 라이선스: AI와 챗GPT

한발 더 나아가 AI에게 인간과 같은 지각과 의식이 없음을 설명하는 강력한 증거 중 하나는 바로 ‘AI 환각 현상(Hallucination)’이다. 지금도 많은 AI 서비스에서 고질병처럼 발견되는 환각은 AI가 잘못된 답을 사실처럼 꾸며 내는 현상을 말한다. 당연히 많은 AI 기업이 이 환각을 줄이고자 노력 중이지만 100% 근절이 어려운 이유도 결국 LLM이 확률 모델이란 점에 기인한다. 확률 분포의 수학적 특성상 LLM이 수십억 단어 조합 가운데 ‘A=B’라는 정답 확률을 아무리 높게 계산해도, 그 답의 확률이 100%로 고정되는 경우는 존재하기 어렵다. 대신 오답이 생성될 확률이 단 0.1%라도 있다면 어느 순간 반드시 발현될 가능성이 있다. 극단적으로 말하면 현재 기술 수준에서 LLM 기반 AI에게 ‘1+1’의 답이 2일 확률은 100%가 아닌 셈이다.

－01_“배우: AI와 인간의 경계” 중에서

AI의 추천은 날씨 예보 기술과 닮았다고 말할 수 있다. 세계 각국의 기상청은 ‘내일은 어디에 비가 올까?’라는 질문에 나름대로 ‘이 지역에서 이런 바람과 기압이 관측되면 보통 비가 왔음’처럼 지난 기상 데이터 패턴과 가까운 지역의 기상 변화 데이터를 근거로 날씨를 예측한다. 하지만 관측에 실패한 데이터가 있거나 기상 이변이 발생할 경우(요즘은 생각보다 흔한) 예보가 빗나갈 확률은 그만큼 크게 증가한다. 이런 측면에서 AI의 추천도 잘 변하지 않는 개인의 일관적 취향 데이터를 바탕으로 할 때는 높은 적중률을 보일 수 있다. 하지만 실시간으로 바뀌는 기분과 호기심의 방향까지는 알 방법이 없다. 어느 순간 ‘이런 콘텐츠는 이제 지겨운데’라는 생각이 든다면 그때가 바로 AI가 아직 알지 못하는 당신의 관심이 변하는 순간이다.

－03_“날씨 예보: AI 추천 알고리즘” 중에서

따라서 최근 AI 검색 서비스는 ‘안 써 본 사람은 있어도 한 번만 쓴 사람은 없는’ 또는 ‘이전 검색으로 돌아가기 어려운’ 같은 많은 사용자의 후기와 함께 빠른 속도로 존재감을 키우고 있다. 관련하여 2025년 4월 기준 전 세계 주요 웹사이트의 사용자 트래픽을 추적하는 ‘시밀러웹(Similarweb)’ 비교 데이터에 따르면 구글과 네이버 등 전통 웹 검색의 전 세계 트래픽 점유율은 93.8%, AI 검색은 6.2%로 집계된 점이 확인된다. 비록 아직 한 자릿수지만 AI 검색을 결코 무시할 수 없는 이유는 폭발적인 성장 속도 때문이다. 동일 조건에서 6개월 전 AI 검색의 점유율은 4.33%에 불과했는데, 이 정도도 지난 10년 이상 구글의 절대적인 점유율 아래 큰 변화가 없었던 검색 시장의 특징을 생각하면 아주 유의미한 변화로 평가되기 때문이다.

－06_“돌아온 사전 혁명: AI와 검색” 중에서