책 이미지
책 정보
· 분류 : 국내도서 > 컴퓨터/모바일 > 인공지능
· ISBN : 9791143005564
· 쪽수 : 135쪽
· 출판일 : 2025-12-04
책 소개
목차
왜, AI와 소비자 보호인가?
01 알고리즘 소비
02 알고리즘 소비자
03 블랙박스화한 알고리즘
04 소비자 후생의 저해
05 프로파일링과 소비자 권리
06 주체별 책임
07 책임 내용: 투명성과 설명 가능성, 신뢰성
08 AI와 소비자 데이터 주권
09 소비자 거버넌스
10 시사점
저자소개
책속에서
자동화된 컴퓨터 알고리즘이 데이터에서 가치를 추출하는 강력한 도구가 될 수 있다는 것은 의심의 여지가 없으며, 잠재적으로 시장 효율성과 혁신을 촉진하고 심지어 경쟁을 촉진할 수도 있다. 그럼에도 새로운 기술 도구가 기업의 운영 및 상호작용 방식에 큰 혁명을 일으킬 때마다 일부 시장 참여자가 사회적 목표와 일치하지 않는 사적 이익을 달성하기 위해 강화된 힘을 사용할 위험은 충분하다. 즉, 악의적인 조작은 물론 무의식적으로 알고리즘이 이용될 수 있다.
-01_“알고리즘 소비” 중에서
알고리즘의 불투명성에 따라 발생하는 문제에 대한 책임 주체 또한 명확하지 않다. 즉, 알고리즘이 내린 결론이 문제되었을 때 어느 단계에서 문제가 되는지 확인이 쉽지 않다는 점이다. 알고리즘의 블랙박스 현상이 가장 큰 문제로 인식되는 이유다. 데이터의 정제 과정에서의 문제인지, 데이터의 학습 문제인지, 모델에 대한 파라미터를 조정하는 과정에서 문제인지, 알고리즘 조작에 따른 문제인지를 쉽게 확인할 수 없기 때문이다. 이러한 사항은 내부적으로 풀어야 할 문제이며, 소비자에게 무과실 책임을 주장하기 어렵다.
-03_“블랙박스화한 알고리즘” 중에서
제대로 된 설명이 이행되지 않을 경우에는 원인에 따른 결과 책임을 벗어나기는 어렵다. 만약 어떤 결과에 대해 그 원인을 알 수 없다면 소비자는 어떠한 선택을 할 수 있을 것인지 의문이다. 손해 발생에 따른 책임을 누구에게 물을 것인지가 가장 큰 문제다. 서비스 제공자나 개발자에게 묻기 어려운 상황이 발생할 수 있다. 손해는 발생하였으나 그 책임을 질 수 있는 관계자의 부존재 현상도 배제할 수 없다. 현재로서는 최종적인 서비스를 제공하는 사업자에게 그 책임을 물을 수밖에 없는 상황이다.
-06_“주체별 책임” 중에서



















