유럽연합 인공지능법 (잠재의식적 AI 시스템에 대한 규제)
Neuwirth, Rostam J. | 박영사
16,560원 | 20250925 | 9791130324821
인공지능(AI)은 다른 혁신적 기술들과 결합하여 삶의 모든 영역에 전례 없는 기회를 가져올 것을 기약하고 있다. 그러나 이러한 기술들은 특히 인간 정신을 조작할 수 있는 위험성을 내포하고 있어, 심각한 윤리적 문제를 야기하고 있다. 이러한 문제를 해결하기 위한 부문별 규제 노력은 있었으나, AI에 대한 포괄적인 규제 체계는 아직 채택되지 않았다. 다만, 2021년 유럽연합 집행위원회(EU Commission)는 「인공지능법」 초안을 발표하였고, 뒤를 이어 유네스코(UNESCO) 또한 「인공지능 윤리에 관한 권고안」을 채택하였다.
이 책은 인공지능의 미래 규제에 대한 맥락을 제시하며, 특히 잠재의식에 영향을 미치는 기술을 사용하는 AI 시스템의 사용을 금지하려는 계획과 관련된 규제적 도전 과제를 중점적으로 다룬다. AI는 이미 뇌-컴퓨터 인터페이스, 기능적 자기공명영상(fMRI), 로봇공학, 빅데이터 등 다양한 관련 기술들과의 융합을 통해 뇌 스파이웨어를 활용한 “마음 읽기”나 “꿈 해킹”을 가능하게 하고 있으며, 이 밖에도 인지 과정 및 사상의 자유에 침해하는 여러 행위들을 가능하게 하고 있다. 미래의 혁신은 사고와 행동을 조작할 수 있는 가능성을 더욱 확대시킬 것이며, 이는 개인뿐만 아니라 사회 전체에 심각한 해를 끼칠 수 있는 위험이 있다.
잠재적 인식을 통해 인간의 의식을 인지하지 못하는 수준에서 속이고 조작할 수 있는 능력은 법과 민주주의에 커다란 어려움을 야기하며, 사회의 미래에 중요한 질문을 던진다. 이 책은 인지적·기술적·법적 문제들이 본질적으로 연관되어 있음을 보여주며, 법학뿐만 아니라 컴퓨터 과학, 신경과학, 사회학, 정치학, 마케팅, 심리학 등 다양한 학문 분야에 관심을 가진 학생, 학자, 실무자, 정책결정자, 시민 간의 긴급히 요구되는 학제적·국제적 논의를 자극하고자 한다.