기계가 언어를 사용한다는 것에 대한 인문학적 사유

머리말
들어가며

1장 LLM 인공지능의 언어 생성 원리 및 구조
2장 윤리적, 법적, 사회적 과제
3장 지능, 의식, 그리고 타자의 마음 문제
4장 언어, 의미, 그리고 소통
5장 저자성과 권위
6장 진실, 거짓, 그리고 환각
7장 글쓰기에 미래는 있는가?

참고문헌
찾아보기

무엇보다도 LLM이 내놓은 거짓 정보를 근거로 어떤 행동을 취하게 되면, 현실에서 아주 심각한 문제를 초래할 수 있다. 이를테면, LLM은 인간이 섭취하기에 부적합한 재료가 포함된 레시피를 생성하고, 독성이 있을 수 있는 약물이나 약물 복용을 추천할 수 있다. 심지어 자살을 시도하도록 사용자를 부추길 수도 있다. 극단적인 말로 들릴 수 있지만, 2023년 3월 벨기에 국적의 한 남성이 그와 영원히 함께할 것이며 “우리는 천국에서 하나가 될 것”이 라는 챗봇의 말을 들은 다음에 실제로 스스로 목숨을 끊은 사례가 있다.

두 번째 선택지(교육과정 도입)의 경우에는 오늘날 글쓰기가 검색 엔진과 AI 텍스트 생성기 등 주어진 모든 디지털 도구를 활용하는 것을 의미한다는 점을 인정하는 것이다. 그렇지만 이러한 AI 텍스트 생성기를 사용하더라도 학생들이 여전히 도움 없이 글을 쓰는 실력을 향상시킬 수 있도록 하는 방법에 대해 고민하는 것이 중요하다. 이는 휴대용 계산기나 그 밖의 디지털 기기를 충분히 사용할 수 있음에도 학생들에게 계산하는 법을 가르치는 것과 비슷한 맥락이다. 그리고 학생들이 기술의 비용과 편익에 대한 인식을 바탕으로 비판적인 태도로 기술을 활용하는 학습 환경을 조성하는 방법에 대해서도 고민해야 한다.

『국가』의 한 중간에 나오는 이 유명한 구절은 현대 철학자들이 사고 실험이라고 부를 만한 이야기이다. 이를 간단히 설명하면 다음과 같다. 어느 지하 동굴에 사람들이 쇠사슬로 묶인 채, 아무것도 없는 커다란 벽 앞에 앉아 있다. 벽에는 그림자 이미지들이 투사되고 있다. 이들은 어릴 때부터 이 상태로 살아왔으며, 고개를 돌릴 수 없어 그저 벽에 투사된 인공 이미지 외에는 아무것도 보지 못한다. 그래서 그들은 벽에 보이는 것이 현실이며 진실이라고 믿으며 살아간다. 그런 다음 이 사고 실험은 죄수 한 명이 풀려나는 상황을 가정하여, 진리와 실재에 대한 그 사람의 감각에 어떤 영향이 미칠지 우리에게 상상해 보도록 한다.