인공지능 윤리와 안전

인공지능의 윤리 원칙과 안전 기준

01 인공지능 윤리에 대한 질문
02 편향성과 공정성
03 투명성과 설명 가능성
04 초개인화의 편의성과 리스크
05 인간과 인공지능의 공존
06 의사결정과 책임
07 사회적 가치와 다양성
08 기술 혁신과 법적 규제
09 인공지능 윤리 교육
10 윤리적 인공지능의 실현

AI 윤리에 대한 이해 부족은 ‘설명받을 권리’, ‘결정에 이의를 제기할 권리’, ‘개인의 정보를 보호받을 권리’와 같은 개인의 권리 행사에서의 격차로 이어질 수 있다. AI의 판단 결과가 사회 시스템에 영향을 직접 주는 세상에서는 AI 윤리와 정보에 대한 이해력이 법적, 경제적, 사회적 격차로 이어질 수 있다.

－01_“인공지능 윤리에 대한 질문” 중에서

투명성과 설명 가능성을 확보하는 것은 AI가 안전하고 신뢰할 만한 방향으로 발전하기 위해 반드시 해결해야 할 과제다. 모든 상황에서 완전한 설명 가능성을 실현하는 것은 현실적으로 어렵다. 이에 대한 대안으로 EU의 ‘AI 법(AI Act)’에서는 고위험 AI 시스템에 먼저 투명성과 설명 가능성의 법적 요구를 부과하고 있다.

－03_“투명성과 설명 가능성” 중에서

피지컬 AI(Physical AI)와 같은 물리적 인터랙션 능력도 공존의 방식에 영향을 줄 것이다. 피지컬 AI는 언어, 시각, 행동 등 정보를 통합 처리하고 센서와 모터 등의 기계 장치를 사용하여 인간과 인간이 존재하는 실제 공간에서 실시간 반응을 가능하게 한다. 이를 통해, 인간과 AI의 공존을 물리 세계에서 인터랙션이 가능하도록 하여 새로운 차원으로 끌어올리고 있다.

－05_“인간과 인공지능의 공존” 중에서