AGI의 시대

| 1부 | AGI의 시대

1장 논쟁의 중심, AGI
1.1 AGI의 시작
1.2 프론티어 모델, AGI, ASI 그리고 ACI
1.3 AGI가 온다
1.4 AGI는 당분간 달성하기 어려울 것이라는 사람들
1.5 AI 전문 연구자와 기업인들의 견해
1.6 AGI는 어떻게 등장하는가
1.7 AGI를 레벨로 나누어서 분류하기
1.8 GPT-4는 튜링 테스트를 통과했는가

2장 AGI의 잠재적 위험
2.1 문학 작품에 나타난 AGI에 대한 경고
2.2 AI의 최고 연구자들의 경고
2.3 AI로 인한 인류 멸종 위기에 대한 논쟁
2.4 파멸론자, 효과적 이타주의자, 효과적 가속주의자
2.5 AI 파멸론에 대한 비판

1부를 마치며

| 2부 | 얼라인먼트: 연구와 정책

3장 얼라인먼트 문제란 무엇인가
3.1 얼라인먼트
3.2 속임수를 사용하는 AI
3.3 챗GPT와 트롤리 문제

4장 얼라인먼트 연구의 주요 방향
4.1 데이터, 학습, 평가 영역에서의 얼라인먼트
4.2 안전과 얼라인먼트 연구의 근본 과제

5장 얼라인먼트 연구 전문 그룹
5.1 얼라인먼트 연구 센터와 모델 평가 및 위협 연구
5.2 데이터 출처 이니셔티브
5.3 주요 대학과 지역의 얼라인먼트 연구 그룹

6장 얼라인먼트 문제에 대응하는 주요 기업의 접근 방법
6.1 오픈AI의 접근
6.2 앤스로픽의 얼라인먼트 기술과 정책
6.3 구글 딥마인드
6.4 집단 얼라인먼트
6.5 해석 가능성을 높이기 위한 연구

2부를 마치며

| 3부 | 정책적 대응

7장 AI 안전과 통제를 위한 주요 국가의 정책 및 국제 협력
7.1 G7 히로시마 AI 프로세스
7.2 유럽연합의 AI법과 관련 이슈
7.3 영국 블레츨리 선언과 AI 안전연구소
7.4 미국 바이든 행정명령과 후속 조치들
7.5 프랑스, 중국, 캐나다 등 여러 국가의 움직임
7.6 프론티어 모델 포럼과 AI 얼라이언스

3부를 마치며