AI 반도체 혁명

[서문] 희망과 거품이 가득한 AI 반도체 세계

1부 AI 반도체 전쟁의 서막
01 200% 주가 상승, 엔비디아의 기적
02 인텔의 인공지능 시대 생존 전략
03 데이터센터 1위 아마존, 어제의 친구가 오늘의 적
04 삼성전자, AI를 모바일폰에서 구현하다

2부 1세대 반도체, 인간 컴퓨터를 전자 컴퓨터로 만들다
05 반도체 시대, 컴퓨터는 바뀌어야 한다
06 1세대 반도체의 시작, 8인의 배신자
07 미국과 소련의 우주 전쟁, 반도체 사업을 키우다
08 잭 킬비와 로버트 로이스가 만든 혁신, 집적회로
09 실리콘 판 위에 반도체를 그리다
10 반도체 시장을 만든 최고의 마케팅 용어, 무어의 법칙
11 IBM, 마이크로소프트 그리고 인텔의 시대

3부 아이폰 모먼트, 2세대 저전력 반도체 시대를 열다
12 인텔의 공고한 아성, 소수가 연구하던 RISC
13 RISC 진영의 왕좌를 차지한 ARM
14 모바일 시대, 새로운 공룡의 탄생
15 모바일 시대의 절대 강자, 애플 신화의 시작

4부 3세대 반도체, 컴퓨터 연산으로 인공지능을 구현하다
16 인공지능을 향한 인간의 욕망, 기계를 두뇌로 만들다
17 전문가에게 물어보듯 컴퓨터에게 물어보는 전문가 시스템
18 미션, 기계를 학습시켜라
19 빅데이터를 활용한 인공지능의 발전
20 AI 알고리즘의 끝판왕, 트랜스포머의 등장
21 미중 반도체 전쟁과 엔비디아

5부 AI 반도체의 성능을 좌우하는 요인들
22 AI 반도체, 연산 속도가 다가 아니다
23 반도체 성능을 좌우하는 제조 공정 노드
24 연산기 속도를 높이기 위한 메모리의 진화
25 연산기와 메모리를 연결하는 네트워크 통신
26 반도체의 한계를 넘기 위한 패키징 기술, 칩렛과 HBM
27 메모리 병목 현상을 S램으로 돌파한다
28 반도체 성능만큼이나 중요한 연결 속도
29 반도체 성능을 좌우하는 냉각 기능
30 쿠다를 중심으로 한 인공지능 소프트웨어 생태계
31 하나의 칩으로 만들 수 있는 한계에 도달한 엔비디아

6부 초거대언어모델과 반도체의 발전 방향
32 초거대언어모델의 공부법, 분산 학습
33 초거대언어모델의 문제 해결법, 추론
34 초거대언어모델, 다양성이 필요하다
35 더 빠른 답변을 줄 것인가, 더 많은 답변을 처리할 것인가

7부 지속가능한 인공지능을 위한 해법
36 데이터 규모와 반도체 효율성 사이의 답, 경량화
37 데이터 비트수를 줄이는 양자화
38 불필요한 파라미터를 제거하는, 가지치기

8부 네이버는 왜 반도체를 직접 만들게 됐을까
39 경량화-하드웨어 딜레마에 대한 네이버의 솔루션
40 우리에겐 최적화된 반도체가 필요하다
41 AI 반도체, 전문화 vs 일반화의 딜레마에서 벗어나다

9부 여전히 남는 몇 가지 질문들
42 모델 압축을 하면 정말 효과가 있나? 입증 가능한가?
43 좋은 AI 반도체를 구분하기 어려운 이유는?
44 AI 반도체 설계가 어려운 이유는?
45 만약 트랜스포머가 아닌 더 개선된 모델이 나타난다면?
46 데이터센터가 AI가 아닌 온디바이스 AI의 시대가 온다면?

이 책에서 필자가 전하고자 하는 바는 두 가지다. 첫 번째는 AI 반도체가 갖춰야 할 특징이 무엇인가이다. 이를 통해 우리는 AI 반도체 산업 전반에 대해 이해하고, 시장을 올바르게 바라볼 수 있는 혜안을 갖출 수 있을 것이다. 두 번째는 과거 반도체 산업의 패러다임 전환이 어떤 방식으로 이뤄졌는지에 대한 부분이다. 과거를 통해 우리는 미래의 패러다임을 예측할 수 있다.

전 세계 반도체 시장에는 표준과 질서가 있다. 반도체 생태계는 매우 넓다. 반도체의 설계와 제조를 비롯해 소재, 장비 등이 기본이다. 반도체를 사용하는 PC, 서버, 모바일폰도 거대한 반도체 생태계의 일부다. 이 넓은 생태계의 주체들이 서로가 원하는 것을 얻기 위해서는 일정한 표준이 필요하다. 표준에 맞춰 각자의 영역에서 물건을 개발하고 이를 합쳐 최종 소비자들이 원하는 결과물을 내놓는다. 각자 만들지만 표준에 맞춰서 만들어야 조합을 할 수 있다. 표준에 맞지 않는 반도체를 만들면 성능이 뛰어나더라도 호환이 안된다.

대규모 연산을 요구하는 인공지능 서비스는 거대한 컴퓨팅 파워를 가진 데이터센터를 이용할 수밖에 없다. 그런 경우에는 애플이 제공하는 폐쇄적인 데이터센터에서 처리가 되며, 처리 즉시 삭제가 된다고 밝혔다. 데이터센터를 통해 인공지능 서비스를 제공할 때도 개인 맞춤형 서비스를 만들려면 개인정보가 필요하다. 그런데 소비자와의 접점이 되는 디바이스에서 개인정보를 통제하면 다른 업체들은 이 정보를 취득할 수가 없다. 애플, 삼성전자 같은 디바이스를 만드는 업체들은 아직 인공지능 시대에 두각을 나타내고 있지 않지만 이들의 동향에 많은 사람들이 촉각을 곤두세우고 있다. 결국 소비자와의 접점은 디바이스에서 이뤄지기 때문이다.