AI, 자동화, 전쟁

서문 7
감사의 말 12

1. 로봇 전쟁 15
2. AI의 가능성과 한계 54
3. AI 전략 89
4. 군-테크 복합체 117
5. 특수 관계 154
6. AI와 작전계획 182
7. AI와 표적 공격 208
8. AI와 사이버 작전 237
9. 인간-기계 협동 268
10. 빛의 속도의 전쟁 297

옮긴이의 말 327
참고문헌 335
찾아보기 354

군-테크 복합체의 존재를 인식하고 이해하는 것은 중요하다. 특히 많은 연구가 AI를 기술적인 측면에서 우상화하면서 이를 사용하는 군의 조직적인 측면은 무시했기 때문이다. 또한 우리가 아는 AI의 군사적 활용 또는 군-테크 복합체의 사례들이 시작에 불과하다는 사실을 명심해야 한다.

신흥 군-테크 복합체의 실상을 이해하기 위해서 우리는 탁상행정 차원이 아닌 둘 간의 협력이 실무 차원에서 실제 어떻게 이뤄지고 있는지를 살펴볼 필요가 있다. 우리는 특정 테크기업들이 군과 어떻게 협업하는지 이해해야 한다. 정리하자면, 우리는 추상적인 규제 개혁 논의에서 벗어나 군-테크 협력의 생활세계에 접근해야 한다. 규제 정책만 봐서는 현실 세계에서의 군-테크 결합을 파악할 수 없으며, 실제 현장에서 뛰는 군 관계자들과 그들을 지원하는 데이터 과학자, 엔지니어, 개발자 간의 인간적 관계는 더더군다나 제대로 이해할 수 없다.

사이버 작전은 일부 사람들이 주장한 것처럼 세계의 종말을 가져오지 않으며, 앞으로도 그럴 가능성은 낮다. 그러나 사이버 작전의 영향력이 제한적이라 하더라도 관건은 AI가 사이버 작전을 자동화할 수 있느냐는 것이다. 사이버 작전을 자율적으로 수행하는 AI 에이전트가 존재하는가? 특수한 경우에 한해 자동화 AI 에이전트는 이미 존재한다. 예를 들어 일부 알고리즘, 특히 악성프로그램을 방어하는 역할의 알고리즘들은 인간의 통제와 개입 없이 자율적으로 운영된다. 사이버 방어 소프트웨어가 컴퓨터의 속도로 악성프로그램을 막으려면 자율적으로 실행되어야 한다.