AI블루

1 기술이 앞질러 간 길을 따라가야 할 때
“우린 삶의 레퍼런스가 없어요”
만족과 불안 사이 어딘가

2 알파고부터 챗GPT까지
‘대체 불가’한 기술자가 되고 싶었다
최첨단과 그 밑단
인큐베이터, 그러나 AI를 담기엔 너무 작은
더 크게, 더 강하게, 더 빠르게

3 AI를 쫓아가는 IT
‘주니어’ 없는 세계
공유지가 사라진 개발자들의 비극
돈이 흘러드는 곳
아직은 거칠고 모호한 채로

4 창작의 경계, 내가 창작자다 말할 수 있는 자는 누구인가
웹툰, AI에게 딱 좋은?
이야기는 얼마든지 생성할 수 있지만

5 어쩌면 오래된 미래
AI보다 저렴한 노동
전쟁, 성범죄, 기후위기

6 우리가 우리의 미래
현실로 뻗어가는 상상
상상을 현실로 만드는 힘: 오픈소스 문화
미래가치가 아니라 우리의 미래로

후기
주석

“스탠퍼드대학 인간중심인공지능연구소(HAI)에서 발간한 ‘AI 인덱스 리포트 2024’에 따르면 2023년 산업계에서 모델 51개를 공개한 데 비해 학계에서 개발된 모델은 15개뿐이다. 21개 모델은 산학 협력으로 개발되었다. 2003년부터 조사한 결과를 보면 알파고가 공개된 2016년부터 산업계가 공개한 모델의 숫자가 학계를 앞지르기 시작했다. 2023년 보고서에는 2014년까지 중요한 머신러닝 모델들이 학계에서 개발되었으나 그 후로 산업계에서 주도권을 잡았다는 점을 지적하고 있다. 최첨단 AI 시스템을 구축하려면 대규모의 데이터와 컴퓨팅 파워와 자본이 필요하기 때문이다. 알파고부터가 딥마인드라는 ‘회사’가 개발한 알고리즘이다.”

“챗GPT는 확신을 가지고 모델 구조는 변경하지 않은 채 순수하게 데이터와 모델의 크기를 키워서 압도적인 성능을 보여주었다. 이를 목도한 AI를 다루는 회사들은 모두 모델의 크기를 키우는 데 몰두하기 시작했다. 이러한 현상의 핵심에도 역시 ‘더 크면 더 좋다’라는 단순하면서도 강력한 믿음이 자리 잡고 있다. 더 큰 모델은 더 많은 데이터를 처리하고, 더 복잡한 패턴을 인식할 수 있으며, 결과적으로 더 뛰어난 성능을 보여줄 수 있기 때문이다. 챗GPT가 보여준 성공은 이러한 믿음을 더욱 강화했고, 기업들은 경쟁에서 뒤처지지 않기 위해 더 큰 모델 개발에 박차를 가했다.(중략) 이처럼 비대해지는 모델의 크기는 아주 극소수의 플레이어만 이 게임에서 살아남을 수 있도록 하는 장치가 된다.”

“이렇게 파워풀한 성능을 보여주는 모델은 사실 엄청나게 단순한 방식으로 답변을 생성한다. 텍스트나 이미지가 입력되면, 입력된 정보는 모델이 이해하고 계산할 수 있는 형태로 변환된다. 그리고 그 입력을 바탕으로 다음에 어떤 단어가 올 확률이 높은지를 계산해서 출력한다. 이 작업을 단순히 반복해가는 방식으로 답변을 생성한다. 이 때문에 전 구글 연구원인 팀닛 게브루(Timnit Gebru)는 GPT-3 같은 언어 모델을 ‘확률적 앵무새’라고 명명하기도 했다. 앵무새가 사람의 말을 따라하지만 그 뜻을 모르는 것과 같이 언어 모델도 실제 이해를 바탕으로 문장을 생성하는 것이 아니라 확률적으로 단어를 연속하여 생성할 뿐이라는 의미다. 이 단순한 방식에도 불구하고 모델의 크기가 압도적으로 커지자 놀랍도록 자연스러운 발화를 생성했다. 문법적으로 자연스러운 문장을 생성하는 것을 넘어서서 유용한 지식을 체계적으로 구조화한 텍스트를 만들어냈다.“