[큰글자책] AI 주권과 지속 가능한 공공 파운데이션 모델

AI 시대, 공공의 역할은 무엇인가

01 오픈 소스 LLM의 부상
02 AI 패권 경쟁과 국가 전략의 변화
03 데이터 주권과 공공 클라우드 전략
04 LLMOps와 운영 조직 구축 전략
05 보안 통제와 신뢰성 확보 방안
06 성능 검증과 현장 평가 체계
07 지속 가능한 파운데이션 모델 파이프라인 구축
08 인프라와 GPU 전략
09 공공 서비스와 AI 통합 전략
10 기대 효과와 거버넌스 전환

그러나 오픈 소스 LLM이 안고 있는 과제 또한 명확하다. 첫째, 성능 편차와 품질 관리 문제다. 각기 다른 연구자나 조직이 오픈 모델을 변형해 배포하면서, 모델의 정확도, 안전성, 처리 속도 등에서 일관성을 확보하기 어려운 경우가 많다. GPT-4, 클로드 3(Claude 3) 같은 상용 최상위 모델과 비교하면 성능 격차도 여전히 존재한다. 둘째, 자원 소모 부담이다. 고성능 LLM은 학습과 추론 과정에서 막대한 GPU 연산력과 전력을 요구하기 때문에, 중소 기관이나 자원이 제한된 단체는 여전히 운용 장벽을 경험할 수밖에 없다. 셋째는 악용 가능성이다. 폐쇄형 모델은 보통 유해 콘텐츠 생성을 차단하는 ‘가드레일’을 탑재하지만, 오픈 모델은 누구나 자유롭게 활용할 수 있어 피싱 이메일 생성, 가짜 뉴스 작성, 해킹 도구 제작 등에 악용될 수 있다.

－01_“오픈 소스 LLM의 부상” 중에서

영국은 국가 안보를 이유로 기밀 데이터의 해외 저장을 제한했지만, 최근에는 보다 유연한 정책으로 전환하고 있다. 2023년 정부 보안 분류 정책 개정과 2025년 과학혁신기술부(DSIT, Department for Science, Innovation and Technology)의 가이드라인 발표를 통해, 일정 조건을 충족할 경우, 해외 데이터 센터의 활용도 허용했다. 특히 각 기관에는 멀티 리전(Multi Region) 전략을 권고하며, 법적 기준을 지키는 범위 내에서 가장 효율적인 위치에서 데이터를 처리하도록 유도하고 있다.

－03_“데이터 주권과 공공 클라우드 전략” 중에서

정부는 국내외 110여 건의 활용 사례도 함께 제공해 기관 간 벤치마킹과 정책 설계에 도움을 주고 있으며, 공공 AI의 성공률을 높이기 위한 평가·공유 체계를 마련했다.

2024년에는 예산을 대폭 확대해 ‘초거대 AI 활용 지원 사업’을 추진 중이며, 플랫폼 이용과 서비스 개발 지원을 병행하고 있다. 과제별 성과는 평가를 거쳐 전국 확산 또는 정책 개선에 반영된다.

대표 사례로는 AI 챗봇을 통한 신규 직원 교육, 민원 응대 향상, 콜센터 상담 품질 개선 등이 있으며, 외신 요약, 입찰 평가 자동화 등 다양한 아이디어가 실증 사업으로 추진되고 있다.

－06_“성능 검증과 현장 평가 체계” 중에서