---
title: "공공 AI 전환, 공통기반만 믿어도 안 되고 기관별로 다 만들면 더 망한다"
published: 2026-05-20T04:05:06.075Z
canonical: https://jeff.news/article/2919
---
# 공공 AI 전환, 공통기반만 믿어도 안 되고 기관별로 다 만들면 더 망한다

삼성SDS 리포트는 공공기관의 AI·클라우드 전환을 단순 도입 문제가 아니라 운영체계 설계 문제로 봐야 한다고 주장한다. 범정부 AI 공통기반을 기본값으로 쓰되, 기관 고유 업무와 민감 데이터는 전용 환경이나 통제 강화형 환경으로 분리하는 병행형이 현실적인 해법이라는 내용이다.

## 공공 AI 전환은 ‘도입할까 말까’가 아니라 ‘어떻게 운영할까’의 문제

- 리포트의 핵심은 공공 AX를 개별 AI 기능 도입으로 보면 안 된다는 것임
  - 범정부 AI 공통기반이 내부망 활용을 전제로 시작됐고, 행정·공공 시스템의 클라우드 네이티브 전환도 정부 방향으로 잡힘
  - 이제 질문은 “AI를 쓸까?”가 아니라 “어떤 데이터와 권한 체계 아래, 어떤 운영 구조로 계속 굴릴까?”에 가까움

- 의사결정을 미루면 기술 도입만 늦어지는 게 아님
  - 데이터 정비, 권한관리, 업무 절차 재설계, 운영비 산정, 장애 대응 기준까지 같이 밀림
  - 특히 내부망 AI 활용이 본격화되면 공통기반 활용 가능성, 기관별 특화 필요성, 보안 수준, 클라우드 전환 모델을 동시에 봐야 함

- 리포트는 공통기반 우선형과 기관 전용 환경 중심형 사이에서 병행형을 현실적인 대안으로 제시함
  - 공통기반은 정책 정합성과 비용 효율성이 좋지만 기관별 규정, 조례, 절차, 지역 맥락을 반영하는 데 한계가 있음
  - 기관 전용 환경은 정확도와 통제성이 좋지만 중복 구축과 운영비 부담이 커짐
  - 그래서 범용 기능은 공통기반에 두고, 특화 정확도와 보안 통제가 필요한 업무만 전용 환경이나 통제 강화형으로 빼자는 얘기임

> [!IMPORTANT]
> 공공 AI의 기본값은 “다 같이 쓸 수 있는 건 공통기반으로, 민감하거나 기관 맥락이 강한 건 분리”임. 이 균형을 못 잡으면 예산 낭비와 보안 리스크가 동시에 온다.

## 계층을 나눠야 운영이 보인다

- 리포트는 공공 AI·클라우드 운영체계를 세 계층으로 나눔
  - 공통기반 계층은 문서 요약, 공통 검색, 표준 API, 공통 로그, 기본 질의응답처럼 여러 기관이 재사용할 수 있는 기능을 담당함
  - 기관 전용 계층은 내부 규정 검색, 민원 유형 분류, 사업 심사 기준 적용, 지역 사업 절차 안내처럼 기관별 맥락이 정확도에 직접 영향을 주는 기능을 담당함
  - 연계통제 계층은 권한관리, 로그, 보안, 예외 처리, 장애 대응 기준을 묶는 운영 통제 영역임

- 이 구분은 시스템 이름 나누기가 아니라 책임 경계 나누기임
  - 개인정보, 내부문서, 대외 발신, 심사·감사 자료가 들어가면 “AI가 답했다”로 끝낼 수 없음
  - 누가 접근했는지, 어떤 근거로 결과가 나왔는지, 오류나 장애가 나면 누가 조치하는지를 남겨야 함

- 민관협력형 클라우드는 외주가 아니라 통제권 설계 문제로 다뤄야 함
  - 민간은 운영 자동화, 확장성, 장애 대응, 성능 관리, 비용 최적화에서 역할을 할 수 있음
  - 공공은 데이터 기준, 접근권한, 감사 대응, 서비스 우선순위, 계약 종료 후 데이터 반환 기준을 쥐고 있어야 함

## AI 에이전트와 고성능 컴퓨팅은 전면 도입 카드가 아님

- AI 에이전트는 공공기관에서 시나리오 단위로 선별 적용해야 함
  - 규정 탐색 후 보고서 초안 작성, 민원 유형 분류 후 유사 사례 제시, 심사 자료 검토 후 체크 항목 정리 같은 업무가 우선 후보임
  - 회의 자료 요약 후 후속 조치 초안 작성, 부서 간 협업 자료 정리와 이력 관리도 적용 가능성이 있음

- 다만 공공부문에서 AI 에이전트가 최종 판단을 자동 확정하면 곤란함
  - 최종 판단, 대외 발신, 예외 사안 처리는 반드시 담당자의 검토와 승인을 거쳐야 함
  - 로그 기록, 검토·승인 경로, 중간 결과 확인 지점까지 같이 설계해야 실무에 붙일 수 있음

- 고성능 컴퓨팅도 모든 AI 기능의 기본값이 아님
  - 일반 문서 요약, 규정 검색, 초안 작성, FAQ 응답은 공통기반이나 기관 전용 환경에서 먼저 처리하는 게 맞음
  - 대규모 데이터 분석, 영상·음성 처리, 실시간 추론, 연구·분석형 워크로드처럼 연산량이 품질과 비용을 좌우할 때만 별도 검토가 필요함

## 실행 순서는 진단, 정비, 적용, 확장, 정착

- 공공 AI 전환은 한 번에 구축하고 끝나는 사업으로 보기 어려움
  - 먼저 정보 자원과 데이터·권한 기준을 진단하고 정비해야 함
  - 그다음 범용 기능으로 운영 경험을 쌓고, 기관 전용 기능으로 확장하는 순서가 안정적임

- 기관 유형별로 우선순위도 다름
  - 중앙행정기관은 정책, 법령, 협의 자료 같은 지식집약형 업무가 핵심임
  - 지방자치단체는 주민 접점과 지역 맥락 자료가 중요함
  - 공공기관은 외부 이용자 접점과 내부 심사·정산 기능을 나눠 봐야 함
  - 연구·교육기관은 연구 자료 검색, 분석, 모델링 수요 때문에 별도 분석 환경이나 고성능 컴퓨팅 검토가 필요할 수 있음

- 성과관리도 모델 성능만 보면 안 됨
  - 문서 작성 시간 단축, 검색 정확도, 민원 처리 지원 효과, 오류 수정 소요시간, 사용자 재사용률, 검토·승인 이력, 운영비, 재해복구 비용까지 같이 봐야 함
  - 기능 개수가 많아도 실제 행정업무 개선과 책임성 확보로 이어지지 않으면 성과라고 보기 어려움

---

## 기술 맥락

- 이 리포트의 기술적 선택은 공통기반과 기관 전용 환경을 섞어 쓰는 병행형이에요. 공공기관마다 AI를 따로 만들면 중복투자가 커지고, 반대로 전부 공통기반에 올리면 기관별 규정이나 민감 데이터 처리가 애매해지거든요.

- 공통기반 계층은 여러 기관이 반복해서 쓰는 기능을 담당하기 때문에 비용과 표준화 측면에서 유리해요. 문서 요약이나 공통 검색 같은 기능은 기관마다 새로 만들 이유가 약해요. 하지만 내부 지침, 지역 조례, 심사 기준처럼 맥락이 성능을 좌우하는 업무는 전용 환경이 필요해요.

- 연계통제 계층이 중요한 이유는 공공 AI가 결과만 잘 내면 끝나는 시스템이 아니기 때문이에요. 누가 어떤 문서를 조회했는지, 어떤 근거로 답변이 나왔는지, 외부로 나가기 전에 누가 승인했는지를 남겨야 감사와 책임이 가능해요.

- AI 에이전트도 그래서 조심스럽게 들어가야 해요. 자료 탐색과 초안 작성은 도움 되지만, 최종 판단이나 대외 발신을 자동화하면 책임 경계가 흐려져요. 공공 시스템에서는 자동화보다 검토 가능한 자동화가 더 중요해요.

- 고성능 컴퓨팅은 예산을 크게 먹는 자원이라서 모든 AI 사업에 묶어 넣으면 안 돼요. 영상·음성·실시간 추론처럼 연산량이 서비스 품질을 결정하는 기능만 따로 식별해야 비용 구조가 설명돼요.

## 핵심 포인트

- 공공 AX는 AI 도구 도입이 아니라 데이터, 권한, 로그, 장애 대응, 성과관리까지 포함한 운영체계 설계 문제임
- 공통기반 계층, 기관 전용 계층, 연계통제 계층을 나눠야 중복 구축과 보안 리스크를 동시에 줄일 수 있음
- AI 에이전트는 최종 판단 자동화가 아니라 규정 탐색, 초안 작성, 사례 비교 같은 업무 보조부터 적용해야 함
- 고성능 컴퓨팅은 모든 AI 기능의 기본값이 아니라 영상, 음성, 실시간 추론, 연구형 워크로드처럼 고연산 수요가 분명할 때만 따로 봐야 함

## 인사이트

공공 AI에서 진짜 어려운 건 모델 고르기가 아니라 ‘누가 어떤 데이터에 접근했고, 결과를 누가 승인했으며, 장애가 나면 누가 책임지는가’를 정하는 일임. 이걸 빼고 챗봇부터 붙이면 나중에 운영 부채로 돌아온다.