정부를 AI-readable하게 만드는 다음 단계는 human in the loop를 다시 쓰는 일이다

공공부문에서 AI를 이야기할 때 우리는 자주 너무 큰 질문부터 던진다. 어떤 모델을 쓸 것인지, 어느 부처부터 도입할 것인지, 보안은 어떻게 통제할 것인지, 중앙 플랫폼을 만들 것인지 같은 질문이다. 물론 이런 질문도 중요하다. 다만 나는 공공 AX의 진짜 병목이 그런 큰 시스템의 바깥이 아니라, 훨씬 더 작고 반복적인 절차 속에 숨어 있다고 본다.

보고서 하나가 올라가기까지, 법령 검토 문안 하나가 정리되기까지, 민원 답변 하나가 나가기까지, 인허가 한 건이 처리되기까지 수많은 사람의 손이 들어간다. 어떤 손은 꼭 필요하다. 어떤 손은 사실상 같은 내용을 반복해서 옮기는 데 쓰인다. 어떤 검토는 책임상 반드시 남아야 하지만, 어떤 검토는 오래된 관행 때문에 남아 있는 경우도 많다. 정부 업무의 마찰은 종종 바로 이 지점에서 생긴다.

나는 최근 관보를 PDF에서 Markdown으로 바꾸어 GitHub에 올리는 작업을 해봤다. ai-readable-government라는 프로젝트의 일부였다. 처음에는 이 일이 공공 AI 시대에 꽤 본질적인 작업처럼 느껴졌다. 실제로 그랬다. 검색이 쉬워졌고, 비교가 가능해졌고, 사람도 읽기 쉬워졌고, AI도 처리하기 훨씬 좋아졌다. PDF에 갇혀 있던 정부 기록을 조금 더 읽히는 상태로 꺼내놓는 일은 분명 의미가 있었다.

그런데 작업을 계속할수록 생각이 바뀌기 시작했다. 우리가 읽기 좋게 만든 것은 정부의 기록이지, 정부의 절차 그 자체는 아니었다는 점이 점점 더 선명해졌기 때문이다.

문서를 읽게 만드는 것만으로는 부족하다

관보는 결과를 보여준다. 무엇이 공포되었는지, 어떤 인사발령이 있었는지, 어떤 규정이 바뀌었는지, 어떤 공식 상태 변화가 일어났는지를 보여준다. 하지만 그 결과가 나오기까지 어디에서 사람이 반복적으로 개입했고, 어떤 판단이 꼭 인간 손을 타야 했고, 어떤 절차는 사실상 형식상 반복에 가까웠는지까지는 잘 드러나지 않는다.

바로 이 지점에서 다음 질문이 나온다.

정부를 AI-readable하게 만든다는 것은 정말 문서를 읽기 좋게 바꾸는 데서 끝나는가.

나는 이제 아니라고 생각한다. 그 다음 단계는 정부 절차 속 human in the loop를 찾아내고, 그것이 왜 존재하는지 설명 가능한 단위로 드러내고, 다시 설계하는 일에 더 가깝다. 문서 readability의 다음은 procedure readability이고, 그 다음은 AI-oriented redesign이다.

즉 PDF → Markdown은 1단계였다. 공공 기록을 더 잘 읽게 만드는 단계였다. 하지만 정부를 더 깊이 AI-readable하게 만들려면 이제는 기록의 표면을 넘어 절차의 내부로 들어가야 한다.

정부의 병목은 절차 속 HITL에 있다

정부 업무의 병목은 생각보다 자주 거대한 시스템 바깥에 있다. 어떤 업무는 이미 시스템 안에 있지만, 실제로는 중간에 사람이 같은 내용을 다시 붙이고, 다른 양식으로 다시 정리하고, 형식상 한 번 더 확인하고, 서로 비슷한 검토를 여러 단계에서 반복한다. 겉으로는 하나의 업무처럼 보여도 실제로는 여러 개의 작은 판단과 handoff의 묶음이다.

보고서 작성은 배경자료 수집, 쟁점 정리, 선택지 구성, 현재안 취약점 검토, 문장 초안, 승인용 정리로 나뉜다. 법령 검토는 원문 확인, 유사 조문 비교, 쟁점 추출, 영향 분석, 보고 문장 생성으로 나뉜다. 민원 대응은 접수, 분류, 관련 규정 탐색, 답변 초안, 검토, 회신으로 나뉜다. 인허가 업무도 마찬가지다. 제출 요건 확인, 사실관계 검토, 법령 요건 판단, 보완 요구, 내부 협의, 결재, 통지까지 이어진다.

이 안에는 수많은 HITL point가 들어 있다. 전국으로 넓혀 보면 아마 수십만 개가 있어도 이상하지 않을 것이다. 하지만 이것을 중앙이 한 번에 설계해주는 방식으로는 풀 수 없다고 본다. 그 미세한 절차의 진짜 구조는 현업 공무원이 가장 잘 알기 때문이다. 어떤 서류가 늘 빠지는지, 어디서 결재가 자주 막히는지, 어떤 판단은 사실상 형식 검토인지, 어떤 판단은 정말 재량을 요구하는지, 어떤 예외는 늘 사람 손을 타야 하는지, 이건 현장에서 그 업무를 매일 처리하는 사람이 가장 정확히 안다.

그래서 공공 AX의 질문은 “AI를 도입할 수 있는가”가 아니라, “각 공무원이 자기 업무 속 HITL를 얼마나 빨리 발견하고, 그것을 다시 설계할 수 있는가”로 바뀌어야 한다.

문제를 제일 잘 아는 사람이 자동화를 만들어야 한다

여기서 한 가지를 더 분명히 해야 한다. 자동화는 흔히 기술의 문제처럼 보이지만, 실제로는 문제 정의와 예외 처리, 그리고 결과 검증의 문제에 더 가깝다. 어떤 모델을 붙일지, 어떤 도구를 쓸지보다 먼저 중요한 것은 무엇이 진짜 병목인지 정확히 아는 일이다. 그리고 그 병목의 실제 형태를 가장 잘 아는 사람은 대개 개발팀이 아니라 현업 실무자다.

현업은 매일 같은 절차를 반복하면서 그 안의 마찰을 몸으로 안다. 어떤 서류가 늘 빠지는지, 어디서 결재가 자주 되돌아오는지, 어떤 검토는 사실상 형식 반복에 불과한지, 어떤 판단은 진짜 재량이 필요한지, 어떤 예외는 늘 사람 손을 타야 하는지, 이런 것은 화면 밖의 실제 업무를 처리하는 사람만 정확히 안다. 개발팀은 시스템 구조를 잘 알 수는 있어도, 절차가 실제로 어디서 흔들리고 어떤 예외에서 무너지는지까지는 현업만큼 생생하게 알기 어렵다.

그래서 현업이 빠진 자동화는 자주 데모 단계에서는 그럴듯해 보여도, 실무에 들어가면 쉽게 깨진다. 정상 흐름만 보고 만든 자동화는 예외를 만나면 멈추고, 입력은 처리해도 결과를 믿을 수 없는 상태가 되고, 결국 사람들은 다시 수작업으로 돌아간다. 자동화가 실패하는 이유는 기술이 부족해서라기보다, 문제를 가장 잘 아는 사람이 설계에서 빠져 있기 때문인 경우가 많다.

이 점은 공공에서 더 중요하다. 공공업무는 속도만 높이면 되는 일이 아니다. 설명 가능성, 책임성, 감사 가능성, 적법 절차가 함께 따라와야 한다. 무엇이 단순 반복인지, 무엇이 책임 경계인지, 어디까지 자동화할 수 있고 어디부터 인간 최종확정이 필요한지는 현업 공무원이 가장 잘 안다. 그래서 공공 AX에서 필요한 것은 개발팀이 모든 자동화를 대신 만들어주는 구조가 아니라, 문제를 가장 잘 아는 현업이 자기 절차를 해부하고, 자동화 가능한 부분과 남겨야 할 책임 경계를 함께 설계하는 구조다.

개발팀이 시스템을 가장 잘 아는 사람이라면, 현업은 문제를 가장 잘 아는 사람이다. 공공 AX의 성패는 이 둘 중 누가 더 중요하냐에 달려 있지 않다. 문제를 가장 잘 아는 사람이 자동화 설계의 중심에 들어오게 하느냐에 달려 있다. 자동화는 기술 가까이에서 시작하는 것이 아니라, 문제 가까이에서 시작해야 한다.

그래서 공무원은 AI 사용자가 아니라 에이전트 빌더가 되어야 한다

나는 공공 AX의 목표를 단순한 보급이나 교육 확대만으로 설명할 수 없다고 생각한다. 공무원이 AI를 사용할 줄 아는 것만으로는 충분하지 않다. 더 중요한 것은 자기 업무를 기계가 다룰 수 있는 구조로 다시 쓸 수 있느냐다.

그래서 공공 AX의 목표는 공무원을 단순한 AI 사용자로 남겨두는 것이 아니라, 자기 업무를 재설계하는 실무자형 AI 에이전트 빌더로 만드는 것이어야 한다.

이 말은 모든 공무원에게 코딩 문법을 가르치자는 뜻이 아니다. Python을 다루는 사람이 많아지는 것이 핵심도 아니다. 더 중요한 것은 각자가 자기 업무를 packet 단위로 나누고, 입력과 출력과 판단 지점을 구분하고, 어디에 human in the loop가 있는지 식별하고, 반복 가능한 것은 표준화하고, 줄일 수 있는 것은 줄이고, AI를 붙일 수 있는 곳은 붙여 workflow로 바꾸는 능력을 갖게 되는 것이다.

자연어로 요청해도 된다. 뒤편에서는 코딩 AI나 전문 에이전트가 움직여도 된다. 중요한 것은 코드가 아니라 업무를 구조화하는 방식이다. 무엇이 반복 가능한지, 무엇이 규칙 기반인지, 무엇이 사람의 승인까지 가야 하는지, 무엇을 로그로 남겨야 하는지 아는 능력이다. 개발자의 강점이 단지 코딩 문법이 아니라 일을 구조화하고 반복 가능한 흐름으로 만드는 데 있듯이, 공공 AX의 강점도 바로 이 작업 방식이 넓게 퍼지는 데서 나온다.

제거할 loop와 남겨둘 loop는 다르다

다만 여기서 아주 중요한 구분이 필요하다. subtitle에 쓴 것처럼 “제거할 것은 제거하고 남길 것은 책임 경계로 남긴다”는 문장이 핵심이긴 하지만, 이때의 제거는 모든 human in the loop를 없애겠다는 뜻이 아니다.

공공업무에는 반드시 남아야 하는 loop가 있다. 최종 결재, 재량 판단, 예외 승인, 불복 대응, 기관 간 협의 같은 지점은 단순 비효율이 아니라 책임과 적법성의 경계다. 이것까지 없애겠다고 접근하면 공공 AX는 곧바로 저항을 부르고, 그 저항은 정당하다. 공공부문은 속도만으로 평가되지 않기 때문이다. 설명 가능성과 책임성, 감사 가능성과 적법 절차가 함께 중요하다.

그래서 진짜 목표는 HITL의 전면 제거가 아니라 HITL의 식별과 재설계다.

• 제거할 것은 제거해야 한다.

• 축소할 것은 축소해야 한다.

• 반복 가능한 것은 표준화해야 한다.

• AI가 도울 수 있는 것은 보조하게 해야 한다.

• 반드시 남아야 하는 것은 인간 최종확정 경계로 명확히 남겨야 한다.

이 구분이 서야 비로소 공공형 자동화가 안전해진다. 그렇지 않으면 한쪽에서는 모든 loop를 없애려는 과격한 자동화가 나오고, 다른 한쪽에서는 모든 loop를 건드리지 못하게 하는 방어적 태도가 나온다. 둘 다 생산적이지 않다. 필요한 것은 제거와 보존의 이분법이 아니라, loop별 재설계 원칙이다.

공공 AX의 경쟁력은 중앙 구축이 아니라 현장 축적에서 나온다

이렇게 보면 공공 AX의 핵심은 중앙이 거대한 AI 시스템을 한 번에 깔아주는 데 있지 않다. 중앙은 보안 가이드, 공통 플랫폼, 로그 규칙, 표준 schema, approval boundary의 원칙을 제공할 수 있다. 하지만 실제 병목의 발견과 재설계는 현업에서 일어날 수밖에 없다.

한 사람이 자기 업무의 HITL를 찾아 만든 작은 agent, 작은 workflow, 작은 procedure card는 처음에는 로컬한 개선처럼 보일 수 있다. 그러나 그것이 쌓이면 조직 자산이 된다. 다른 부서가 재사용할 수 있고, 다른 기관이 참고할 수 있고, 시간이 지나면 국가 단위에서 반복되는 행정 loop의 문법 자체를 정리할 수도 있다.

즉 공공 AX의 축적은 중앙의 거대한 시스템 하나에서 나오는 것이 아니라, 현장에서 발견된 수많은 procedure redesign이 쌓이면서 생긴다. 수십만 개의 절차를 처음부터 중앙에서 모두 설계하는 대신, 현장에서 발견된 패턴을 축적하고, 그것을 공통 자산으로 만드는 방식이다. 나는 오히려 이 길이 더 현실적이고 더 강하다고 생각한다.

이제 공공 AX의 목표를 다시 써야 한다

나는 공공 AX의 목표를 이렇게 정리하고 싶다.

공공 AX의 목표는 모든 공무원을 실무자형 AI 에이전트 빌더로 만드는 것이다.

정부를 AI-readable하게 만드는 다음 단계는 문서를 읽기 쉽게 만드는 데서 멈추지 않는다. 이제는 절차 속 human in the loop를 찾아내고, 그것이 책임 경계인지 단순 마찰인지 구분하고, AI가 다룰 수 있는 구조로 다시 써야 한다.

그리고 그 일은 중앙의 누군가가 대신해 줄 수 없다. 결국 자기 업무를 가장 잘 아는 공무원 한 사람 한 사람이 시작해야 한다. 그때 비로소 공공 AX는 도입이 아니라 축적이 되고, 시범사업이 아니라 작업 방식의 전환이 된다.