공공감사에서 AI 활용의 한계와 위험요인
AI가 공공감사 분야에 가져올 의미있는 동력과 혜택에도 불구하고 AI가 모든 문제를 해결하는 만능 도구는 아니다. AI를 공공감사에 활용하는 과정에서도 여러 한계와 위험요인을 충분히 고려해야 한다.
첫째, AI의 가장 큰 문제는 ‘환각(Hallucination)’ 현상이다. 생성형 AI는 실제 존재하지 않는 사실이나 근거를 그럴듯하게 제시할 수 있다. 감사는 객관적 증거와 사실에 기반해야 하므로 AI의 분석 결과를 그대로 수용하는 것은 매우 위험하다. AI는 어디까지나 보조도구이며 최종 판단과 책임은 감사인에게 있다.
둘째, 데이터 품질 문제이다. AI의 분석 결과는 입력 데이터의 품질에 크게 좌우된다. 불완전하거나 편향된 데이터가 입력될 경우 잘못된 위험 평가와 오류 있는 결론이 도출될 수 있다. 따라서 데이터 품질관리 체계 구축이 선행되어야 한다.
셋째, 설명가능성(Explainability)의 문제이다. 최신 AI 모델은 매우 높은 성능을 보이지만 왜 특정 결론에 도달했는지 명확히 설명하지 못하는 경우가 많다. 감사 결과는 피감기관과 이해관계자들에게 충분히 설명되고 납득될 수 있어야 한다. 따라서 AI의 분석 과정과 근거를 투명하게 제시할 수 있는 체계가 필요하다.
넷째, 개인정보 및 보안 문제도 중요한 이슈이다. 공공감사 과정에서는 민감한 개인정보와 기관 내부 정보가 다수 활용된다. 이러한 정보가 외부 AI 시스템으로 유출될 경우 심각한 보안 문제가 발생할 수 있다. 따라서 공공기관은 폐쇄형 AI 환경 구축, 데이터 비식별화(Data De-Identification), 접근권한 관리 등을 통해 정보보호 체계를 강화해야 한다.
다섯째, 감사인의 전문성 약화 가능성도 고려해야 한다. AI 의존도가 지나치게 높아질 경우 감사인의 비판적 사고와 직관적 판단 능력이 저하될 우려가 있다. 감사의 본질은 단순한 데이터 분석이 아니라 조직의 맥락과 제도적 환경을 이해하고 공공가치를 평가하는 데 있기 때문이다.
AI의 잠재력과 공공감사의 과제
AI는 공공감사의 효율성과 효과성을 획기적으로 향상시킬 수 있는 강력한 도구이다. 위험기반 감사의 고도화, 방대한 데이터 분석, 상시감사 체계 구축 등 다양한 영역에서 감사 혁신을 이끌 것으로 기대된다. 그러나 AI의 활용은 감사인을 대체하기 위한 것이 아니라 감사인의 역량을 증강(Augmentation)하기 위한 수단으로 이해되어야 한다.
미래의 공공감사는 인간 감사인의 전문적 판단과 AI의 분석 역량이 결합된 형태로 발전할 가능성이 높다. 결국 AI 시대의 감사 경쟁력은 기술 자체가 아니라 기술을 올바르게 활용하고 통제할 수 있는 감사인의 역량에 의해 결정될 것이다. 따라서 공공감사 분야는 AI 도입과 함께 데이터 거버넌스, 윤리, 설명가능성, 보안체계 구축을 병행함으로써 기술 혁신과 공공책임성의 균형을 확보해 나가야 할 것이다.
