최근 공공기관에서도 생성형 AI를 단순히 체험하는 단계를 넘어 실제 업무에 안전하게 적용하기 위한 움직임이 빠르게 확산되고 있습니다.

특히 공공기관은 방대한 내부 규정과 법령, 업무 매뉴얼, 지침 등을 기반으로 업무를 수행하기 때문에 필요한 정보를 빠르고 정확하게 찾는 것이 업무 효율성과 의사결정의 핵심입니다. 하지만 일반 생성형 AI는 기관의 최신 내부 문서나 업무 지식을 학습하고 있지 않기 때문에 실제 업무에 그대로 활용하기에는 한계가 있습니다.

또한 내부 문서를 외부 AI 서비스에 입력하는 것은 보안과 개인정보 보호 측면에서도 신중한 접근이 필요합니다. 이 때문에 최근에는 조직 내부 문서를 안전하게 활용하면서도 정확한 답변을 제공하는 RAG(Retrieval-Augmented Generation) 기반 AI와 온프레미스(Private AI) 환경 구축이 공공기관 AI 도입의 핵심 트렌드로 자리 잡고 있습니다.

이러한 흐름 속에서 반디에스앤씨는 지난 6월 22일부터 23일까지 한국원자력환경공단 본사에서 열린 '2026 AI ON WORK : AI로 똑똑하게 일하는 법' 행사에 참여해 AI·디지털 체험존을 운영했습니다.

행사 개요

• 행사명 : 2026 AI ON WORK : AI로 똑똑하게 일하는 법
• 운영 프로그램 : AI·디지털 체험존
• 기간 : 2026년 6월 22일 ~ 23일
• 장소 : 한국원자력환경공단 본사 안전강의실

이번 행사에서는 공단 업무에 특화된 AI 검색 서비스 '코코(KOKO)'를 처음 공개하고 실제 시연을 진행했으며, 차세대 엔터프라이즈 AI 플랫폼 ‘Bandi Agent Hub’도 함께 소개했습니다. 행사에 참석한 임직원들은 생성형 AI를 직접 체험하며 공공기관 업무에 AI를 어떻게 적용할 수 있는지 확인하는 뜻깊은 시간을 가졌습니다.

공단 업무에 최적화된 AI 서비스 '코코(KOKO)'

이번 행사의 핵심은 반디에스앤씨가 구축한 공단 특화 AI 서비스 '코코(KOKO)'의 공개 시연이었습니다.

코코(KOKO)는 공단 내부 환경에서 안전하게 운영되는 온프레미스 기반 AI 지능형 검색 서비스로, 일반 AI 챗봇과 함께 사규 AI 어시스턴트, 법령 AI 어시스턴트를 제공하여 임직원들이 필요한 정보를 보다 쉽고 빠르게 찾을 수 있도록 지원합니다.

무엇보다 코코(KOKO)는 RAG(Retrieval-Augmented Generation) 기술을 적용한 것이 가장 큰 특징입니다. 공단 내부에서 운영되는 다양한 규정과 법령을 하나의 지식베이스로 통합하고, 자연어로 질문하면 필요한 정보를 빠르게 찾아 답변할 수 있도록 설계했습니다.

덕분에 답변의 정확도를 높일 수 있을 뿐만 아니라, 실제 근거가 되는 출처를 함께 제시해 사용자가 답변의 신뢰성을 직접 확인할 수 있다는 장점이 있습니다.

또한 규정이나 법령이 개정될 경우 새로운 문서를 지식베이스에 반영하면 최신 정보가 즉시 검색 대상에 포함되어 항상 최신 기준에 맞는 답변을 제공할 수 있습니다.

보안 역시 공공기관 환경에 맞춰 설계되었습니다. 코코(KOKO)는 외부 인터넷과 분리된 폐쇄망(On-Premise) 환경에서 운영되어 내부 문서와 질의 내용이 외부로 전송되지 않으며, 기관 내부에서 안전하게 처리됩니다.

또한 사용자 편의성도 함께 고려했습니다. 기존 업무 시스템과 SSO(Single Sign-On)를 연동하여 별도의 계정을 생성하거나 추가 로그인 절차 없이 기존 인증 체계를 그대로 활용할 수 있도록 구현했습니다.

관리자는 전용 관리 콘솔을 통해 다음과 같은 기능을 손쉽게 관리할 수 있습니다.

• 사용자 및 관리자 권한 관리
• AI 사용 현황 모니터링
• GPU·CPU·메모리 등 시스템 리소스 확인
• 신규 지식문서 등록 및 승인
• 기밀 정보 포함 여부 검토
• AI 운영 현황 대시보드 제공

이처럼 사용자 편의성과 운영 관리 기능을 함께 제공함으로써, 공공기관에서도 안정적으로 생성형 AI를 운영할 수 있는 환경을 구현했습니다.

AI를 직접 체험한 현장의 반응은?

이번 AI·디지털 체험존에서는 한국원자력환경공단 임직원들이 코코(KOKO)를 직접 사용해 보며 정식 오픈 전, 실제 업무에서의 활용 가능성을 확인하는 시간을 가졌습니다.

직원분들은 평소 업무 중 자주 참고하는 사규, 업무지침, 법령 등을 자연어로 검색하고, AI가 제시하는 답변과 근거를 함께 확인하며 서비스의 정확성과 편의성을 체험했습니다.

기존에는 여러 시스템에서 직접 검색하거나 담당 부서에 문의해야 했던 업무를 AI가 신속하게 지원하면서, 정보 탐색 시간을 단축하고 업무 생산성을 높일 수 있다는 점에서 긍정적인 반응이 이어졌습니다.

이번 체험은 생성형 AI가 단순한 질의응답 도구를 넘어, 공공기관의 업무를 지원하는 실질적인 디지털 업무 파트너가 될 수 있음을 보여준 의미 있는 자리였습니다.

AI 챗봇을 넘어 'AI 에이전트 플랫폼'으로

이번 행사에서는 코코(KOKO)와 함께 반디에스앤씨의 차세대 엔터프라이즈 AI 플랫폼 Bandi Agent Hub도 함께 소개했습니다.

코코(KOKO)가 한국원자력환경공단의 업무 환경에 맞춰 구축한 공공기관 특화 AI 서비스라면, Bandi Agent Hub는 이러한 구축 경험과 운영 노하우를 기반으로 개발된 통합 AI 플랫폼입니다.

최근 기업과 공공기관에서는 하나의 AI 서비스만 운영하는 것이 아니라, 부서와 업무 목적에 따라 다양한 AI 에이전트를 도입하는 사례가 빠르게 늘어나고 있습니다. 이에 따라 AI를 개발하는 것뿐 아니라 배포, 운영, 보안, 권한 관리, 데이터 관리, 거버넌스까지 통합적으로 관리할 수 있는 플랫폼의 중요성이 더욱 커지고 있습니다.

Bandi Agent Hub는 이러한 요구를 반영해 AI 에이전트의 전 생애주기(Lifecycle)를 통합 관리할 수 있도록 설계되었습니다.

주요 기능은 다음과 같습니다.

• AI Builder : 로우코드(Low-Code) 기반으로 업무에 필요한 AI 에이전트를 손쉽게 설계·구축
• Knowledge Hub : 사내 문서, 데이터베이스, API 등을 통합 관리하고 RAG 기반 지식베이스 구축
• Agent Store : 검증된 AI 에이전트를 조직 내에서 공유·재사용하여 개발 생산성 향상
• Control Center : 사용자 권한, AI 가드라인, 감사 로그, 운영 현황 등을 중앙에서 통합 관리하는 AI 거버넌스 기능 제공

특히 공공기관과 같이 보안과 관리 체계가 중요한 환경에서도 온프레미스 구축, 접근 권한 관리, 감사 로그, PII 보호, 데이터 마스킹 등 엔터프라이즈급 보안 기능을 제공해 안전한 AI 운영 환경을 지원합니다.

공공기관 AI 도입의 핵심은 '도입'이 아닌 '운영'

생성형 AI는 이제 단순한 기술 트렌드를 넘어 실제 업무 혁신을 위한 핵심 인프라로 자리 잡고 있습니다. 하지만 성공적인 AI 도입을 위해서는 단순히 AI 서비스를 구축하는 것만으로는 충분하지 않습니다.

조직의 업무 특성에 맞는 데이터를 활용하고, AI를 지속적으로 운영·관리하며, 보안과 거버넌스를 함께 고려하는 체계적인 운영 전략이 필요합니다.

반디에스앤씨는 이번 한국원자력환경공단 구축 사례를 비롯해 다양한 공공기관과 기업 프로젝트를 수행하며 축적한 경험을 바탕으로 RAG 기반 AI 구축, AI 에이전트 플랫폼, AI 거버넌스까지 통합적으로 지원하고 있습니다.

앞으로도 고객의 업무 환경에 최적화된 AI 플랫폼을 통해 보다 안전하고 신뢰할 수 있는 디지털 혁신을 만들어 나가겠습니다.

생성형 AI 도입이나 AI 에이전트 플랫폼 구축 관련하여 더 궁금한 점이 있으신가요?

편하게 연락 주시면 반디에스앤씨의 다양한 구축 경험과 기술력을 바탕으로 최적의 솔루션을 제안해 드리겠습니다.

감사합니다.