인공지능 제품·서비스 확인제도는 제품이나 서비스에 인공지능 처리 연산체계가 실제 적용됐는지를 기술적으로 확인하는 제도다. 해당 연산체계가 학습·추론 등 AI의 특성을 갖추고 있는지, 입력 데이터를 기반으로 분류·예측·생성 등의 결과를 도출하는지 등을 심사한다. 과학기술정보통신부 고시에 따라 운영되며 기술 심사를 거쳐 AI 기술 활용 여부가 확인된 제품과 서비스에 확인서가 발급된다.

이번 확인서 획득을 통해 X-GEN AI에 적용된 △텍스트 위험도 분류 △문맥 기반 개인정보 탐지 △소스 코드 탐지 △이미지 유사도 분석 등 4개 주요 기능에 AI 기술이 활용되고 있음을 확인받았다.

X-GEN AI는 기업 임직원이 생성형 AI 또는 AI 에이전트를 사용하는 과정에서 입력하는 프롬프트와 첨부 콘텐츠를 분석해 내부 정보의 외부 유출 위험을 탐지하고 관리하는 보안 솔루션이다.

텍스트의 단순 키워드 일치 여부를 확인하는 데 그치지 않고 문맥과 의미를 분석해 업무 관련성과 정보 위험도를 판단한다. 입력 데이터에 개인정보나 소스 코드 등 주요 정보가 포함돼 있는지도 식별할 수 있도록 설계됐다.

이미지 형태의 데이터에 대한 분석 기능도 갖췄다. 이미지의 시각적 특징과 유사도를 분석해 기업이 보호 대상으로 지정한 이미지와의 연관성을 판단하고, 이를 바탕으로 이미지 데이터의 정보 유출 위험에 대응할 수 있도록 지원한다.

특히 생성형 AI에 입력되는 콘텐츠의 문맥과 의미, 데이터 특성을 종합적으로 분석함으로써 기업별 보안 정책에 따라 위험 콘텐츠를 탐지하고 통제할 수 있는 것이 특징이다.

엑스큐어넷은 이번 인공지능 제품·서비스 확인서 획득을 계기로 개인정보와 기업 내부 중요 정보, 기술 정보 등 생성형 AI 활용 과정에서 발생할 수 있는 데이터 유출 위험에 대응하는 보안 기술을 지속적으로 강화할 계획이다.

김정필 엑스큐어넷 대표이사는 “생성형 AI의 업무 활용이 확대되면서 단순히 서비스 사용 여부를 통제하는 것을 넘어 실제 어떤 정보가 입력되고 있는지를 정확하게 분석하고 위험을 판단하는 것이 중요해지고 있다”며 “앞으로 X-GEN AI의 분석 기술을 지속적으로 고도화해 기업이 생성형 AI를 안전하게 활용할 수 있는 보안 환경을 제공할 것”이라고 말했다.

[출처: 디지털타임스]