보안 전문기업 이니텍은 10일 서울 여의도 FKI타워 컨퍼런스센터에서 열린 ‘KMAC AX SUMMIT 2025’에 참가해 안전한 인공지능(AI) 활용을 위한 보안 플랫폼 ‘Secure AI’를 공개했다.

‘AI의 세 번째 물결(The Third Wave of AI)’을 주제로 열린 이번 행사는 AI 에이전트 시대의 도래에 맞춰 기업들이 준비해야 할 변화와 대응 전략을 공유하는 자리로, 다양한 주제의 강연이 진행됐다.

김찬성 이니텍의 실장은 이날 행사에서 ‘제로 트러스트 기반의 AI 보안 전략’을 주제로 발표를 진행했다. 

김 실장은 “AI 보안은 기존 시스템과는 다른 방식으로 위협이 전개될 것”이라며 “AI를 보호하는 보안과 보안을 강화하는 AI가 상호 작용해 운용돼야 하며, 이를 위해 제로 트러스트 방법론은 필수”라고 강조했다. 

이어 “AI 시스템에 접근할 때는 다층적 통제 체계를 갖추고, 최소 권한 원칙에 따라 안전하게 운영해야 한다”고 덧붙였다.

이날 공개된 ‘Secure AI’는 AI 생애주기의 전 과정을 아우르는 보안 기능을 제공하는 통합 플랫폼이다. 구체적으로는 ▲AI 시스템 구성 단계 ▲학습 데이터 수집 및 전처리 ▲AI 모델 검증 및 평가 등 각 단계에서 필요한 보안 기능을 지원한다.

주요 기능으로는 ▲프롬프트 인젝션(Prompt Injection) 및 탈옥(Jailbreaking) 공격 방어 ▲개인정보 유출 방지를 위한 프롬프트 마스킹 ▲사용자 역할·권한 기반 응답 제어 ▲혐오 발화 탐지를 통한 편향 완화 ▲데이터 수집 단계의 안전성 확보 등이 포함돼 있다.

김찬성 실장은 “Secure AI는 이니텍이 28년간 축적한 보안 전문성과 새로운 AI 보안 개념이 융합된 결과물”이라며 “앞으로도 제로 트러스트 기반의 보안 체계를 중심으로 AI 보안 기술을 지속적으로 발전시켜 나가겠다”고 말했다.