우리 대학 전자공학부 김지혜 교수 연구팀과 한양대학교 정보시스템학과 오현옥 교수 연구팀이 공동 개발한 검증형 인공지능(Verifiable AI) 기술 ‘vCNN’이 국제 저널 『IEEE Transactions on Dependable and Secure Computing(이하 TDSC)』의 2024년 Best Paper Award (최우수논문상)을 수상했다. 이번 연구는 인공지능 추론 결과의 신뢰성을 입력 데이터나 모델을 공개하지 않고도 증명할 수 있다는 점에서 높은 평가를 받았다.

최근 AI가 의료 진단·금융 사기 탐지·공공 서비스 등으로 확산됨에 따라 결과 계산의 정확성 보장이나 민감 데이터(의료 이미지·거래 내역) 보호, 기업 핵심 자산인 모델 가중치 비공개 등의 필요성이 커지고 있다. 그러나 기존 방식은 정확성 검증을 위해 개인정보나 영업 비밀을 노출하거나, 암호학적 기법 적용 시 과도한 계산 시간으로 대규모 서비스 활용에 어려움이 있었다.

공동연구팀이 개발한 vCNN(Verifiable Convolutional Neural Network)은 이러한 핵심 병목을 해결했다. vCNN은 영지식증명(zk-SNARKs)을 활용해 입력과 모델을 공개하지 않은 채 ‘AI가 규정 절차대로 정확히 계산했다’는 사실만을 짧고 간결한 증명으로 제공한다. 특히 CNN의 핵심 연산인 합성곱(convolution) 증명 방식을 새롭게 설계해 기존 O(l·n)(커널 크기 l, 데이터 크기 n)이던 복잡도를 O(l + n)으로 줄였다. 그 결과 MNIST 모델에서 약 20배, VGG16 모델에서 약 1만8,000배의 증명 속도 향상을 달성했으며, 보안성 또한 수학적으로 입증했다.