지역 차분 프라이버시 기반 채팅 데이터 프라이버시 보호 기술

Abstract

최근 들어, 방대한 양의 데이터에서 유용한 정보를 얻어 활용하는 기업이 확대되면서 개인정보의 암호화나 가명 처리 등의 보안 조치에 관한 문제가 제기되고 있다. 특히 AI 챗봇을 통해 얻은 사용자의 새로운 채팅 데이터를 모델에 통합할 때 전후 결과의 차이가 데이터 유출로 이어져 개인을 특정하는 취약점을 야기할 수 있다. 또한 사용자가 서버를 신뢰한다고 해도 채팅 데이터에 포함된 자신의 정보가 얼마나 공개되고 사용되는지 알 수 없다는 불안감을 가지고 있다. 프라이버시 보호를 위해서 모든 데이터를 암호화할 수 있지만, 서비스 관리자들이 함부로 열어볼 수 있다는 위험성은 여전히 존재한다. 이에 본 논문에서는 AI 챗봇을 통해 수집한 고객의 채팅 데이터에 가우시안 지역 차분 프라이버시(Gaussian Local Differential Privacy, GLDP)를 적용하는 방법을 제안한다. 기존의 채팅 서비스에 GLDP를 적용함으로써, 사용자 데이터의 프라이버시를 보존하면서 동시에 데이터 분석에 유리한 환경도 제공할 수 있다. 본 논문의 후반부에서는 모델 구현 및 실험을 통하여 제안 알고리즘의 완전성을 검증하고, ε과 프라이버시 레벨, 데이터 정확도 등을 비교하였다.