AI의 안전한 공동체 편입을 위한 합리적 규제설계에 관한 연구

Abstract

2024년 3월, UN은 ‘지속 가능한 발전에 유용하면서도 안전하고 위험이 없으며 신뢰할 수 있는 AI 체계 증진’에 관한 결의안(resolution)을 채택하였다. 본 결의안은 본격적인 AI 시대에서의 부적절한 AI 개발의 위험성을 경고하고 디지털 격차 해소 등을 촉구하기 위한 국제적인 합의 마련에 대한 필요성을 강조한다. 이는 AI 개발과 사용을 두고 지속적으로 제기되었던 ‘두머(doomer, 파멸론자) 대 부머(boomer, 개발론자)’ 논쟁 속에서 책임있는 AI 발전 의지와 함께 AI 가 침해할 수 있는 인권과 공동체 가치에 대한 국제사회의 관심을 유도한다. 이렇듯 현재 국제사회의 AI 규제 논의는 기술 육성과 진흥을 위한 국가의 적극적인 정책 마련 및 기술 위험에 대응할 수 있는 적절한 규범체계 구축이라는 ‘규제 딜레마’를 겪고 있다. 그리고 이러한 규제 딜레마는 공동체 규범과 AI 개발･사용 사이의 합리적 균형점을 모색하기 위한 움직임으로 이어진다. 그렇다면 AI 과도기에 살고 있는 우리에게 맞는 규범체계, 즉 체계적인 규제 정립은 어떠한 모습일까. 물론 AI 기술 발전 과정에서 국제사회는 다양한 가이드라인과 지침 등의 형식을 통해 ‘윤리원칙’에 기반한 AI 규제 방안을 제시하였지만, 기술의 급격한 발전과 그에 따른 기본권 침해 위험이 심각해지고 있는 현실에서 이에 대응한 합리적이고 효율적인 규제 체계의 정립이 필요하다. 이러한 규제 체계 설계를 위해 본 연구자는 ‘원칙(principle)’과 ‘규칙(rule)’ 중심의 규제 방식을 적절히 혼용하여 각 영역에서 적용될 수 있는 구체적인 규제설계 방안을 제시하고자 한다. 이러한 규제 체계의 다원화는 상황별-위험별 접근방식을 통해 규제 효율성을 높이는 한편, 규제 적응력을 향상시켜 공동체 내에서의 질서를 형성하고 안전을 도모시킬 것이다. 기술은 규범 체계 안에서 지속가능성을 보장받고, 이러한 기술의 발전은 인류 공영을 위한 긍정적인 역할을 담당함으로써 인간과 AI의 공존을 가능하게 한다. 따라서 ‘AI 기본법’의 제정을 통해 기술규제의 원칙과 방향성, 그리고 정책적 이슈를 제시하고, 독립적인 규제기관을 도입하여 통일적이고 전문적인 규제 태도를 유지할 필요가 있다. 이와 함께 ‘고위험 AI’를 규제할 수 있는 세부적이고 구체적인 법률의 제정 및 규제 보완을 위한 정책적･제도적 차원의 접근, 즉 자율규제를 위한 민관협력 차원의 컴플라이언스와 기술 윤리교육 환경의 조성 등의 노력을 통해 AI의 안전한 공동체 편입을 시도한다. 이와 같은 다원적 규제체계의 정립은 기술 혁신과 규제 사이의 적절한 균형을 제시하기 위한 방안이 될 것이다.