EU 동향

본문

인공지능 (artificial intelligence, AI)의 급격한 발전은 작곡, 작문, 그리고 인간의 목소리를 완벽하게 모방하는 능력 등으로 수백만 명의 관심을 사로잡았다. 그러나 동시에 설득력 있는 가짜 뉴스를 생산하고 대중의 의견을 조작할 수도 있다는 우려도 나오고 있다. 이러한 배경 속 유럽연합(EU)은 최초로 AI 기술을 규제하기 위한 법안인 "AI 법안" (AI Act)을 준비 중이다. 5월 11일 (현지시각), 유럽 의회(European Parliament)의 중요 위원회에서 해당 법안을 승인하여, 6월 중 본회의 투표를 앞두고 있다.

해당 법안은 AI 시스템을 최소(minimal)부터 수용 불가능(unacceptable) 까지의 4 가지 단계로 분류하며, 각 단계에 따라 차등적 의무를 부과한다. 수용 불가능한 위험 단계는 AI의 특정 사용법이 금지됨을 말한다. 예를 들어, 중국에서 지역 정부가 "선량한" 시민과 "나쁜" 시민을 순위화 하는 시스템과 같은 경우다. 기타 수용 불가능한 위험 단계의 사례로는 AI가 얼굴을 스캔한 후 자동적으로 식별하는 공공 장소에서의 실시간 생체 인식 등이 있다. 사람의 삶의 방향에 영향을 미칠 수 있는 고위험 범주인 고용 및 교육에서 사용되는 AI 시스템도 보다 투명하고 정확한 데이터를 사용하는 등의 엄격한 조건을 요구받는다. 위반 시 기업의 연간 전 세계 매출의 6%까지 벌금 부과가 이루어진다.

가장 중요한 문제는 AI를 어떻게 정의할 것인가에 대한 문제이다. AI 규제 전문가인 Johann Laux는 “특정 피해와 위험을 규제해야 하지만 혁신을 억제하지 않도록 조심해야 한다” 며, “AI를 너무 좁게 정의하면 특정 피해를 규제할 수 없는 상황이 생길 수 있고, 너무 넓게 정의하면 과도하게 포괄적이 되어 혁신을 억제할 수 있다.” 고 밝혔다. 그 뿐만 아니라, 기술이 빠르게 발전하고 있기 때문에 AI 법안이 몇 년 후에도 효과적일지에 대한 우려가 자주 제기되고 있다. 이 법안을 공동 후원하고 있는 루마니아 의회 의원인 Dragos Tudorache는 “법을 작성할 때 어떤 경제적, 사회적 관계나 현상의 본질을 포착하도록 노력해야 한다. 그렇게 하면 기술이 어떻게 변화하든지 상관 없이 핵심 의무와 가치는 변하지 않을 것이다.” 고 말했다. 또한 시간이 지남에 따라 변화할 수 있는 사항은 EU 집행위원회 (European Commission)의 커미톨로지 (comitology)* 과정을 통해서 변경이 가능하다고 밝히기도 했다. 최종 법안 승인은 연말까지, 또는 2024년 초 까지로 예상되며, 2년 정도의 시범 시행 기간이 주어질 가능성이 높다.

함의

EU가 AI에 관련된 모든 법의 상위 법안인 AI 법안을 통해 새로운 글로벌 규범 확립을 이끌고 있다. 만약 EU 입법이 이루어진다면 역대 기술 규제 중 가장 강력한 제도가 될 것이라고 한다. 구글AI, 메타(Meta), 오픈AI(Open AI) 등 최대 AI연구소들이 있는 미국에서도 해당 법안을 주시하고 있다. 미국 기업들이 EU의 AI 법안을 준수하게 되면, 미국 소비자들에게 적용되는 AI 기술의 투명성과 책임 수준도 향상될 것이기 때문이다 .

한국에서도 2019년 말 “AI 국가전략” 발표에 이어 AI 법안이 논의되고 있다. 국민 보호를 위한 고위험 영역 규제 뿐만 아니라 AI산업 육성도 균형 있게 추진하고 있다고 한다. EU의 강력한 사전적 규제 법안을 참고해 국내에서도 AI기술 혁신 발전을 위한 제도적 기반과 법적 근거를 신속히 마련할 필요가 있다.

*커미톨로지 comitology: “유럽연합(EU)의 집행위원회와 회원국 정부 관료가 공동으로 정책을 입안하는 유럽연합의 의사결정절차나 방식”

---

■ 담당 및 편집: 김미나, YU-JMCE 인턴
문의: 02 2123 8156 | instantlyous@yonsei.ac.kr