EU 집행위원회는 AI 기술에 대해 엄격한 규제를 가하겠다고 발표하였다. 이는 AI 기술에 대해 비교적 자율규제적 태도를 취하고 있는 미국이나 중국과 구별된다.
집행위원회는 새로운 고위험도 AI 기술(“블랙박스" AI 기술을 비롯하여 의료장비, 자율주행차 등)에 대한 법안을 준비 중이다. 우르슬라(Ursula von der Leyen) 집행위원장은 비록 앞으로 나올 법안이 기존의 규정보다 훨씬 엄격하겠지만, 그 목적은 AI기술에 대한 공포심 조장이 아니라 신뢰 증진이라는 것을 분명히 했다. 본 법안은 기존의 2018년 AI전략을 수정 및 보완한 것으로서, 향후 대규모 AI 연구비 투자계획을 포함하고 있다.
본 법안이 최종안은 아니며, 향후 12주간에 걸쳐서 전문가, 로비스트, 일반시민이 함께 법안 내용을 평가하고 검토할 예정이다. 최종적으로는 EU의회 및 각국정부의 승인을 거쳐야 하는데, 이 과정은 올해를 넘길 것으로 예측된다.
AI 기술의 규제에 미온적이며 기술의 자유로운 채택과 사용에 방점을 두는 미국이나 중국의 정책당국에 비해, 유럽은 훨씬 조심스런 접근법을 취하고 있다. 탄탄한 규제 틀 안에서 AI 기술에 대한 소비자의 신뢰를 획득한다면, 기술 상용화에서 유럽이 미·중을 앞서나갈 수 있을 것으로 EU당국자들은 희망하고 있다.
이에 관해 유럽집행위원회 AI 자문위원이자 유럽정책연구센터(Centre for European Policy Studies)의 AI 정책 연구자인 안드레아 렌다(Andrea Renda)는 “EU가 그 특기인 탄탄하고 포괄적인 규제를 통한 리더십을 발휘하려고 한다”고 평가했다.
협력안보 글로벌센터(Global Center on Cooperative Security)의 AI 윤리 연구위원인 엘레노어 포웰(Eleonore Pauwels)은 “미국에서의 소위 감시 자본주의(surveillance capitalism), 중국의 디지털 독재(digital dictatorship)에 대한 우려가 해소되지 못할 경우 제기되는 대중의 반감 혹은 반격에 대해 유럽의 이러한 규제정책은 아주 좋은 대안이 될 수 있다“고 말했다.
유럽집행위원회는 고위험 AI 분야(의료, 교통, 치안 등)에 매우 엄격한 규제를 적용하려 한다. 이러한 고위험 여부를 판단하는 기준은 AI 의료장비나 자율주행 자동차와 같이 누군가에게 상해를 입힐 수 있는 지, 또는 채용이나 경찰업무 등과 같이 사람의 의사결정이 극도로 배제되는 지이다.
집행위원회는 아무런 정보 없이 일방적으로 AI에만 의존하게 되는 소위 “블랙박스” AI 모델이 작동되지 않도록 할 것이며, 이러한 AI시스템의 훈련에 사용되는 빅데이터에 대해서도 합법적 수집, 추적가능한 소스, 데이터 편향이 없도록 충분한 양의 데이터 확보 원칙 등을 수립하여 통제한다는 계획이다.
집행위원회의 디지털정책 수장인 마가렛 베스타제(Margrethe Vestager)는 기자회견에서 “AI시스템이 인간의 신뢰를 받기 위해서는 기술적으로 강건하고 정확해야 한다”고 말했다. AI법안은 특정의 AI시스템의 작동에 있어 그 책임소재를 명확히 하는 것이며(예를 들어 그것을 사용하는 회사의 책임인지, AI시스템 설계회사의 책임인지 등), 특히 고위험 AI는 유럽연합 시장에서의 사용에 앞서 이러한 EU의 AI규정을 준수하고 있음이 확증되어야 한다.
집행위원회는 또한 저위험군 AI의 사용에 대해서도 자발적인 “AI 신뢰인증서” (trustworthy AI) 제도를 도입하여, 추후에 법률위반 사실이 드러날 경우 벌금을 부과하는 방안에 대해서도 고려중이다.
개인의 동의 없이 대중 속에서 사람을 인식해내는 안면인식시스템의 도입에 대해서도 EU역내의 광범위한 논의가 시작될 것이다. 비록 독일을 비롯한 몇몇 국가들이 해당기술들의 사용을 이미 공표하였지만, 관계자들은 이 기술들이 EU 개인정보보호법 및 경찰업무에 관한 특별법을 종종 위반한다고 인정했다.
전임 집행위원 포웰(Pauwels)에 따르면 AI 산업은 아직 전반적으로 법적인 규제의 틀이 미비한 상태이다. 그러나 지금까지 350여 업체에서 AI 자문위원회의 윤리권고를 준수할 의향을 밝혀왔다고 베스타제(Vestager)는 말한다.
EU의 새로운 AI 계획은 단지 규제 문제에만 국한되지 않는다. 15억 유로의 연구비 투자가 주요 내용이었던 2018년 계획에서 진일보하여, 교통·의료 등 실제 시민생활에서 AI 기술을 적용하기 위한 R&D 투자규모의 확대, AI 연구 및 시험센터, 산업체와의 광범위한 투자 파트너십 등을 포함하고 있다. 또한, AI 계획과는 별도로 산업체의 AI 기술 개발 지원을 위한 별도의 데이터 공유 전략도 발표하였다.
