브뤼셀은 인공지능(AI)을 사용하여 사람을 추적하고 행동 순위를 매기는 것을 금지하고 위반 시 회사 매출액의 최대 4%까지 벌금을 부과할 것으로 예상되는 최초의 AI 규정의 일부를 다음 주에 발표할 예정이다.
여전히 수정될 수 있는 제안된 규정은 고위험으로 간주되는 AI 어플리케이션 사용에 대한 사전 승인 요구 조항을 포함할 것이다. 그러나 이 규정은 무기 또는 기타 군사 목적으로만 사용되는 AI 시스템에는 적용되지 않을 것이다.
이 제안은 AI 제공업체, 수입업체, 유통업체 및 사용자를 위한 규칙과 역할을 포함한 방대한 새로운 규제 체제의 생성을 나타내며, 그리고 평가위원회, 국가 감독 기관 및 새로 만들어진 유럽 AI위원회를 포함한 광범위한 감독을 보여줄 것이다.
81페이지에 달하는 법안 초안은 AI를 "치명적이고 유해한 용도뿐만 아니라 바람직한 용도로 인간 활동의 많은 분야에 배치할 수 있는 매우 강력한 컴퓨터 프로그래밍 기술군"이라고 설명한다.
원격 생체 인식 시스템, 채용, 교육 기관 출입, 신용도, 망명 및 비자 신청에 사용되는 AI 애플리케이션은 고위험으로 간주된다. 이러한 시스템에 사용되는 데이터는 편견이 없어야 한다고 제안서는 설명한다.
해당 규정에 따르면 이러한 시스템은 특정 고위험 시스템에 대한 인증서를 평가하고 발급하도록 설정된 국가기관과 인간이 함께 감독해야 한다. 다른 고위험 시스템은 자체 검사를 수행할 수 있다.
이 규정은 AI 시스템 공급자가 EU 내부 또는 외부에 설정되었는지에 대한 여부와 관계없이 적용된다.
위원회는 규정 준수 검사 시스템을 통해 AI에 대한 대중의 신뢰를 높이는 것이 가장 중요한 목표라고 주장한다.
규제 지지자들은 개인의 사생활과 생계에 새로운 위험을 초래하는 첨단 기술에 대한 적절한 감독이 필요하다고 오랫동안 주장해 왔다. 다른 이들은 새로운 규칙이 지속적인 경제적 결과와 함께 혁신을 억제할 수 있다고 경고한다.
위원회 관계자들은 이 규칙이 혁신을 죽이는 것이 아니라고 주장한다. 실제로 이 규정의 일부는 AI 개발을 지원하는 조치를 다루며, 신생 기업과 중소기업이 AI를 테스트할 수 있는 "규제 샌드박싱 계획”을 수립하도록 회원국을 압박한다. 시스템을 시장에 출시하기 전에 "인간의 행동, 의견 또는 결정을 조작”하는 것을 포함하여 금지된 AI 시스템의 목록을 설명하는 조항인 제4조에 많은 관심이 집중될 것이다.
EU 정책 입안자들과 대중은 중국에서 개발 중인 것과 같은 정부의 사회적 채점 시스템을 포함한 어플리케이션에 대해 우려하고 있다. 중국 정부는 논란의 여지가 있는 AI 도구를 사용하여 홍콩의 민주화 시위대를 식별하고 인종 프로파일링 및 위구르 무슬림(Uighur Muslims)을 통제하고 있다.
해당 조항은 대량 감시 시스템의 상업적 응용과 차별로 이어질 수 있는 범용 사회적 채점 시스템을 금지될 AI 사용의 예시로 제시한다. 다만 이러한 관행은 공공 보안을 보호하고 적절한 보호 조치를 받을 목적으로 공공기관이 수행할 때 허용되어야 한다.
일부 법률 해석가들은 트위터 상에서 제4조에 사용된 언어가 모호하다고 경고하고 있다. 디지털 권리 운동가들은 금지 조치가 너무 좁게 정의되어 있으며 심각한 허점을 허용할 수 있다고 한다.
EU의 제안 구성은 2년이 넘게 소요되고 있다. 이전에 유출된 초안은 3~5년 기간에 걸쳐 공공장소에서 얼굴 인식 기술의 사용을 금지하는 내용이 담겨 있었다.
실리콘밸리주의
AI에 대한 EU 법규는 유럽 안팎의 기술 회사에 큰 영향을 미칠 것이다.
검색 엔진 구글(Google)은 작년에 발표한 위원회의 AI 백서에서 이 부문에 해를 끼칠 수 있다고 언급한 조치를 비판했다. 구글은 기술에 대한 자체 지침을 발표하면서 위험이 있지만 기존 규칙과 자체 규제만으로도 대부분의 경우에 대한 규제로 충분할 것이라고 주장했다.
위원회의 제안에 대한 응답으로 마이크로 소프트(Microsoft)는 EU에 "가능한 많이 기존 법률 및 규제 프레임워크”에 의존하도록 촉구했다. 그리고 마이크로 소프트는“모든 AI 시스템 사용에 내재된 한계와 위험에 대해 투명해야 한다,” “이것이 자발적으로 수행되지 않으면 최소한 고위험 사용 사례에 대해서는 법에 의해 의무화되어야 한다”고 언급했다.
로빈 켈리(Robin Kelly) 미 하원 의원은 지난 3월 유럽 의회 의원들과 대화를 나누면서 EU 입법에 대해 주의를 표명하면서 동맹국들과 협의 없이 기술에 대해 독자적인 길을 택하지 말라고 경고했다.
켈리(Kelly) 의원은“과도한 예방정책이 갖는 실제적인 위험이 있다”고 말했다. 이는 새로운 AI 애플리케이션에 대규모 투자를 하고 구글, 마이크로 소프트 등과 같은 미국의 거대 기술회사들이 EU의 규제 계획에 대해 표명한 우려와 유사하다.
