유럽의회 내부시장 위원회와 시민자유 위원회는 지난 목요일(5.11) AI법 협상안을 채택함
- 유럽 내 인공지능의 인간 중심적이고 윤리적인 개발을 보장하기 위해 유럽의원(MEP)들은 세계 최초의 대한 새로운 투명성 및 위험 관리 규칙을 승인함
- 집행위의 제안에 대한 개정안에서 유럽의원(MEP)은 AI 시스템이 사람에 의해 감독되고, 안전하고, 투명하고, 추적 가능하고, 비차별적이며, 환경 친화적임을 보장하는 것을 목표로 함
- 또한 MEP는 현재와 미래의 AI 시스템에 적용할 수 있도록 기술 중립적으로 설계된 AI에 대한 통일된 정의를 요구함
- 유럽의회 전체 투표는 6월 12일부터 15일까지 진행될 예정이며, 그 후 몇 달에 걸친 의회, EU 이사회 및 집행위원회 간의 협상이 시작될 예정
MEP의 개정안은 생체인식·감정인식·예측치안 AI 시스템에 대한 금지, 범용 AI 및 GPT와 같은 기반 모델을 위한 맞춤형 체제, AI 시스템에 대한 불만을 제기할 권리 등을 추가함
- AI법은 위험 기반 접근 방식에 따라 AI가 생성할 수 있는 위험 수준에 따라 공급자와 사용자에 대한 의무를 설정함
- (금지 AI) MEP는 다음과 같은 AI 시스템의 침해적이고 차별적인 사용에 대한 금지를 포함하도록 금지 AI 목록을 수정함
- 공개적으로 접근가능한 공간에서의 ‘실시간(real-time)’ 원격 생체인식 시스템
- 포스트(post) 원격 생체인식 시스템(심각한 범죄를 기소하기 위한 법 집행을 제외하고는 사법적 승인을 받은 후에만 사용 가능)
- 민감한 특성을 사용하는 생체인식 분류 시스템(성별, 인종, 민족, 종교, 정치적 성향 등)
- 예측 치안 시스템(프로파일링, 위치 또는 과거 범죄 행위 기반)
- 법 집행, 국경 관리, 직장 및 교육 기관의 감정 인식 시스템
- 안면인식 데이터베이스 구축을 위해 소셜미디어나 CCTV 영상의 생체정보를 무차별 스크랩하는 것(인권 및 사생활 침해)
- (고위험 AI) MEP는 사람들의 건강, 안전, 기본권 또는 환경에 대한 피해를 포함하도록 고위험 AI의 분류를 확장하였으며, 정치 캠페인에서 유권자에게 영향을 미치는 AI 시스템과 대형 SNS 플랫폼에서 사용하는 추천 시스템을 고위험 목록에 추가함
- (범용 AI) MEP는 파운데이션 모델 제공자에 대한 의무를 추가하여 기본권, 건강 및 안전, 환경, 민주주의 및 법치의 강력한 보호를 보장하도록 함
- 이들은 위험을 평가 및 완화하고, 설계·정보·환경 요구사항을 준수하고, EU 데이터베이스에 등록해야 할 의무가 있음
- GPT와 같은 생성 파운데이션 모델은 콘텐츠가 AI에 의해 생성되었음을 공개하고, 불법 콘텐츠 생성을 방지하도록 모델을 설계하고, 교육에 사용되는 저작권이 있는 데이터의 요약을 게시하는 등 추가 투명성 요구사항을 준수해야 함
- (혁신 지원) MEP는 혁신을 촉진하기 위해 연구 활동 및 오픈소스 라이선스에 따라 제공되는 AI 구성 요소를 위한 규칙 면제를 추가함
- (시민 권리) MEP는 AI 시스템에 불만을 제기하는 등 시민의 권리를 높이고, AI 규칙집이 이행되는 방식을 모니터링하는 임무를 맡게 될 EU AI 사무소의 역할을 개혁함
SOURCE : EUROPEAN PARLIAMENT
