유럽 인공지능법(AI Act) 발효(8.1)

세계 최초 인공지능에 대한 포괄적 법규정인 유럽 인공지능법(AI Act, AI법)이 8월 1일부로 발효

AI법은 EU에서 개발 및 사용되는 AI가 신뢰될 수 있도록 보장하고 사람들의 기본권을 보호하도록 설계됨
동 규정은 AI와 관련하여 조화로운 EU 내부 시장을 확립하고, AI 기술의 도입을 장려하며, 혁신과 투자 지원 환경을 조성하는 것을 목표로 함

AI법은 EU의 제품 안전 및 위험 기반 접근 방식을 기반으로 위험 정도를 네 가지 범주로 구분

최소 위험(Minimal risk)
- AI 기반 추천 시스템 및 스팸 필터와 같은 대부분의 AI 시스템이 해당 범주에 속함
- AI법에 따른 의무는 없으며, 기업은 자발적으로 추가 행동 강령을 채택할 수 있음
특정 투명성 위험(Specific transparency risk)
- 챗봇과 같은 AI 시스템은 사용자에게 기계와 상호작용하고 있다는 사실을 명확하게 공개해야 함
- 딥페이크와 같은 특정 AI 생성 콘텐츠는 첨단 기술을 이용하여 만들어졌음을 명시해야 하며, 생체 인식 분류 또는 감정 인식 시스템이 사용될 때 사용자에게 알려야 함
- 서비스 제공자는 합성된 콘텐츠가 기계가 읽을 수 있는 형식으로 표시되고, 인위적으로 생성 및 조작된 것으로 감지되도록 시스템을 설계해야 함
고위험(High risk)
- 해당 범주에 속한 AI 시스템은 위험완화 시스템, 고품질 데이터셋, 활동기록, 상세 문서, 명확한 사용자 정보 등을 포함한 엄격한 요구 사항을 준수해야 함
- 규제 샌드박스는 책임 있는 혁신과 규정을 준수하는 AI 시스템의 개발을 촉진
허용 불가 위험(Unacceptable risk)
- 인간의 기본권에 대한 명확한 위협으로 간주되는 AI 시스템은 금지되며, 이에는 인간의 행동을 조작하는 AI 시스템이나 애플리케이션이 포함됨(미성년자의 위험한 행동을 조장하는 음성지원 장난감 등)
- 일부 생체 인식 시스템의 사용도 금지됨(직장에서 사용되는 감정 인식 시스템 등)

또한, 이 시스템을 보완하기 위해 AI법은 AI 애플리케이션의 구성 요소로 많이 사용되고 있는 범용 AI 모델에 관한 규칙을 도입하여 투명성을 보장하고 잠재적인 시스템적 위험을 해결하고자 함

회원국은 `25년 8월 2일까지 AI 시스템 규칙의 적용을 감독하고 시장 감시 활동을 수행할 국가 유관기관을 지정해야 함

집행위의 AI 사무소는 EU 수준에서 AI법의 주요 시행 기관이자 범용 AI 모델 규칙의 시행 기관이 될 것
유럽인공지능이사회(AI법의 균일한 적용 보장, 집행위와 회원국 간 협력 촉진), 과학패널(기술적 조언 및 의견 제공) 및 자문포럼(지침 제공)이 동 규칙의 시행을 지원할 것
규칙 위반 시 위반 항목에 따라 최대 7%의 벌금이 부과될 수 있음