집행위, 첨단 AI 모델 개발사에 사이버보안·안전 조치 관련 정보 제출 요구
- 집행위는 AI Act에 따른 집행 권한을 처음으로 행사해 첨단 AI 모델 개발사에 사이버보안·안전·저작권 규정 준수 관련 정보 제출을 요구함
- 이번 조치는 최근 주요 AI 연구소에서 잇따라 사이버보안 사고가 발생한 가운데 이뤄진 것으로, AI Act의 본격적인 집행을 위한 첫 단계임
첨단 AI 모델의 사이버보안·안전조치 점검
- 집행위가 중점적으로 확인하는 부분은 AI 모델을 보호하기 위해 기업들이 적절한 사이버보안 조치와 물리적 인프라 보호 체계를 마련했는지 여부임
- 집행위 관계자는 특히 사람이나 다른 AI가 모델을 탈취하는 것을 방지하기 위해 기업들이 어떤 위험 완화 조치를 시행하고 있는지를 확인하는 것이 중요하다고 설명함
- 이와 함께 집행위는 다음과 같은 사안도 추가적으로 살펴보고 있음:
30여 개 AI 기업에 저작권 준수 현황도 요구
- 별도로 EU의 AI Act 집행 당국은 30개 이상의 AI 기업*에 EU 저작권 규정을 어떻게 준수하고 있는지에 관한 정보 제출도 요구함
* 학습 데이터 관련 양식을 공개하지 않았거나 저작권 준수에 관한 비공식 질의에 응답하지 않은 개발사가 대상
- AI Act는 AI 모델의 학습 데이터 요약 공개를 의무화하고 있으나, 다수 기업의 정보 공개가 미흡한 것으로 지적됨
미응답 시 추가 조치·과징금 가능
- 기업이 이번 요청에 응답하지 않을 경우 집행위는 추가적인 공식 정보 제출 명령을 내릴 수 있으며, 이를 이행하지 않으면 과징금 부과로 이어질 수 있음
- 집행위는 이 밖에도 AI Act에 따라 AI 모델을 직접 평가하거나 기업에 구체적인 시정조치를 요구할 수 있는 권한도 지님
- 최종적으로 AI Act 의무를 위반한 기업에는 전 세계 연간 매출액의 최대 3%에 해당하는 과징금이 부과됨
