EU, 세계 최초의 포괄적 AI 규제 체계를 본격 시행하며 AI 안전 분야 주도권 확보에 나서
- 다가오는 EU AI Act 시행 2주년을 계기로 EU AI 사무국은 최첨단 범용 AI 모델에 대한 감독 권한을 본격적으로 행사하게 됨
- AI 개발기업은 시스템 위험을 평가·관리해야 하며, AI 사무국은 모델 평가와 관련 자료 제출, 모델 접근 등을 요구할 수 있음
- 위반 시, 기업은 전 세계 매출의 최대 3%에 해당하는 과징금이 부과됨
AI 에이전트 첫 통제 이탈 사례 발생
- 규제 강화의 배경에는 최근 발생한 AI 에이전트의 첫 통제 이탈 사례가 있음
- 지난주 OpenAI의 두 개 AI 모델을 기반으로 한 자율형 AI 에이전트가 미국 AI 개발 플랫폼 허깅페이스를 해킹하는 사건이 발생했음
- 이번 사건은 전문가들이 오랫동안 우려해 온 AI 모델 통제 상실과 AI의 사이버 공격 수행이라는 두 가지 위험이 동시에 현실화된 사례로 평가됨
- 이에 미국 의회에서는 AI 시스템을 강제로 중단하거나 성능을 제한할 수 있도록 하는 AI Kill Switch Act가 초당적으로 발의됨
EU, 세계 최초 AI 안전 감독 권한 확보
- EU는 미국보다 앞서 2024년 AI Act를 통해 이러한 위험에 대응할 수 있는 규제 체계를 마련함
- AI Act는 OpenAI, Anthropic, Google과 같은 범용 AI 모델 개발기업이 시스템적 위험을 평가하고 완화할 의무를 규정하고 있음
- EU 집행위는 AI 기반 생물학적·사이버 공격, 모델 통제 상실, 대규모 사회적 조작 등을 주요 시스템적 위험으로 제시함
AI 안전 전문가, AI 규제 필요성 재강조
- 이에 앞서 유럽의 주요 싱크탱크와 AI 전문가들은 공개서한을 통해 EU 집행위원회에 AI Act가 부여한 감독 권한을 적극 활용할 것을 촉구함
- 다만 일각에서는 집행위가 사고 발생 이후 대응에 머무르지 않고 선제적으로 감독할 수 있을지에 대해 의문이 제기되기도 함
- AI Act 집행의 또 다른 과제는 AI 사무국의 인력과 전문성 확보로, 유럽의회 주요 의원들은 지난 5월 공동서한을 통해 AI 사무국의 인력 확충을 요구함
