딥페이크 확산 등 새로운 정보 환경에서 허위정보 식별의 어려움 증가
- 최근 유럽 전역의 크리스마스 마켓을 둘러싼 영상과 이미지가 SNS에서 확산되며 허위정보 사례가 발생. 일부 게시물은 급진 이슬람 세력이 크리스마스 마켓을 ‘침범’했다는 내용을 담았으나, 실제로는 평화적 시위 장면이었으며 일부 이미지는 AI로 생성된 것으로 확인
- 이처럼 사실처럼 보이지만 왜곡되거나 완전히 조작된 콘텐츠가 증가하며 새로운 정보 환경이 형성됨
- 집행위 설문조사에 따르면 응답자의 약 3분의 2가 최근 1주일 내 허위정보 또는 가짜뉴스를 접한 경험이 있다고 응답
- 생성형 AI 기술의 발전으로 이미지, 영상, 텍스트의 사실성과 정교함이 크게 향상되면서 진위 판별이 점점 어려워지는 상황
- Centre for Research & Technology Hellas(CERTH) 연구진은 생성형 AI로 인해 누구나 가짜 이미지, 음성, 기사 등을 쉽게 제작할 수 있게 되었으며, SNS를 통해 빠르게 확산된다고 설명
AI4Media 및 AI4Trust 프로젝트는 AI를 활용한 허위정보 탐지 및 분석 기술을 개발
- 2020년부터 대학, 언론사, 기술 기업이 참여한 EU 지원 프로젝트 AI4Media가 추진되어 언론인을 위한 검증 도구 개발
- 해당 프로젝트는 뉴스룸 환경에 통합 가능한 AI 기반 검증 도구를 구축하여 디지털 콘텐츠의 신속하고 신뢰성 있는 검증을 목표로 함
- 개발된 도구는 의심 콘텐츠를 자동으로 식별·표시하는 ‘초기 방어선’ 역할을 수행하며, 인간 판단을 대체하지 않고 보조하는 방식으로 설계
- 독일의 Deutsche Welle, 벨기에의 VRT 등 언론기관이 실제 환경에서 도구를 테스트
- 한편 AI4Trust 프로젝트에서는 온라인 허위정보의 확산 구조를 분석하기 위해 인간-기계 결합 시스템을 개발
- 이 시스템은 다양한 SNS 및 뉴스 데이터를 실시간에 가깝게 수집·분석하며, 텍스트·음성·이미지를 포함한 다중 형태 콘텐츠를 처리
- 위험도가 높은 콘텐츠를 자동으로 선별하고, 전문 팩트체커의 검증 결과를 다시 시스템에 반영하여 성능을 지속적으로 개선
기술 경쟁 심화 속 정책·제도와 병행한 대응 필요성이 강조됨
- 연구진은 AI로 생성된 콘텐츠의 품질이 빠르게 향상됨에 따라 탐지 모델 역시 지속적으로 재학습 및 개선이 필요하다고 설명
- 이러한 상황을 ‘군비 전쟁’에 비유하며, AI에 대응하기 위해서는 AI 기술 활용이 필수적이라고 강조
- 두 프로젝트는 각각 ‘콘텐츠 탐지’와 ‘확산 분석’에 초점을 맞추며 상호 보완적으로 작동
- EU는 디지털서비스법(DSA), 인공지능법(AI Act), AI 생성 콘텐츠 표시·워터마킹 관련 행동 강령 등을 통해 허위정보 대응과 플랫폼 투명성 강화를 위한 제도적 조치를 병행 추진 중
- 또한 유럽 미디어 자유법은 언론 콘텐츠 보호를 위한 정치를 마련하여, 플랫폼이 언론 콘텐츠를 삭제하기 전 사전 통지 및 설명 의무를 부과
- 연구진은 기술만으로는 한계가 있으며, AI 도구, 규제, 투명성, 그리고 대중 인식 제고가 결합된 종합적 대응이 필요하다고 강조
AI4Media 프로젝트
- 기간 : 2020.09∼2024.08
- 예산 : 총 11 999 723 유로 (EU 11 999 723 유로 지원)
- 총괄 : ETHNIKO KENTRO EREVNAS KAI TECHNOLOGIKIS ANAPTYXIS (그리스)
AI4Trust 프로젝트
- 기간 : 2023.01∼2026.02
- 예산 : 총 5 950 683 유로 (EU 5 950 683 유로 지원)
- 총괄 : FONDAZIONE BRUNO KESSLER (이탈리아)
