인공지능은 비상 및 위기 관리를 개선할 잠재력이 있으나, 복잡한 상황을 해석하는 데 어려움을 겪는다고 전문가들은 밝힘
- AI는 가뭄 평가, 산불 대응 지원, 기상 예측 모델 등에 활용되는 등 긴급상황 및 위기 관리 관련 분야에서 데이터 수집, 분석 및 처리 방식을 혁신적으로 변화시켜 수많은 도구와 응용 프로그램을 개발하는 데 기여
- 그러나 위기관리 분야에서의 AI 기술의 활용은 아직 제한적이며, 이에 따라 유럽비상대응조정센터(ERCC)는 유럽과학자문기구(SAM)에 긴급 상황 및 위기 관리 분야에서 진행 중인 AI 적용 사례 조사를 요청
- 유럽학술원정책자문기구(SAPEA)에서 제공한 SAM 보고서는 다양한 위기관리 과제에서 AI 성능에 대한 지식을 종합하고 AI의 위험과 기회를 이해하기 위한 프레임워크를 제시
※ 유럽과학자문기구(SAM)는 유럽의 여러 과학 아카데미와 그 네트워크를 통합하여 증거를 검토하고 종합하는 유럽학술원정책자문기구(SAPEA)와 정책 권고안을 제시하는 7명의 저명한 과학자로 구성된 수석과학자문단(GCSA)로 이루어져 있음
심층적인 자료 수집을 바탕으로 전문가들은 AI가 위기 상황에서 상황 인식, 예측, 피해 평가 및 의사 결정 지원을 강화할 잠재력이 있다고 밝힘
- 예를 들어, 홍수, 산불, 가뭄과 같은 잦은 재해 상황에서 흔히 볼 수 있는 표준화되고 데이터 집약적인 작업, 조기 경보 시스템을 위한 환경 모니터링과 같은 반복적인 작업, 피해 평가 및 소셜미디어 데이터 처리들의 분야에서 AI는 탁월한 성능을 발휘할 수 있음
그러나, AI는 복잡한 상황을 해석하거나, 충분한 학습 데이터 없이 새로운 상황을 처리하는데 어려움을 겪는 등 여러 도전과제에 직면
- 보고서는 도덕적으로 복잡한 결정이 AI에 맡겨져서는 안 된다고 지적하며, AI 도구가 법적 틀을 준수하고, 알고리즘 편향을 방지하며, AI의 결정에 대한 인간의 통제와 책임을 유지하기 위해 신중한 모니터링이 중요하다고 강조
- 또한, 보고서는 벤치마크, 가이드라인 및 행동강령 개발의 중요성을 강조, 이 프레임워크를 통해 AI 기술을 본격적으로 도입하기 전에 신중한 감독과 윤리적 관리하에 AI를 테스트할 수 있을 것으로 기대
동 보고서는 집행위원회의 과학 자문단인 수석과학자문단(GCSA)의 일련의 권고사항으로 보완됨
- GCSA는 인공지능 도입 결정 전 위험에 대한 기술적 평가와 사회적 수용 가능성 검토, 기존 도구 데이터베이스 구축, 그리고 대안에 대한 체계적인 검토를 요구
- 또한, 데이터 표준화의 필요성, 인간 중심 의사결정 과정의 중요성 그리고 직원 교육의 중요성을 강조
