인간 중심 머신러닝 모델과 알고리즘, AI의 잠재적 이점 극대화

막스플랑크 소프트웨어 시스템 연구소는 대부분의 시스템에서 알고리즘과 인간의 결정이 서로 영향을 주고받는다는 점에서, ML 모델이 이러한 상호 의존적 관계를 더 잘 반영해야 함을 인식

동 프로젝트는 인간-AI 협업 의사결정을 지원하기 위해 설계된 최초의 ML 알고리즘을 개발하였으며, 연구진에 따르면 이는 인간의 의사결정을 보조하는 역할을 통해 인간·AI 단독보다 더 나은 결정을 가능하게 함
연구진은 알고리즘과 인간의 의사결정 간 피드백 루프를 반영하고, 다양한 자동화 수준에서 작동할 수 있는 모델을 설계
또한 동 모델은 인간이 알고리즘의 결정을 어떻게 받아들일지 예측하고, 해당 결정의 도출 과정에 대한 실행 가능한 설명을 제공
실제 인간을 대상으로 한 대규모 실험을 통해 모델의 효과를 입증하는 등 기존 ML 연구에서 간과되는 부분도 보충됨