프랑스 툴루즈 경제대학교와 미국 메사추세츠 공과대학교에서 근무하고 있는 장 프랑수와 보네폰(Jean-François Bonnefon) 박사는 최근 자율주행자동차는 글로벌 교통 시스템에 큰 변화를 가져왔지만 자율주행자동차에 대한 사람들의 신뢰를 얻기 위해서는 자율주행자동차가 도로의 안전성을 높여줄 것이라는 맹목적인 기대를 품어서는 안 된다고 경고함.
장 프랑수와 보네폰 박사는 자율주행자동차 관련 윤리를 전공한 행동주의 과학자로 2019년 4월 2-3일 브뤼셀에서 열린 European Conference on Connected and Automated Driving (EUCAD)에 참여하였으며 Horizon 매거진과 인터뷰를 진행하였음.
자율주행자동차의 성공을 위해 가장 중요한 요소는?
자율주행자동차는 AI 발전을 극단적으로 보여주는 사례이므로 ‘어떻게 사람들의 신뢰를 얻을 수 있는가?’가 계속적인 문제가 될 것임. 자율주행자동차는 탑승자들의 물리적 안전에 대한 책임이 있을 뿐 아니라 보행자들이나 다른 차량 운전자들에게 위험이 될 수 있음. 하지만 자율주행자동차는 매순간 인간의 능력을 넘어선 빠른 속도의 결정을 내릴 수 있도록 설계되었음. 따라서 이러한 기계에 대한 신뢰가 자율주행자동차 개발에 가장 중요한 요소라고 할 수 있음.
운전자들도 많은 인명피해사고를 내고 있지만 사람들이 유독 자율주행자동차에 대해 걱정하는 이유는?
자율주행자동차의 궁극적인 목적은 차량사고를 10%로 줄이는 것임. 하지만 이것을 당장 실현할 수 있는 것은 아님. 자율주행자동차가 차량사고의 50%만 줄일 수 있다고 하더라도 그 것은 놀라운 성과라고 볼 수 있음. 하지만 이것은 자율주행자동차가 매일 인명사고를 낼 수 있다는 것을 의미하기도 함. 자율주행자동차의 궁극적인 목적(차량사고를 10%로 줄이는 것)을 기대하는 많은 사람들은 어쩌면 자율주행자동차 사고 소식을 접할 마음의 준비가 되어있지 않은 것일 수도 있음.
자율주행자동차 윤리와 관련해서 사람들은 ‘여러 사람의 목숨을 구하기 위해 한 사람을 희생하는 것이 정당한가?’ 라는 Trolley Problem에 관심을 가지고 있음. 자율주행자동차와 관련된 다른 윤리적 문제는?
가장 큰 윤리적 문제는 자율주행자동차가 도달할 수 있는 절대적 안전성에 대한 것임. 예를 들어 ‘언제 자율주행자동차를 실용화 할 것인가? ‘를 생각해 볼 수 있음. 일반 운전자들의 평균치보다 안전한 자율주행자동차라는 것은 실제로 많은 운전자들보다 덜 안전하다는 것을 의미함. 그렇다면 일반 운전자들의 평균치보다 안전한 자율주행자동차를 실용화하는 것이 괜찮은 것인지 생각해 봐야함. 몇몇 사람들은 어떤 시점에서 자율주행자동차가 의무화되어야 하는지에 대해 논쟁하고 있음. 사람들은 자율주행자동차의 안전성을 과소평가 할 수 있으므로 어떤 시점에서 인간의 운전을 금지해야하는가는 또 다른 중요한 윤리적 문제임.
자율주행자동차를 설계할 때, 기업들은 윤리적인 문제를 고려하는가?
윤리적인 문제는 엄밀히 기업들의 업무가 아님. 자동차 기술자들은 안전에 대한 문제를 더 고민할 것임. 안전에 대한 그들의 결정은 단지 그들의 고객에게만 영향을 주는 것이 아니라 주위의 모든 사람들에게 영향을 줄 수 있으므로 이러한 문제는 정부나 관련규제 기관에서 사회적인 차원에서 접근해야함.
어떻게 자율주행자동차에 대한 신뢰를 확보할 수 있는가?
첫 번째로 우리가 할 수 있는 일은 너무 많은 것을 장담하지 않는 것임. 만약 우리가 사람들에게 자율주행자동차가 완벽한 안전을 보장할 것이라고 말한다면 많은 사람들이 자율자동차의 사고 소식을 접했을 때 배신당했다는 느낌을 갖게 될 것임. 또한 사고와 관련한 자동차 설계에 대해서 많은 고민이 필요함. 자율주행자동차가 주행할 때, 자전거 주행자보다는 아이들에게 더 많은 공간을 확보해 줄 것인지, 보행자와의 거리를 좁혀서라도 트럭과의 거리를 확보해야하는지 등에 대한 모든 문제는 도로의 모든 사람들에게 위험요소로 작용할 수 있음.
만약 자율주행자동차가 자동차 사고를 약 20%정도 감소시킬 수 있다고 한다면 이는 일반 운전자들의 평균보다 나은 수치임에도 불구하고 일반 사람들은 그것을 통해 자신이 어떤 이득을 볼 수 있는지 이해하기 어려움. 우리는 공공기관들의 도움을 받아 자율주행자동차가 얼마나 잘 운행되고 있는지, 20% 더 안전하다는 것이 구체적으로 어떤 것을 의미하는지 시민들에게 주지시킬 필요가 있음.
그를 위해 우리가 할 수 있는 것은?
공공기관의 투명성이 확보되어야 함. 또한 공공기관이 안전과 관련하여 책임감 있는 모습을 보여줘야 함. 합리적인 공약, 통계의 효율적 활용, 위험분배를 위한 사회적 의견 수용 등이 필요함.
이를 위한 EU의 역할은?
EU는 윤리적 문제에 대한 별도의 가이드라인을 마련해야 함. Moral Machine(수백만의 사람들에게 자율주행자동차가 직면한 윤리적 문제에 대한 설문조사를 시행한 프로젝트)의 자료를 살펴보면 자율주행차량의 행동양태에 대한 선호도가 유럽전체에서 비슷하게 나타나는 것을 볼 수 있음. 이는 모든 회원국들이 이 문제에 대해 공통의견을 보이고 있다는 것을 보여주므로, EU가 이 문제에 대해 주도적으로 규제하는 것이 합리적이라는 것을 의미함.
향후 바라는 점은?
지금까지 자율주행자동차와 관련된 윤리적인 문제들이 철학적인 차원에서만 고찰되었으므로 실제적인 측면에서 구체적으로 적용되기를 바람. 또한 자율주행자동차가 실제로 운행되는 것을 기대하고 있음. 예를 들어, 고속도로에 교통 혼잡으로 차가 속도를 낼 수 없을 때 완전 자율주행 모드를 이용하는 사람들을 살펴보는 것은 매우 흥미로운 일이 될 것임. 이것은 사람들이 자율주행자동차를 받아들이는 하나의 과정이 될 것이며 동시에 사람들의 인식에 많은 변화를 야기할 것으로 기대됨.
