The widespread of Autonomous Vehicle (AV) promises a transportation system revolution by significantly reducing vehicle crashes. Despite potential benefits, a social challenge of how AVs should behave during unavoidable crashes is actively discussed by various stakeholders (e.g., researchers, company representatives, engineers) in parallel. As human drivers will delegate control to AVs, considering moral implications before AVs are deployed is essential for forming a trust for the general public. However, there is a considerable gap in the perceptions of AV ethics, as this is an emerging technology without may empirical studies on the moral perception of humans with ethical implications. Additionally, the current discussion of AV morality is still vague and needs to be translated into a machine operationalizable ethics code. Moreover, engagement of the public is crucial as they will be the core users of AVs who will face emotional salience when accidents occur. In this dissertation, two phases of research using a mixed-methodology were conducted to verify AV ethics that is transparent, predictable, and acceptable. In the first phase, a conceptual framework of AV Ethical DecisionMaking model that explains how individual and contextual factors affect potential AV users’ ethical perceptions in AV moral dilemma was developed. In the second phase, a cross-cultural comparison study (collectivist culture: Korea vs. individualist culture: Canada) using a sequential-mixed method by adopting in-depth interviews to define AV moralities that align with societal values was conducted. The significant contribution of this dissertation is that the study discovered moral decisions making patterns from the human perspectives, which could be applicable for designing realistic AV moral behaviors. These lessons are essential to inform policymakers, AV developers, insurance companies, and the public, which will ultimately prepare the overall society in building socially acceptable AVs.
자율 주행 자동차 기술 도입은 현재의 교통 시스템을 혁신하며 교통사고율을 현저하게 줄일 것이다. 그러나 이러한 긍정적 효과와는 반대로 자율 주행 자동차 역시 피할 수 없는 사고를 야기 할 수밖에 없으며, 이러한 상황에서 자율 주행 자동차가 어떻게 반응해야 할지와 관련하여 사회적인 여러 이해관계자들이 활발한 논의를 이어가고 있다. 자율 주행 자동차가 상용화되면 사람은 자동차에 많은 통제권을 위임하게 되는데, 이때 사람들의 신뢰를 얻기 위해서는 피할 수 없는 교통사고 상황에서 자율 주행 자동차가 어떻게 도덕적 추론을 하는지 이해하는 것이 필수적이다. 하지만 아직까지는 자율 주행 자동차의 윤리적 결정 방식에 대한 사회적 합의가 존재하지 않는다. 또한 자율 주행 자동차의 도덕론은 여전히 모호한 상태이기에 좀 더 명확한
의사결정 과정에 대한 이해를 바탕으로 프로그램화 가능한 단계로 논의가되어야한다. 이러한 논의 과정에 있어 가장 핵심적이고, 사고 시 가장 큰 영향을 받는 사용자는 일반 대중이기 때문에 그들의 도덕적 의사 결정 과정에 대한 이해가 필수적이다. 본 연구는 혼합 연구 방법을 통해 일반 사용자가 좀 더 쉽게 예측 가능하며 수용 가능한 자율 주행 자동차 윤리를 정의하고자 한다. 연구의 첫 번째 단계에서는 자율 주행 자동차의 윤리적 의사결정과정을 설명하는 개념적 프레임워크 수립을 통해 개인의 도덕론과 인지된 도덕적 강도가 도덕적 갈등 상황에 어떻게 영향을 미치는지 밝혔다.두 번째 연구 단계에서는 심층 인터뷰를 바탕으로 진행한 실험을 통해 사회적 가치를 반영하는 자율 주행 자동차의 세 가지 도덕적 추론 과정 유형을 정의하였다. 이 두 단계의 연구는 문화적 비교 연구 (집단주의 문화:한국, 개인주의 문화:캐나다) 로 진행되었다. 이 논문의 기여점은 불가피한 사고 상황에서의 일반 사용자가 수용 가능한 자율 주행 자동차의
도덕적 의사결정 추론 과정 패턴의 정의를 통해 향후 자율 주행 자동차의 의사결정 알고리즘 구현 근거를 제공하는데 있다. 또한 자율 주행 자동차 기술에 관련된 다양한 이해관계자들은 이러한 의사결정 패턴 정의를 통해 윤리적 의사결정 과정을 쉽게 이해할 수 있고, 더 나아가 사회가 자율 주행 자동차 기술을 수용하는 것을 촉진시킬 것으로 예상한다.
