Autonomous vehicles ought to determine the best human damage that an unavoidable crashes cost, paradoxically. This moral dilemma urges to prepare a moral system of autonomous vehicles. The methodologies to judge the best result have been discussed but have not yet gained social agreement. Another view of that resultant goodness alone cannot represent human morality motivated this research. This research aims to establish basic elements to design moral system of autonomous vehicles from the perspective of human morality. Prior to major phase, unavoidable crash scenarios were designed based on real cases. Moral dilemmas were added to the scenarios through an in-depth interview with drivers. After setting the scenarios, a think experiment with 33 participants was conducted; Think Aloud Method was used to collect the data of participants’ reasoning process. The data was analyzed by qualitative approaches using protocol analysis and graph-based thematic analysis. As the result, three elements was derived in moral reasoning regarding crashes: 1) ideas about norm, procedure or action; 2) patterns of ideas in process; and 3) types of drivers with similar patterns. This research suggests the reasoning elements based on human morality in order to gain social agreement on the moral system of autonomous vehicles. The elements can be utilized as hierarchical learning elements and guidelines to design the moral system. In addition, the research propose a graph representation methodology to analyze protocols of decision-making process.
자율주행 자동차는 불가피한 교통사고 시 최선의 인명 피해를 결정해야 한다. 이러한 도덕적 딜레마는 자율주행 자동차에게 도덕 시스템이 필수적임을 보여준다. 그 동안 자율주행 자동차가 최선의 결과를 판단할 방법이 논의되어 왔으나 아직 사회적 동의에는 이르지 못하고 있다. 본 연구는 결과론적 윤리만으로 인간의 도덕성을 재현할 수 없다는 관점에서 시작한다. 이에 인간의 도덕성 관점에서 자율주행 자동차의 도덕 시스템을 설계하는 기반 요소를 정립하고자 한다. 먼저 운전자 심층 인터뷰와 실제 사례를 기반으로 도덕적 딜레마가 있는 교통사고 시나리오를 설계하였다. 설계한 시나리오의 운전자 입장에서 의사결정 과정을 구술하는 사고 실험으로 성인 33 명의 데이터를 수집하였다. 이를 프로토콜 분석과 그래프 기반의 주제 분석 기법을 이용한 질적 접근으로 분석하였다. 그 결과로 (1) 교통사고 시 인간의 도덕적 추론에 사용되는 규범적, 과정적, 행동적 생각, (2) 도덕적 추론 과정에서 나타나는 요소의 패턴, (3) 유사한 패턴이 나타나는 운전자 유형을 도출하였다. 결론적으로 본 연구는 자율주행 자동차의 도덕 시스템에 대한 사회적 동의를 구하기 위하여 인간의 도덕성 관점의 추론 구조를 제안한다. 본 연구의 결과는 자율주행 자동차의 도덕 시스템을 설계하는 가이드라인 및 계층적 학습 요소로 활용될 수 있다. 또한 방법론적 측면에서 의사결정 과정의 프로토콜 분석에 그래프 구조를 접목한 그래프 표현법을 제안한다.
