A common problem of online discussion is harassment where harassment may be political, sexual, or racial. Existing moderation methods focus on detecting harassment contents and taking action when appropriate. In spite of the availability of different detection and moderation techniques, online harassment is not an issue which can be reduced easily. Mostly missing in the existing research is designing to encourage users in the behavior which align with the normative behavior of the community, and reduce uncivil content. In this work, I explore the potential of promoting civil commenting, by providing feedback messages to the user regarding the existence of incivility in user generated content; and investigate user’s reaction and future posting behavior after the feedback message. How do users react if providing the machine learning output of having potential negative content in their post? How do different components of the feedback message affect users' reactions? Is there any positive effect in the future commenting behavior of sending these feedback messages? Analyzing the answers of the above questions can offer new opportunities to significantly reduce harassment content online, by proactively notifying users about the potential bad contents in their post. The result from this work, shows promising potential, which needs to investigate more in this aspect.
온라인 토론의 일반적인 문제는 괴롭힘이 정치적, 성적, 인종적 등일 수있는 괴롭힘입니다. 기존의 중재 방법은 괴롭힘 게시물을 탐지하고 적절한 경우 조치를 취하는 데 중점을 둡니다. 다양한 탐지 및 중재 기술을 사용할 수 있지만 온라인 괴롭힘은 쉽게 줄일 수있는 문제가 아닙니다. 기존 연구에서 대부분 누락 된 것은 커뮤니티의 규범 적 행동과 일치하는 행동으로 사용자를 독려하고 민첩한 컨텐츠를 줄이는 것입니다. 이 작업에서는 사용자 콘텐츠의 무의미한 존재에 대한 피드백 메시지를 사용자에게 제공하여 민중 댓글 작성의 잠재력을 탐구합니다. 피드백 메시지 후 사용자의 반응 및 향후 게시 동작을 조사합니다. 게시물에 잠재적 인 부정적인 콘텐츠가 포함 된 ML 출력을 제공하는 경우 사용자는 어떻게 반응합니까? 피드백 메시지의 여러 구성 요소가 사용자의 반응에 어떤 영향을 줍니까? 이러한 피드백 메시지를 보내는 향후 주석 처리 동작에 긍정적 인 영향이 있습니까? 위의 질문에 대한 답변을 분석하면 온라인에서 괴롭힘 콘텐츠를 크게 줄일 수있는 새로운 기회를 제공 할 수 있습니다. 이 작업의 결과는이 측면에서 더 많은 것을 조사 할 유망한 가능성을 보여줍니다.
