욕설, 혐오발언 감지

1. 기획 배경

라이브 스트리밍 방송이 많아진 지금 사용자의 욕설, 혐오발언이 담긴 댓글, 채팅 글로 인해 스트리머들이 겪는 정신적 피해를 해소하고, 올바른 채팅 문화 형성에 도움을 주고자 한다.

2. 추가로 생각해보기

1차적인 목표는 딥러닝을 욕설, 혐오표현을 감지하는 것이다. 그 후 이를 어떻게 처리할지에 대해 고민하게 되었다. 과연 입력을 차단하는 것으로 사람들이 욕설을 하지 않을까?? '리그오브레전드'는 결국 전체채팅을 없앴고, 네이버 뉴스도 아예 댓글 기능을 폐지하게 되었다. 사람의 심리는 안되는 것이라면 그를 우회하는 방법을 찾는걸 즐기기 마련이다 라는 생각이 든다. 욕설 감지데이터 셋을 구축하기 위해 새로운 욕 입력하기 같은 걸 활용하는 것을 볼 수 있었다.

개인적으로 되게 재밋겠다 라는 생각이 들었다. 이것만 봐도 알 수 있듯이 욕설, 혐오표현 감지 프로그램을 보다 잘 만들수록 더 뚫고 싶어할 것 같다는 생각이 들었다.

그럼 어떤 방법이 좋을지 고민하다가 한 UCC를 보게 되었다.

썸네일부터 부들부들 거리는 느낌이 든다. 내가 쓴 말이 가지고 있는 디테일한 뜻을 알게된다면 쓰지 않지 않을까? '해당 글에는 부적절한 표현이 들어있습니다' 가 아닌 해당 글은 '~~~ 와 같은 뜻을 가지고 있습니다' 라는 문구를 보여주면 어떨까 라는 생각을 하였다. (왠지 딥러닝과는 상관없어지는 아이디어)