혐오 표현을 처리하기 위한 언어 처리 장치 및 방법

[기술 요약] 온라인 환경에서 증가하는 혐오 표현은 특히 이모티콘이나 이미지 형태로 표현될 경우 기존 기술로는 탐지가 어려웠습니다. 본 발명은 이러한 문제점을 해결하고자 개발되었습니다. 글자와 이모트, 이모지를 포함한 입력 단어를 LSTM(Long Short Term Memory) 알고리즘 기반으로 분석하여, 비텍스트 형태의 혐오 표현까지 정확히 감지하고 처리하는 언어 처리 장치 및 방법을 제공합니다. 이 기술은 이모티콘을 문자로 변환하여 분석하며, 음성 데이터에서도 혐오 표현을 파악할 수 있습니다. 실제 온라인 환경 데이터 분석 결과, 기존 기술 대비 현저히 높은 혐오 표현 탐지율을 보여, 더욱 안전하고 깨끗한 온라인 소통 환경 조성에 기여합니다.

기술 분야

자연어 처리 및 혐오 표현 탐지

기관

기초과학연구원

등록번호

1027122810000

키워드

문맥 기반 분석, 자연어 처리, 디지털 역기능, 악성 댓글, 온라인 규제, 욕설 필터링, 소셜 미디어, RegTech 솔루션, 콘텐츠 모더레이션, LSTM 알고리즘, 혐오 표현 감지, 이모티콘 탐지, AI 기반 언어, 이모지 분석, 음성 혐오 표현, 데이터처리, 인공지능, 멀티미디어 기술, 알고리즘, 소프트웨어