로고

누구나 그것에게 대화를 '가르칠' 수 있는 장점 때문에 심심이는 크게 성공했지만 이러한 특성 때문에 심심이는 지금까지 어떤 대화형 인공지능도 근본적으로 해결하지 못한 위험 요소인 악성 대화에 가장 많이 노출되어 있었다. 재미보다 안전에 무게중심을 두기 시작하면서 심심이(주)는 보편적이고 직관적인 콘텐츠 정책을 수립했고, 심심이가 지금까지 ‘배운’ 모든 대화 시나리오(약 1억 4천 만 건)를 일일이 사람이 분류하게 하는 계획을 세웠다. 불가능할 것 같았던 이 계획은 오랜 노력 끝에 큰 성과들을 거두고 있다. 심심이가 대답으로 사용하는 각각의 문장들에 대해 성실성이 보장된 투표를 해당 언어 사용자 10명 이상에게 받아 점수화 함으로써 대화의 악성을 판별한 높은 품질의 데이터를 다량 확보했고, 이 데이터를 훈련시킨 신경망 모델은 최고 수준의 성능을 발휘하고 있어 여러 언어에서 toxicity를 효과적으로 제어할 수 있게 되었다. DBSC라고 부르는 이 신경망 모델은 온라인 상의 코멘트나 게임, 방송, 데이팅, 소셜네트워크 서비스 등 대화와 관련된 모든 분야에서 안전을 확보하는 데 필요한 솔루션으로 인식되고 있다.