ESG 보고서의 67번 페이지를 작성해주세요.
2022년 정확도와 성능이 개선된 ‘세이프봇 V2’를 적용한 결과, 
욕설이나 비속어를 포함하여 가려진 댓글이 2020년 하반기 
대비 3분의 1 수준으로 감소하였습니다. 또한 이용자가 신고한 
욕설 댓글의 비중도 2020년 하반기 4.2%에서 2022년 2.4%로 
낮아졌으며, 이용자의 신고에 의해 삭제된 욕설 댓글도 2020년 
하반기 대비 2022년 91.7% 감소하여 12분의 1 수준으로 
줄어드는 성과가 있었습니다. 카카오는 기술을 통해 사회 문제를 
해결하겠다는 목표 아래 세이프봇의 성능을 더욱 고도화할 
예정이며, 향후 증오발언을 판별하는 학습 데이터를 구축하고  
이를 세이프봇에 적용할 계획입니다.
세이프봇 적용 성과
CASE
유해 이미지 차단 머신러닝 기술
카카오는 유해 이미지를 단시간에 차단하기 위해 활용되는 AI 기술을 
개발하여 활용하고 있습니다. 기존 이미지의 해시(Hash)가 동일한 
대상을 찾아 자동으로 처리하는 방식에서 나아가 대상을 넓혀 학습을 
진행하고 있으며, 머신러닝 기법 중 여러 모델의 결과를 이용해 하나의 
좋은 결과를 만드는 앙상블(Ensemble) 기법을 활용하여 성인(스팸) 
이미지 추천 시스템을 개발하였습니다. 이미지를 자동으로 분류하고 
유해한 이미지를 사전에 규제하여 건강한 인터넷 문화를 증진하는 데 
기여하고 있습니다.
이용자 보호 및 만족도 관리
이용자 보호 현황 공개
카카오는 이용자의 기본 권리인 표현의 자유가 위축되지 않도록 노력하고 
있으며, 이용자와 정부기관의 게시물 삭제 요청 및 처리 현황을 투명하게 
공개하고 있습니다. 주요하게 공개되는 현황은 이용자의 요정에 따른 저작권, 
상표권, 초상권, 개인정보 침해 및 명예훼손 신고 처리 결과, 정부기관 요청에 
따른 시정 요구와 삭제 요청 결과, 한국 인터넷 자율 정책기구의 요청에 
따른 처리 결과, 이용자의 신고 등에 따른 게시물과 댓글 규제 및 이용 제한 
결과이며, 매년 반기별로 2회 취합되어 공개됩니다.
이용자 보호 관리 시스템
유해 정보 신고센터
카카오는 유해 정보로부터 청소년과 이용자를 보호하고 안전한 인터넷 
사용을 돕기 위해 유해 정보 신고센터를 365일 24시간 운영합니다. 접수된 
사안의 유해성은 실시간으로 검토되며 유해하다고 판단되는 게시물은 
규제되고 게시자에게 처리 내용이 안내됩니다. 이의가 있을 경우 게시자는 
30일 이내에 복원 신청을 접수할 수 있으며, 검토 결과에 따라 이의가 수용될 
경우 즉시 복원되지만 그렇지 않으면 영구 삭제됩니다.
유해 콘텐츠 차단 AI 기술
AI 기술을 활용하여 유해 콘텐츠를 분석하고 학습하여 자동으로 규제합니다. 
특히 쾌적한 댓글 환경 조성을 위해 AI 기반 댓글 필터링 기능인 ‘세이프봇’을 
개발하고 활용합니다. 욕설 및 비속어, 음란, 불법 키워드 등 게시물 운영 
정책을 위반한 댓글을 AI 기술로 분석해 판별한 뒤 신고 처리까지 자동으로 
완료합니다. 세이프봇은 기본적으로 ON 상태로 설정되어 있으며, 이용자의 
선택에 따라 설정 옵션으로 기능의 사용 여부를 선택할 수 있습니다.
 이용자 보호 현황
 유해 정보 신고센터
1)  Convolutional Neural Network의 약자로, 다층의 인공신경망에 필터링 기법을 적용하여 주로 
시각적 이미지 분류에 활용되는 기술
2)  Optical Character Recognition의 약자로, 사람이 쓰거나 기계로 인쇄한 문자 이미지를 스캐너를 
활용하여 기계가 읽을 수 있는 문자로 변환하는 광학 문자 인식 기술
욕설 및 비속어를 포함한 댓글 수
100%
75%
50%
25%
0%
2020년 하반기
100%
2021
46%
2022
36%
유해 이미지 차단 머신러닝 기술
63.8% 감소
전체 댓글 중 이용자 신고 욕설 댓글 비중
2020년 하반기
2022년
4.2%
2.4%
OCR2)
완전 일치 이미지 필터
유사 이미지 필터
정상/성인 CNN1) 1차 필터
정상/성인 CNN 2차 필터
불법/광고 CNN 필터
사내 성인 지수
이미지 레벨 시스템
앙
상
블
67
2022 카카오의 약속과 책임
Introduction
Our Commitments to a Better World
Sustainable Management
Appendix
