ESG 보고서의 68번 페이지를 작성해주세요.
이용자 보호 관리 시스템
유해 정보 신고센터
카카오는 유해 정보로부터 청소년과 이용자를 보호하고 안전한 인터넷 사용을 돕기 위해, 365일 24시간 운영되는 
유해 정보 신고센터를 운영 중입니다. 유해 정보 신고센터로 접수된 사안은 실시간으로 유해성 여부를 검토하여 
유해한 게시물을 규제하고, 게시자에게 처리 내용을 안내합니다. 규제 내용에 이의가 있을 경우 게시자는 30일 
이내에 복원 신청을 접수할 수 있으며, 검토 결과에 따라 이의가 수용되는 경우에는 즉시 복원되지만 그렇지 않은 
경우에는 영구 삭제됩니다.
 
유해 콘텐츠 차단 AI 기술
카카오는 부정 이용자들의 회원 가입과 로그인, 유해 콘텐츠 작성 활동을 방지하고 유해 콘텐츠의 이용자 신고 
접수 시 신속하고 정확한 처리를 위해 AI 기술을 활용한 자동 콘텐츠 품질 분석 및 처리 시스템을 운영합니다. 또한 
클린모니터링 운영센터를 통해 새로운 형태의 유해 정보에 대한 AI 학습 및 규제 처리를 진행합니다. 
특히 쾌적한 댓글 환경 조성을 위해 AI 기술을 활용한 세이프봇 기능을 개발하여 활용하고 있습니다. 욕설 및 비속어, 
음란, 불법 키워드 등 게시물 운영 정책을 위반한 댓글을 AI 기술로 분석해 자동으로 가려주는 기능을 제공합니다. 
세이프봇은 기본적으로 ON 상태로 설정되어 있으며, 이용자의 선택에 따라 설정 옵션으로 기능의 사용 여부를 
선택할 수 있습니다.
유해 이미지 차단 머신러닝 기술
카카오는 2019년 if (kakao) 컨퍼런스에서 ‘성인 이미지 세계에서 살아남는 방법’이라는 제목으로 유해 이미지를 
단시간에 차단하기 위해 활용되는 AI 기술을 발표하였습니다. 기존 이미지의 해시(Hash)가 동일한 대상만을 
자동으로 처리하는 방식에서 시작하여 대상을 넓혀 학습을 진행하고 있으며, 머신러닝 기법 중 여러 모델의 결과를 
이용해 하나의 좋은 결과를 만드는 앙상블(Ensemble) 기법을 활용하여 성인(스팸) 이미지 추천 시스템을 개발 및 
적용하고 있습니다. 
디지털 안전 캠페인 추진
카카오는 이용자의 디지털 안전을 위한 다양한 캠페인을 운영하고 있습니다. 다음 포털에서 금융사기 예방, 피싱 
관련 검색어 입력 시 확인할 수 있는 ‘신종금융사기’ 예방 캠페인 페이지를 통해 온라인에서 지인, 금융기관, 
공공기관으로 사칭하여 개인정보나 금융 정보를 불법적으로 얻는 사기 행위, 악성 프로그램 및 악성코드를 통해 
개인정보를 탈취하거나 금융 정보를 조작해 돈을 탈취하는 사기 행위의 예방 및 대처 요령을 안내하고 있습니다. 
또한 ‘메신저 피싱’ 예방 캠페인을 통해 메신저 상에서 지인, 공공기관을 사칭하여 각종 정보를 얻거나, 이벤트나 
대출을 미끼로 계정 정보를 얻는 행위, 음란 화상 채팅 녹화 후 유포를 협박하며 금품을 탈취하는 행위 등의 예방 및 
대처 요령도 안내하고 있습니다. 더불어 카카오 브런치 채널에 공개한 ‘카카오톡을 안전하게 사용하는 법’ 캠페인을 
통해 카카오 계정을 요구하는 대표 사례와 탈취된 계정으로 일어날 수 있는 다양한 피해 사례를 소개하여 사용자가 
적합하게 대처할 수 있도록 안내하였습니다.
<유해 이미지 차단 머신러닝 기술>
1) Convolutional Neural Network의 약자로, 다층의 인공신경망에 필터링 기법을 적용하여 주로 시각적 이미지 분류에 활용되는 기술
2)   Optical Character Recognition의 약자로, 사람이 쓰거나 기계로 인쇄한 문자 이미지를 스캐너를 활용하여 기계가 읽을 수 있는 문자로 변환하는 광학 
문자 인식 기술
<콘텐츠 품질 관리 라이프사이클> 
비정상 가입 탐지
비정상 로그인 탐지
비정상 생성 탐지
품질 분석/ 
처리 시스템 
(자동)
&
운영센터 운영자 
(수동)
회원 가입
로그인
콘텐츠 작성
회원/계정 클린 
플랫폼
콘텐츠 클린 
플랫폼
이용자
검색 공개
신고자
공개 콘텐츠 모니터링
신고 콘텐츠 모니터링
완전 일치
이미지 필터
유사 이미지 
필터
정상/성인 
CNN1) 1차 
필터
정상/성인 
CNN 2차 
필터
불법/광고 
CNN 필터
사내 성인 
지수
이미지 레벨 시스템
앙상블
OCR2)
2021 카카오의 약속과 책임 
68
Introduction
Sustainable Management
Appendix
Our Commitments to a Better World
