채팅 어뷰징 탐지 사용 가이드

채팅 어뷰징 탐지 시스템 소개

게임 채팅에서 발생한 내용 중 어뷰징(욕설, 스팸, 특수문자, 마스킹¹) 내용을 탐지하여 확인할 수 있는 기능입니다.
※ 톡플러스 필터에서 금칙어를 치환으로 설정하면 채팅 어뷰징 탐지 시스템에서는 마스킹¹으로 탐지합니다.

마스킹¹: 채팅 시스템에서 금칙어 기준에 따라 특수 문자로 대체한 기호.

특징

  • 어뷰징 채팅 후보 위주로 볼 수 있어 채팅 모니터링을 효율적으로 할 수 있습니다.
  • 일정 시간 내에 입력한 여러 건의 채팅을 하나의 묶음으로 처리하여 보다 정확한 어뷰징을 탐지할 수 있습니다.
  • 16개 언어¹를 지원하고, 한국어는 어뷰징 점수를 함께 제공합니다.

    언어¹: 독일어, 러시아어, 말레이시아어, 베트남어, 에스파냐어, 영어, 이태리어, 인도네시아어, 일본어, 중문간체, 중문번체, 태국어, 터키어, 포르투갈어, 프랑스어, 한국어

사전 준비 사항

  • 채팅 어뷰징 탐지 기능이 회사에서 사용하는 채팅 시스템을 지원하는지 확인합니다.
    • 현재는 Hive 톡플러스만 지원합니다.
    • 회사에서 사용하는 채팅 시스템에서 CLCS¹ API를 이용하여 연동할 수 있습니다.
  • Hive 콘솔에서 채팅 어뷰징 탐지 메뉴에 접근하기 위해서는 Hive 콘솔 권한 관리 가이드의 권한 관리 가이드와 개인정보 처리 권한 관리 가이드를 참고하여 채팅 데이터의 조회를 위한 개인정보 처리 권한과 메뉴 접근 권한을 부여 받도록 합니다.

CLCS¹ : AI 서비스의 채팅 로그 수집 시스템(Chatting Log Collection System)의 약자입니다.

채팅 어뷰징 탐지 시스템 게임 적용 방법 

Hive 톡플러스

  1. Hive 톡플러스 기본 설정을 완료합니다.
  2. Hive 톡플러스에서 채팅 어뷰징 탐지 기능 적용하기를 참고하여 설정을 완료합니다.
  3. 사전 준비 사항과 위의 사항이 완료되었다면 Hive 콘솔 > AI 서비스 > 채팅 어뷰징 탐지 메뉴의 관리 탭에서 아래 그림처럼 목록에 게임이 등록된 것을 확인할 수 있습니다.
    • 활성화한 후 최초 채팅을 탐지하는데 약 5~10분 소요됩니다.

CLCS

  1. CLCS 가이드를 참고하여  Hive 콘솔 > AI 서비스 > 채팅 어뷰징 탐지 메뉴의 게임 관리 탭에서 게임을 등록합니다.
  2. 암호키 버튼을 클릭하여 게임키와 암호키를 확인합니다. 암호키는 CLCS API 통신 암호화를 위하여 사용 됩니다.
  3. 등록한 게임을 활성화 하고, CLCS API 가이드 문서를 참고하여 채팅 로그를 전송합니다.
    • 활성화한 후 최초 채팅을 탐지하는데 약 5~10분 소요됩니다.

채팅 어뷰징 탐지 시스템 사용 방법

  • 메뉴 위치: Hive 콘솔 > AI 서비스 > 채팅 어뷰징 탐지
  • 채팅 어뷰징 탐지 기능 구성
    1. 요약: 언어별, 게임별 채팅 수를 지표로 볼 수 있습니다.
    2. 언어: 한국어, 영어, 다국어(영어를 포함한 한국어 외의 언어)에 대한 대시보드를 볼 수 있습니다.
    3. 개인설정: 로그인 한 사용자의 초기 페이지 및 기본 필터를 설정할 수 있습니다.
    4. 게임 관리: 게임 목록과 기능에 대한 사용 현황을 볼 수 있습니다.
    5. 백오피스 로그: 게임 관리에서 관리자가 수정한 내용을 볼 수 있습니다.

요약

  • 언어별, 게임별 채팅 수를 확인할 수 있는 페이지입니다. 검색 기간 조건에 따른 요약 및 지표를 제공합니다.
  • 그래프로 마우스를 옮기면 각 날짜의 언어/게임 별 채팅 수를 확인할 수 있습니다.
  • 대상기간: 현 시점으로부터 최대 60일 전까지 선택할 수 있습니다.
  • 언어별 일별 처리 채팅 수
  •  게임별 채팅 카운트 비율

한국어, 영어, 다국어

  • 게임 채팅에 관련된 지표를 확인할 수 있는 페이지입니다. 대상 기간과 게임 서버에 따른 지표를 제공합니다.
  • 대시보드
    • AI가 분류한 총 12개의 채팅 패턴(세그먼트)에 대한 기간 지표를 제공합니다.
    • 검색 조건 선택
      • 검색 기간: 현 시점으로부터 최대 60일 전까지 선택할 수 있습니다.
      • 채팅 서비스: 채팅 서비스를 선택할 수 있습니다. 기본 설정은 “전체” 입니다.
      • 언어: 다국어의 경우, 언어를 선택할 수 있습니다.
  • 그래프

    • 좌측 [세그먼트 표]: 총 12개의 세그먼트 분류 기준을 1,0으로 표기하고 있고, 각 세그먼트에 대한 채팅수와 유저수를 보여줍니다. (0: 비해당, 1: 해당)
    • 우측 [시계열 그래프]: 좌측 [세그먼트 표]를 [검색 기간] 중 일별 시계열 그래프로 확인할 수 있습니다.  그래프로 마우스를 옮기면 각 날짜의 세그먼트 별 채팅 수를 확인할 수 있습니다.
  • 묶음 채팅표
    • 유저가 특정 문장 혹은 단어를 채팅창에 입력 시 모니터링을 피하기 위한 목적으로 파편화하여 개행한 경우를 검출하기 위한 기능입니다. 
    •  연속된  채팅을 묶어 하나의 채팅으로 만들어서 제공하고 있습니다. 
    • 검색 조건 선택
      • 검색 기간: 현 시점으로부터 최대 60일 전까지 선택할 수 있습니다.
      • UID: 채팅 목록의 UID 컬럼에 있는 게임 유저의 식별자 정보를 선택할 수 있습니다. 
      • 채팅 서비스: 게임 서버를 선택할 수 있습니다. 기본 설정은 “전체” 입니다. 
      • 채팅 모드: 채팅 모드를 선택할 수 있습니다. 기본 설정은 “전체” 입니다.

톡플러스 – 채팅 어뷰징 탐지 시스템 채팅 모드 매칭표

톡플러스 채팅 모드 채팅 어뷰징 탐지 시스템 채팅 모드
public 일반 채팅 (200)
broadcast 일반 채팅 (200)
super_public 일반 채팅 (200)
invitationOnly 길드 채팅 (300)
private 귓속말 (600)
super_private 귓속말 (600)
      •   마스킹, 스팸성, 특수조합, 비매너: 4가지 기준에 대해서 선택할 수 있습니다(0: 비해당, 1: 해당). 기본 설정은 “전체” 입니다. 개인 설정의 필터 설정에서 기본값을  변경할 수 있습니다.
      • 대상 묶음: 묶음 번호를 선택할 수 있습니다.
      • 비매너 점수:  인공지능 모델이 추론한 비매너 점수를 선택할 수 있습니다. 기본 설정은 “전체” 입니다.
    • 검색 결과
      •  다운로드: 검색한 목록을 다운로드 할 수 있습니다. 다운로드 사유 입력 후, 개별 파일 및 전체 파일 다운로드가 가능합니다.

      • 비매너 태깅: 묶음 채팅의 내용에 대한 비매너 여부를 태깅 해놓을 수 있습니다.
      • 개별 채팅표 보기: 묶음 채팅으로 묶인 개별 채팅 내역을 확인할 수 있고, 개별 채팅 및 전체 목록을 신고할 수 있습니다.

  • 개별 채팅표
    • 개별 채팅의 세그먼트 정보를 파악할 수 있습니다.
    • 묶음 채팅의 원본을 확인할 수 있습니다.
    • 검색 조건 선택
      • 검색 기간: 현 시점으로부터 최대 60일 전까지 선택할 수 있습니다.
      • UID: 채팅 목록의 UID 컬럼에 있는 게임 유저의 식별자 정보를 선택할 수 있습니다. 
      • 채팅 서비스: 게임 서버를 선택할 수 있습니다. 기본 설정은 “전체” 입니다. 
      • 채팅 모드: 채팅 모드를 선택할 수 있습니다. 기본 설정은 “전체” 입니다.

톡플러스 – 채팅 어뷰징 탐지 시스템 채팅 모드 매칭표

톡플러스 채팅 모드 채팅 어뷰징 탐지 시스템 채팅 모드
public 일반 채팅 (200)
broadcast 일반 채팅 (200)
super_public 일반 채팅 (200)
invitationOnly 길드 채팅 (300)
private 귓속말 (600)
super_private 귓속말 (600)
      • 마스킹, 스팸성, 특수조합, 비매너: 4가지 기준에 대해서 선택할 수 있습니다(0: 비해당, 1: 해당). 기본 설정은 “전체” 입니다. 개인 설정의 필터 설정에서 기본값을  변경할 수 있습니다.
      • 대상 묶음: 묶음 번호를 선택할 수 있습니다.
    • 검색 결과
      •  다운로드: 검색한 목록을 다운로드 할 수 있습니다. 다운로드 사유 입력 후, 개별 파일 및 전체 파일 다운로드가 가능합니다.

      • 신고용 이력 저장: 신고 이력을 저장할 수 있습니다.
  • 신고용 이력 조회
    • 신고용 이력 저장에서 저장한 내용을 확인하고 다운로드할 수 있습니다.
    • 검색 조건 선택
      • 검색 기간: 채팅 시간 기준 최대 과거 60일까지 선택할 수 있습니다.
      • 채팅 서비스: 게임 서버를 선택할 수 있습니다. 기본 설정은 “전체”입니다. 
      • UID: 유저 ID 정보를 선택할 수 있습니다.
        • 다중 선택: 1111,2222,3333, …
      • 채팅 모드: 채팅 모드를 선택할 수 있습니다. 기본 설정은 “전체”입니다. 
      • 채널 번호: 방 번호를 선택할 수 있습니다.
        • 다중 선택: 1-10
      • 대상 이력: 이력 번호를 선택할 수 있습니다.
    • 검색결과
      • 다운로드: 검색한 목록을 다운로드 할 수 있습니다. 다운로드 사유 입력 후, 개별 파일 및 전체 파일 다운로드가 가능합니다.

개인 설정

  • 로그인 한 사용자의 초기 페이지 및 기본 필터를 설정할 수 있습니다.

게임 관리

  • 채팅 어뷰징 탐지 시스템에 등록한 게임을 활성화 및 삭제할 수 있습니다.
    • 신규 게임 등록 (CLCS 타입)
      • 게임: 앱센터에 등록된 게임을 선택할 수 있습니다.
      • 채팅 서비스 이름: 채팅 어뷰징 탐지 시스템에서 사용할 서비스 이름입니다.
      • 언어: 앱센터에 등록된 게임의 언어 중, 채팅 어뷰징 탐지 시스템에 등록할 언어를 선택할 수 있습니다.
        ※ 톡플러스 타입은 Hive 톡플러스를 통해 등록할 수 있습니다.
      •  옵션
        • 톡플러스 관리 : Hive 톡플러스 > 톡플러스 대시보드로 이동합니다.
        • 암호키 확인 : CLCS에 채팅을 전송하기 위한 게임키와 암호키를 확인할 수 있습니다.
      • 최근 로그
        • CLCS 타입의 채팅 서비스는 최근 10개의 채팅 로그를 확인할 수 있습니다.

          ※ 채팅 로그는 최대 30글자까지 확인할 수 있습니다.
    • 활성화: 즉시 채팅 어뷰징 탐지를 시작합니다.
    • 비활성화: 즉시 채팅 어뷰징 탐지를 중지합니다. 언제든  활성화 할 수있습니다.
    • 삭제: 즉시 채팅 어뷰징 탐지를 중지하고, 채팅 서버 정보를 삭제합니다.

백오피스 로그

  • 게임 관리에서 등록, 활성화, 삭제한 이력을 확인할 수 있습니다.