텍스트 어뷰징 탐지 시스템

텍스트 어뷰징 탐지 시스템은 채팅, 커뮤니티 등에 있는 다양한 텍스트를 API를 통해 텍스트 어뷰징(금칙어, 스팸)을 탐지하고 이를 확인할 수 있는 시스템입니다.

특징

  • 탐지된 텍스트 위주로 검토할 수 있어 효율적인 모니터링이 가능합니다.
  • 묶음 처리로 하나의 문장뿐만 아니라 연속된 여러 문장에 걸친 금칙어도 효과적으로 탐지할 수 있습니다.
  • 범용적인 RESTful API를 제공하여 채팅을 비롯한 다양한 목적으로 사용할 수 있습니다. 

사전 준비 사항

Hive 콘솔에서 AI 서비스 > 어뷰징 탐지 > 텍스트 어뷰징 탐지 메뉴에 접근이 가능한지 확인하고, 접근이 불가능할 경우 Hive 콘솔 권한 관리 가이드의 권한 관리 가이드를 참고하여 메뉴 접근 권한을 부여 받아야 합니다.

텍스트 어뷰징 탐지 시스템 사용 방법

 

    • 사용량 통계: API 사용량을 시계열로 확인할 수 있습니다.
    • 탐지 결과 조회: 어뷰징 탐지 결과를 조회하고 신고 목록을 관리할 수 있습니다.
    • 프로젝트 관리: 프로젝트를 등록하고, 시스템을 활용하기 위한 설정을 할 수 있습니다.
    • 개인 설정: 백오피스 이용에 사용되는 기본값 설정들을 설정할 수 있습니다.
    • 백오피스 로그: 백오피스 사용 기록을 확인할 수 있습니다. 

사용량 통계

언어/게임/소스별 API 사용량을 시계열(분/시/일/월 단위)로 확인할 수 있습니다.

  • 검색 기간 설정

    • 검색 기간 동안의 사용량 지표를 제공합니다.
    • 집계 기간(분/시/일/월)을 선택할 수 있습니다.
    • 검색 기간: 현시점으로부터 최대 60일 전까지 선택할 수 있습니다.
  • 그래프와 통계표
    • 그래프: 검색 기간 동안의 언어, 게임, 소스별 API 사용량을 확인할 수 있습니다. 
    • 통계표: 그래프 하단의 드롭박스 버튼을 클릭하면 API 사용량을 수치로 확인할 수 있습니다. 
    • 언어별 시간당 사용량

    • 프로젝트별 시간당 사용량

    • 소스별 시간당 사용량

탐지 결과 조회

등록한 프로젝트의 어뷰징 탐지 결과를 조회하고 신고 목록을 관리할 수 있습니다.

  • 검색 기간, 프로젝트 명 조회

    • 검색 기간: 현시점으로부터 최대 60일 전까지 선택할 수 있습니다.
    • 프로젝트 명: 등록한 프로젝트 중 하나를 선택할 수 있습니다. 기본 설정은 “전체” 입니다
  • 그래프와 통계표

    • 그래프: 시간/일별로 어뷰징 탐지 결과를 확인할 수 있습니다. 
    • 통계표: 그래프 하단의 드롭박스를 클릭하면 시간/일별로 어뷰징 탐지 결과를 수치로 확인할 수 있습니다.
  • 원문 텍스트 조회

    • 어뷰징 탐지 결과를 원문과 함께 조회할 수 있습니다.
      • 텍스트 필터: 탐지 결과, 언어,텍스트 소스, 텍스트 타입을 선택해서 필요한 결과만 표시되도록 조회할 수 있습니다.
  • 검색 결과

    • 다운로드: 검색한 목록을 다운로드 할 수 있습니다.
    • 원문 보기: 선택한 텍스트를 기준으로 이전과 이후 텍스트들을 확인할 수 있습니다.
    • 신고: 선택한 텍스트를 아래의 신고 목록에 등록할 수 있습니다.
    • 완전 일치: 검색어와 완전하게 일치 시켜서 검색할 수 있습니다. 
  • 신고 목록 조회

    • 신고한 텍스트를 조회할 수 있습니다.
      • 텍스트 필터: 탐지 결과, 언어, 텍스트 소스를 선택해서 필요한 결과만 조회할 수 있습니다.
  • 검색 결과

    • 다운로드: 검색한 목록을 다운로드 할 수 있습니다.
    • 원문 보기: 선택한 텍스트를 기준으로 이전과 이후 텍스트들을 확인할 수 있습니다.
    • 삭제: 해당 텍스트를 신고 목록에서 제외합니다. 제외된 텍스트는 백오피스 로그에서 확인할 수 있습니다.
    • 완전 일치: 검색어와 완전하게 일치 시켜서 검색할 수 있습니다. 

프로젝트 관리

API를 사용할 프로젝트를 등록하고, 시스템을 활용하기 위한 다양한 설정을 할 수 있습니다. 

  • 프로젝트 등록

    • API를 사용할 프로젝트를 등록할 수 있습니다.
      • 프로젝트 명: 앱센터에 등록된 프로젝트를 선택할 수 있습니다. 앱센터 등록을 하지 않았더라도 직접 입력으로 텍스트 어뷰징 탐지 시스템을 활용할 수 있습니다.
      • 텍스트 소스: 기본 제공하는 텍스트 소스(채팅, 커뮤니티, 기타)를 사용할 수 있으며, 원하는 텍스트 소스가 없을 경우 직접 입력을 사용하여 생성할 수 있습니다
      • 탐지 설정: 어뷰징 탐지를 더 효과적으로 하기 위한 설정을 할 수 있습니다. 
        • 묶음처리 설정: 묶음 처리 기준을 설정할 수 있습니다.
        • 마스킹 설정: 금칙어를 대체할 문자를 설정할 수 있습니다. 
        • 광고 탐지 설정: 광고 탐지 기준을 설정할 수 있습니다.
      • 금칙어 설정: 사용할 금칙어를 설정할 수 있습니다.
        • 기본 금칙어 보기

          • 검색: 원하는 금칙어의 포함 여부를 빠르게 알아볼 수 있습니다.
          • 다운로드: 기본 금칙어 리스트를 다운로드 할 수 있습니다. 
  • 탐지 설정

    • 등록한 프로젝트의 탐지 설정을 변경할 수 있습니다.
      • 탐지 설정: 어뷰징 탐지를 더 효과적으로 하기 위한 설정을 변경할 수 있습니다.
        • 묶음처리 설정: 묶음 처리 기준을 변경할 수 있습니다.
        • 마스킹 설정: 금칙어를 대체할 문자를 변경할 수 있습니다. 
        • 광고 탐지 설정: 광고 탐지 기준을 변경할 수 있습니다.
      • 금칙어 설정: 기존에 등록한 금칙어를 변경할 수 있습니다.
  • 키 관리

    • 프로젝트 등록 후 발급 받은 프로젝트키와 암호키를 관리할 수 있습니다.
      • 프로젝트키/암호키 재발급: 발급 받은 프로젝트키/암호키를 재발급 받을 수 있습니다. 
    • 프로젝트키/암호키는 텍스트 어뷰징 탐지 API에서 사용할 수 있습니다.
  • 최근 로그

    • 최근 입력된 10개 텍스트를 확인할 수 있습니다.
  • 삭제
    • 등록한 프로젝트를 삭제할 수 있습니다. 

개인 설정

초기 페이지 및 검색 필터를 설정할 수 있습니다.

  • 최초 진입 페이지 설정
    • 최초 진입 시 페이지를 설정할 수 있습니다.
  • 사용량 통계 설정
    • 기본 탭: 최초 진입시 먼저 볼 화면을 설정할 수 있습니다.
    • 기간당 검색 기간: 기본으로 선택되는 검색 기간을 설정할 수 있습니다. 기준은 페이지 진입 시점입니다.
  • 탐지 결과 조회 설정
    • 전체
      • 검색 기간: 기본으로 선택되는 검색 기간을 설정할 수 있습니다. 
      • 프로젝트: 페이지 진입 시에 노출 되는 프로젝트를 설정할 수 있습니다. 
      • 탐지 결과 집계: 페이지 진입시 탐지 결과 집계에 대한 노출 여부를 설정할 수 있습니다. 
    • 원문 텍스트 조회/신고 목록 조회
      • 언어: 초기 언어를 설정할 수 있습니다.
      • 탐지 결과: 초기 탐지 결과를 설정할 수 있습니다. 
      • 텍스트 소스: 초기 텍스트 소스를 설정할 수 있습니다.
      • 텍스트 타입: 초기 텍스트 타입을 설정할 수 있습니다. 

백오피스 로그

권한 내 백오피스 사용 이력을 확인할 수 있습니다.

    • 검색 기간: 로그를 확인할 기간을 설정할 수 있습니다.
    • 작업 내용: 작업 내용을 필터링 해서 로그를 확인할 수 있습니다.