분과 및 소위원회
기술 분과
기술 분과란?
기술 분과는 새로운 IT 기술에 관한 자율규제의 니즈를 충족하고자 구성되었습니다. 신기술, AI 등 새로운 자율규제 영역을 발굴하고자 합니다.
기술 분과는 현재 자율규제 DB 소위원회와 신기술 소위원회로 구성되어 있습니다.
분과 구성
자율규제 DB 소위원회는 이전 정책위원회 산하의 온라인 청소년 보호체계 구축위원회의 활동을 이어 받아 수행합니다.
욕설 DB, 청소년보호검색어 DB, 음란 이미지 DB 등 다양한 기술적 조치를 통해 이용자 보호를 수행합니다.
신기술 소위원회는 알고리즘 검증 등 새로운 기술에 대한 규제 가이드라인을 마련하고 IT기업과 협력해 자율규제의 외연을 확대해 나갑니다.
자율규제 DB 소위원회
자율규제 DB 소위원회는 건강한 인터넷 문화 조성을 위해 데이터베이스(DB)에 기반한 서비스 및 자료 구축, 심의활동을 수행하고 있습니다. KISO 욕설 방지 시스템(KSS, KISO Safeguard System)은 회원사를 통해 자체 구축한 약 80만건의 DB를 API화 해 여러 정부 및 공공기관, 언론사, 기업 등에 제공하고 있습니다. 또한 청소년 보호를 위한 정책으로 ‘청소년 보호 검색어’를 심의하고 지정(또는 해제)합니다. 이는 청소년에게 유해한 검색 결과가 노출되지 않도록 하기 위함이며, 청소년 보호 검색어 DB로 관리되고 있습니다.
자율규제 DB란?
자율규제 DB란 KISO 자율규제 DB 소위원회에서 구축·운영하며 회원사에 제공하는 데이터베이스(DB)를 말합니다.
KISO는 다양한 플랫폼 환경에서의 이용자 보호와 건전한 정보 유통을 지원하기 위해 욕설·비속어 DB, 청소년 보호 검색어 DB 등 다양한 자율규제 DB를 운영하고 있으며, 회원사의 수요와 사회적 환경 변화를 반영하여 지속적으로 DB를 확대·고도화하고 있습니다.
자율규제 DB의 구축 및 운영 방향은 외부 전문가와 회원사가 참여하는 자율규제 DB 소위원회를 통해 논의·결정됩니다.
욕설·비속어 DB
자율규제 DB 소위원회는 회원사가 제공한 욕설·비속어 정보를 수집·분류하여 욕설·비속어 DB를 구축하였으며, 현재 약 80만 건의 욕설 및 비속어 데이터를 보유하고 있습니다. 해당 DB는 지속적인 수집과 검증을 통해 품질을 관리·개선하고 있습니다.
또한 KISO는 욕설·비속어 DB를 기반으로 KISO 욕설 방지 시스템(KSS, KISO Safeguard System) 을 운영하고 있습니다. KSS는 문장 내 금칙어 포함 여부를 신속하게 판별할 수 있도록 지원하며, 검사 결과에 대한 통계 기능을 제공하여 참여사의 다양한 서비스 환경에서 효율적으로 활용할 수 있도록 설계되어 있습니다.
청소년 보호 검색어 DB
청소년 보호 검색어 DB는 회원사 협의를 통해 청소년에게 유해할 수 있는 표현을 수집·정리하여 구축한 데이터베이스입니다.
해당 DB는 성인·음란 콘텐츠 관련 표현, 청소년 유해약물·물건·업소 관련 표현, 사행성 및 불법행위 조장 표현, 잔혹·혐오성 표현 등 청소년 보호가 필요한 키워드를 중심으로 구성되어 있으며, 회원사는 각 서비스의 운영 정책에 따라 이를 활용할 수 있습니다.
신기술 소위원회
신기술 소위원회는 생성형 인공지능(AI) 등 새로운 기술에 대한 규제 가이드라인을 마련하고 IT기업과 협력해 자율규제의 외연을 확대해 나갑니다. 국내 최초로 챗봇 윤리 가이드라인을 마련해 챗봇 서비스의 신뢰도를 높이고 윤리적 문제에 대응하는 기준을 설립했습니다.