[더팩트ㅣ박지웅 기자] 토스증권이 투자자 보호와 건전한 소통 환경 조성을 위해 커뮤니티에 인공지능(AI) 기반 게시글 검수 체계를 도입했다.
4일 토스증권에 따르면 새롭게 도입한 AI 검수 모델은 게시글 작성 또는 수정 이후 제목과 본문, 이미지를 자동으로 분석한다. 욕설과 비방, 혐오·차별 표현은 물론 불법 리딩방 홍보 등 부적절한 콘텐츠를 탐지하고 위반 정도에 따라 게시글 추천 제외나 숨김 등의 조치를 적용한다.
기존 금지어 중심의 필터링 방식도 개선했다. AI를 활용해 금지어의 우회·변형 표현까지 탐지하고, 금지어가 포함된 경우 게시글 전체를 제한하는 대신 해당 표현만 마스킹 처리하도록 했다. 이를 통해 게시글 작성 단계의 필터링과 작성 이후 AI 자동 검수로 이어지는 이중 검수 체계를 구축했다.
커뮤니티 운영 기준도 강화했다. 토스증권은 욕설과 유해 콘텐츠, 불법 광고, 시장질서 교란 행위 등에 대한 제한 및 제재 기준을 담은 '커뮤니티 서비스 콘텐츠 가이드라인'을 신설했다. 게시글 숨김 조치 시에는 제재 내용을 안내하고 고객센터를 통한 이의제기 절차도 제공한다.
토스증권 관계자는 "이번 개선은 투자자들이 불쾌감을 주는 게시글이나 부적절한 투자 권유에 노출되는 것을 줄이고, 보다 신뢰할 수 있는 환경에서 소통할 수 있도록 하는 데 초점을 맞췄다"며 "앞으로도 투자자들이 유용한 정보를 나누고 다양한 의견을 교환할 수 있도록 커뮤니티 환경을 지속 개선해 나가겠다"고 말했다.
- 발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.
- · 카카오톡: '더팩트제보' 검색
- · 이메일: jebo@tf.co.kr
- · 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write
- · 네이버 메인 더팩트 구독하고 [특종보자→]
- · 그곳이 알고싶냐? [영상보기→]