빨라지는 확산 속도에 '규제'만으론 역부족?
"규제 완화 시 더 큰 문제 생길 수도"
[더팩트ㅣ국회=이하린 기자] 6·3 지방선거를 앞두고 숏폼 플랫폼이 정치인들의 무대로 떠오른 가운데, 인공지능(AI) 기술을 활용한 딥페이크 영상의 온라인 확산 속도를 고려하면 '규제 위주'의 현행법만으로는 실효성에 한계가 있다는 지적이 나온다.
공직선거법 제82조8에서 선거일 90일 전부터 선거일까지 선거 운동 목적의 딥페이크의 제작과 편집, 유포·상영·게시를 전면 금지하고 있다. 이번 지선 기준 내달 5일부터 6월 3일까지다. 이외 기간에도 'AI로 만든 가상의 정보'임을 명확히 알 수 있도록 표시해야 한다.
딥페이크 영상임을 표시하지 않고 당선될 목적으로 후보자나 후보자가 되고자 하는 자에게 유리한 허위사실을 공표한 사람의 경우 5년 이하의 징역 또는 5000만 원 이하의 벌금에 처해질 수 있다.
실제로 한 입후보 예정자인 A 씨가 '외국의 유명 시사 주간지에서 ○○의 발전을 이끌 인물로 A를 선정했다' 등의 내용을 AI로 허위의 딥페이크 영상을 제작해 사회관계망서비스(SNS)에 게시했다. 선관위는 지난 9일 A 씨를 공직선거법 위반 혐의로 경찰에 고발했다.
최근 AI 확산 속도가 빨라지고 제작물의 완성도까지 높아지는 상황에서 규제 중심의 현행법만으로는 한계가 있다는 지적이 나온다. '숏폼' 콘텐츠가 단기간 내 반복·재생산되며 급속히 확산하는 만큼, 온라인 플랫폼 운영자에게도 알고리즘에 대한 시스템 관리 책임을 부여하는 등의 제도 보완이 필요하다는 것이다.
규제 위주의 법안이 '표현의 자유' 침해 논란이 맞물리면서 추가 논의가 필요하다는 목소리에 힘이 실리고 있다. 시민단체 오픈넷은 지난해 10월 공직선거법 제82조8 등을 대상으로 헌법소원을 제기했다. '90일 전면 금지'가 내용의 진위나 당사자 동의, 표시 여부와 무관하게 기술만을 이유로 일괄 차단한 것은 과도하다는 취지다.
국회에서도 실효성 확보를 위한 법안 손질 필요성이 제기되고 있다. 최근 차지호 더불어민주당 의원 등은 '표시 의무화' 및 '투명성 확보 및 유통 관리' 중심으로 관리 체계를 전환하는 공직선거법 일부개정법률안을 발의했다. '전면 금지' 중심 규제가 기술 발전 속도에 비추어 '실효성'에 한계가 있다는 판단에서다. 이들은 AI 표시 의무를 통해 투명성을 보장하는 한편, 플랫폼 운영자에게도 알고리즘 관리 노력을 부여하는 방향이 디지털 시대에 부합한다고 봤다.
다만, 일각에서는 실효성 논란만으로는 규제를 느슨하게 해선 안 된다는 반론도 나온다. 신율 명지대 정치외교학과 교수는 통화에서 "숏폼의 진위를 국민이 일일이 확인하지 않기 때문에 조작된 허위 정보를 그대로 신뢰할 가능성이 높다"며 전면 금지의 필요성을 강조했다. 이어 신 교수는 "실효성에 문제가 있다고 해서 규제를 완화하면 오히려 더 큰 문제가 발생할 수 있다"고 지적했다.
- 발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.
- · 카카오톡: '더팩트제보' 검색
- · 이메일: jebo@tf.co.kr
- · 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write
- · 네이버 메인 더팩트 구독하고 [특종보자→]
- · 그곳이 알고싶냐? [영상보기→]