허위정보·딥페이크·알고리즘 차별 불안 여전
[더팩트ㅣ조성은 기자] 인공지능(AI) 기술이 소비자의 일상에 빠르게 자리 잡고 있으나, 기술에 대한 소비자 신뢰는 이에 미치지 못하는 것으로 나타났다. 특히 소비자 10명 중 8명은 AI로 인한 사고 발생 시 기업이 책임을 회피할 것을 우려하고 있었다.
16일 한국소비자연맹이 AI 이용 경험이 있는 전국 소비자 1000 명을 대상으로 실시한 종합 인식조사 결과에 따르면, 전체 응답자의 82.5%는 AI 사고나 피해 발생 시 기업이나 기관이 'AI 자동 판단'을 이유로 책임을 회피하거나 책임 소재가 불분명해질 수 있다고 답했다. 이에 따라 기업이 AI의 기능과 한계, 위험성을 소비자에게 사전에 명확히 설명하도록 의무화해야 한다는 응답은 90.2%에 달했다.
또한 AI 챗봇 상담으로 문제가 해결되지 않을 경우 실제 사람 상담원과 연결할 수 있는 권리가 필요하다는 응답도 85.4%를 기록해, '설명 없는 AI'와 '책임 없는 AI'에 대한 소비자의 경계심이 높은 것으로 분석됐다.
조사 결과 소비자의 AI 이용률은 이미 상당한 수준에 도달했다. 응답자의 42.2%가 AI를 '거의 매일 사용한다'고 답했고, '주 2~3회 이상 이용한다'는 응답은 26.1%였다. 전체의 68.3%가 상시적으로 AI 서비스를 이용하는 셈이다. 유형별로는 생성형 AI 이용률이 67.4%, AI 검색·요약 서비스 이용률이 57.8%로 집계됐다.
기술 발전 자체에 대해서는 긍정적인 평가(60.8%)가 우세했으나, AI가 내리는 판단과 결과물에 대해서는 불안감이 컸다.
소비자들은 가장 치명적인 AI 소비자 피해(중복응답)로 'AI 할루시네이션(환각·그럴듯한 거짓말)으로 인한 오인 및 선택 왜곡'(56.8%)을 첫손에 꼽았다. 이어 '책임 소재 불명확'(30.6%), 'AI 시스템 오작동으로 인한 신체·재산 피해'(22.8%) 순이었다.
특히 응답자의 44.6%는 AI가 생성한 콘텐츠를 스스로 판별하기 어렵다고 답해 허위 정보 노출에 무방비한 상태인 것으로 나타났다. 소비자가 실제로 경험한 문제(중복응답) 역시 허위 정보·가짜뉴스(488건), 딥페이크 범죄 악용(465건), 개인정보 수집 및 유출(370건), AI 사고 시 책임 불명확(358건) 순으로 많았다.
AI 알고리즘을 활용한 맞춤형 서비스에 대한 거부감도 확인됐다. AI가 소비자의 구매 이력, 검색 기록, 소득 수준 등을 분석해 개인마다 다른 가격이나 광고를 제시하는 '알고리즘 가격차별'에 대해 응답자의 41.6%가 부정적인 반응을 보였다. AI 알고리즘의 편향된 판단 가능성을 우려한다는 응답도 57.9%에 달했다. 과거와 달리 자신이 왜 더 비싼 가격을 제안받았는지 과정 자체를 알 수 없는 '보이지 않는 차별'에 대한 불안이 반영된 결과다.
AI 서비스의 유료화 추세도 새로운 사회적 문제로 지적됐다. 응답자의 35.6%는 AI 유료 서비스 비용에 부담을 느끼고 있었으며, 71.9%는 "AI 유료화 확대가 새로운 디지털 격차를 심화시킬 수 있다"고 우려했다. 과거의 디지털 격차가 인터넷 접근 여부였다면, 앞으로는 고성능 AI 접근 가능 여부에 따라 사회적 불평등이 발생할 수 있다는 관측이다.
소비자들은 AI 시대에 보장받아야 할 주요 권리로 정보 이용 투명성(72.2%), 정보 삭제·수정권 등 정보 통제권(55.6%), 피해보상권(53.6%), 개인정보 활용 여부 자율 결정권(51.3%) 등을 요구했다.
AI 자동화 의사결정과 관련해 우선 보장받아야 할 권리로는 개인정보 삭제 요구권(46.6%)과 더불어, AI의 판단을 사람이 다시 검토하도록 하는 '인간 재검토 요구권'(41.8%), 대규모 피해 발생 시 유용한 '집단구제권'(36.7%)을 꼽았다.
이에 따라 정부와 국회가 우선 추진해야 할 정책으로도 딥페이크·허위정보 규제(52.8%)와 함께 'AI 책임 기준 명확화'(50.1%)가 가장 높은 순위를 차지했다.
한국소비자연맹 관계자는 "이번 조사는 소비자들이 AI를 거부하는 것이 아니라 '책임 없는 AI'를 거부하고 있다는 점을 보여준다"며 "AI 시대 소비자보호 정책이 단순한 기술 확산을 지원하는 데 그쳐서는 안 된다"고 했다. 그러면서 "소비자가 AI를 신뢰하고 안심하고 이용할 수 있도록 투명성, 책임성, 공정성을 제도적으로 보장하는 방향으로 정책의 정심이 전환돼야 한다"고 강조했다.
- 발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.
- · 카카오톡: '더팩트제보' 검색
- · 이메일: jebo@tf.co.kr
- · 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write
- · 네이버 메인 더팩트 구독하고 [특종보자→]
- · 그곳이 알고싶냐? [영상보기→]