[탐사이다] 'AI가 왜 이래?'...보훈처도 당한 '부정확 정보'(영상)


보훈처, 고지전 영웅 김한준 대위를 AI사진으로 '하사' 강등
트럼프 경찰 체포 장면, 프란치스코 교황 패딩 착용도 가짜

[더팩트ㅣ윤웅 기자] 인공지능(AI)을 이용해 생성된 이미지가 실생활에 이용되기 시작하면서 부정확한 정보들로 혼란을 빚고 있습니다.

인공지능 기술들이 정부 기관과 예술, 광고, 게임 등 다양한 방면으로 활용되면서 노동 시간 단축과 새로운 시각 경험을 주는 등 생산성을 높이고 있지만, 부정확하고 안정성이 떨어지는 정보로 만들어진 이미지들이 문제가 되고 있습니다.

지난 11일 배포된 국가보훈처 보도자료 ‘6·25 참전 영웅 주거개선, 민·관이 힘 모은다’에 포함된 고 김한준 대위의 보도자료용 사진입니다.

그런데 김 대위의 옛날 사진으로 보이는 이 사진에 한 가지 이상한 점이 발견됐습니다, 바로 김 대위가 착용한 모자에 한국전쟁 당시 하사 약장이 달려 있는 것입니다.

국가보훈처가 고 김한준 대위 사진을 포함해 배포한 보도자료(좌측)와 논란이 일자 수정한 보도자료.

이 사진은 보훈처가 인공지능 기술을 이용해 옛 사진을 기반으로 복원한 인공지능 이미지인데, 김한준 대위가 아닌 김한준 하사로 복원된 것입니다.

결국 보훈처는 논란이 일자 해당 보도자료에 사진 부분을 삭제하고 이미 보도가 된 언론에 대체 이미지를 배포하면서 사건을 무마했습니다.

[전창배 국제인공지능윤리협회 이사장 : 아직 우리나라 정부에서도 개인정보, 인공지능, 학습용 데이터에 대한 게 명확하지 않은 거예요. 정확한 가이드라인이나 제도가 있어야 하는 상황인 거죠. 그런데 지금 법적인 어떤 제도가 전혀 없거든요. 하루속히 법을 제도화하는 논의를 시작해야 될 것 같고...]

이런 인공지능 이미지가 의도적으로 생산돼 거짓 정보로 퍼지는 경우도 있습니다.

지난 3월 도널드 트럼프 전 미국 대통령이 경찰에 체포되는 장면과 프란치스코 교황이 고급 브랜드 패딩 코트를 입고 있는 모습이 SNS를 통해서 공개되면서 마치 사실인 것처럼 퍼져나갔지만 결국 인공지능이 만든 이미지로 밝혀졌습니다.

‘2023 소니 월드 포토그래피 어워드’ 크리에이티브 부문에서 1위에 선정된 ‘가짜 기억:전기기술자’ 작품. 인공지능을 이용해 생성된 사실이 알려져 논란이 됐다.

또 인공지능 이미지는 예술계에도 영향을 주고 있습니다.

‘2023 소니 월드 포토그래피 어워드’에서는 독일 사진작가가 출품한 ‘가짜 기억:전기기술자’가 크리에이티브 부문에서 1위에 선정됐지만, 인공지능 이미지임을 고백하고 수상을 거부하자 예술가들 사이에서는 갑론을박이 펼쳐졌습니다.

[임준형 상명대학교 사진영상미디어전공 교수 : AI를 통해서 만들어진 창작물들이 보는 사람이 사람이 만든 것 이상으로 감동을 느끼거나 영감을 받는던가 수준이 된다면 추후에는 받아들이지 않을 이유가 없을 수 있지만, 어딘가 인터넷의 떠돌아다니는 각종 이미지 소스들에 대한 저작권을 따지지 않고 마음대로 사용하고 있는 상황이라서 그런 부분이 해결되지 않는 한 이게 당장 어떤 창작물로서 검증되지 않은 상황이라고 봅니다.]

이처럼 인공지능 이미지는 보도와 예술을 넘나들며 다양한 분야에서 정교함과 예술성을 인정받고 있지만 저작권 침해 여부와 개인정보 보호 문제, 성적 이미지 생성, 가짜 뉴스 생산 등 제도적 규제가 기술 발전의 속도를 따라가지 못하고 있는 것이 현실입니다.

인공지능의 오류를 개선하고 소비자의 신뢰를 얻기 위해 기업과 학자들은 다양한 시도를 하고 있습니다. 하지만, 우리 사회에서 ‘AI’의 부작용이나 역기능에 대한 논의가 아직은 부족한 상황입니다.

국민의 인권과 안전에 직결된 분야에서 오류 파악의 어려움이라는 한계를 극복하고, 이런 노력을 통해 국민의 신뢰를 얻을 수 있다면 진정한 의미의 인공지능 시대가 머지않아 열릴 것으로 보입니다.

<기획취재팀=이효균·배정한·윤웅 기자>


fastrain@tf.co.kr
기획취재팀 jebo@tf.co.kr

Copyright@더팩트(tf.co.kr) All right reserved.