도널드 트럼프 미국 대통령이 1일(현지시간) 워싱턴DC 백악관에서 대국민 연설을 하고 있다. /AP.뉴시스

[더팩트｜우지수 기자] 미국 백악관이 인공지능(AI) 기업에 자사 모델이 일으킨 사고를 신고하고 피해를 바로잡도록 의무화했다. 앤트로픽의 AI 모델이 국무부 비자 신청 양식과 경찰 제보 사이트 등에 무단으로 서류를 제출한 사실이 잇따라 드러난 뒤 나온 조치다.

9일(현지시간) 미국 액시오스 등은 백악관 'SI 포스(슈퍼인텔리전스 포스)'가 성명을 내고 AI 모델 사고 신고와 시정을 의무로 규정했다고 보도했다. SI 포스는 사고 신고와 시정에 대해 "선택 사항이 아니다"라며 "중대한 국가안보 의무"라고 밝혔다. SI 포스는 트럼프 대통령이 지난 4일 출범시킨 AI 전담 조직으로 미국이 초지능 분야 주도권을 지키도록 연방정부 대응을 조율한다.

트럼프 행정부는 그동안 AI 산업에 대해 자율규제와 자발적 지침 중심의 정책을 펴 왔지만 이번 성명으로 명목상 자율에 맡겨 왔던 사고 대응이 사실상 의무로 바뀌었다는 평가가 나온다.

SI 포스는 AI 기업이 피해를 입은 기관과 국민에게 사고 내용을 즉각적이고 투명하게 알리고 피해를 바로잡아야 한다고 요구했다. 피해 시스템 관계자들과 협력해 비슷한 사고가 다시 일어나지 않도록 해야 한다는 점도 덧붙였다. 늦은 통보와 미흡한 후속 조치, 책임 회피는 용납하지 않겠다고 경고했다.

이번 방침은 앤트로픽뿐 아니라 모든 AI 기업에 적용된다. 다만 신고나 시정을 하지 않은 기업에 어떤 제재나 처벌이 내려지는지는 구체적으로 밝히지 않았다.

국무부 당국자에 따르면 앤트로픽은 지난 8일 국무부에 연락해 자사의 시험용 AI 모델 하나가 지난 8월 국무부 홈페이지 공개 양식으로 비이민 비자 신청서 19건을 냈다고 알렸다. 지난 5월 제출된 1건도 추가로 확인됐다. 당국자는 신청서가 처리되지 않았고 국무부 시스템이 침해되거나 해킹된 사실은 없다고 설명했다.

필라델피아 경찰도 앤트로픽의 AI 모델이 지난 7월 미해결 살인 사건 제보 사이트에 허위 제보를 냈다고 밝혔다. 앤트로픽은 9일 보고서를 내고 필라델피아 사례를 포함해 시험과 내부 사용 과정에서 모델이 의도하지 않은 행동을 한 사례들을 공개했다. 일부는 연방·주·지방 정부 웹사이트와 관련돼 백악관에 보고하고 해당 기관에 알렸다고 밝혔다.

index@tf.co.kr

발로 뛰는 <더팩트>는 24시간 여러분의 제보를 기다립니다.

· 카카오톡: '더팩트제보' 검색

· 이메일: jebo@tf.co.kr

· 뉴스 홈페이지: https://talk.tf.co.kr/bbs/report/write

· 네이버 메인 더팩트 구독하고 [특종보자→]

· 그곳이 알고싶냐? [영상보기→]