- AI로 만든 정보임을 표시하여 딥페이크 식별 및 위험 예방 필요성 강조

▲대한민국국회

국회입법조사처(처장 박상철)는 10월 18일(금), 딥페이크 식별을 위한 AI 생성물 표시 의무 입법 방안을 담은 '이슈와 논점' 보고서를 발간했다고 밝혔다.

딥페이크는 인공지능(AI)으로 만든 가상의 정보이지만, 실제 사실처럼 정교해 사람들이 가짜임을 구분하기 어렵다. 이에 따라 AI로 만든 정보임을 표시하여 사람들이 딥페이크를 쉽게 식별하고 위험을 예방할 필요가 있다.

이에 보고서는 현재 시행 중인 유럽연합 '인공지능법'과 미국 「인공지능 행정명령」, 국내에 발의된 다수의 인공지능 법안 내용을 기반으로 AI로 만든 정보임을 표시하도록 하는 입법 방안을 모색했다.

첫째, 표시 의무 적용 범위는 ‘AI로 생성한 콘텐츠’로 설정하여 명확성을 높이고, 대신 피해 가능성이 낮은 분야는 예외로 설정하는 것이 적절하다.

둘째, AI 모델을 개발・판매하는 자에게는 기계 판독 가능한(machine-readable) 메타정보 제공과 같은 식별 가능성 확보 의무를 부과하고, AI 모델을 자신의 제품・서비스에 활용하는 자에게는 AI로 생성된 정보임을 표시하는 의무를 부과하여 딥페이크의 대량생산에 대응하는 것이 필요하다.

셋째, 정부는 AI 생성물 표시 제도의 정착을 위해 관련 기술의 개발, 국제협력, 국민의 디지털 리터러시 함양을 지원해야 할 것이다.

국회입법조사처는 이번 보고서를 통해 AI 생성물 표시 의무 입법 방안을 제시함으로써 딥페이크로 인한 사회적 혼란과 개인의 피해를 예방하고, 디지털 시대의 신뢰성을 높이는 데 기여할 것으로 기대하고 있다.