인공지능(AI)을 이용해 제작한 콘텐츠는 표시를 의무화하는 법안이 발의됐다. 

국회 문화체육관광위원회 소속 이상헌 의원(더불어민주당 울산 북구)은 22일 위와 같은 내용을 골자로 하는 ‘콘텐츠산업 진흥법 일부개정법률안’을 대표 발의했다. 이 의원실은 “챗GPT, 미드저니 등의 생성형 AI 기술이 빠른 속도로 발전하면서, 이에 대한 적절한 규제가 필요하다”고 주장했다.
 
이 의원이 발의한 콘텐츠산업 진흥법 일부개정법률안은 텍스트, 이미지, 음악 등의 콘텐츠가 AI 기술을 이용해 만들어졌을 경우, 해당 콘텐츠가 AI 기술을 이용해 제작된 콘텐츠라는 사실을 표시하도록 하는 내용을 담고 있다. 이 의원실은 “개정안이 통과되면 사용자들이 (콘텐츠의) 진위여부를 알 수 있게 된다”며 “허위 정보로 인한 사회적 혼란이 방지될 것으로 보인다”고 전망했다.

이 의원실은 최근 온라인에서 화제된 사진과 동영상을 예시로 들었다.

이 의원실은 “최근 SNS에서 프란치스코 교황이 명품 패딩을 입고 산책하는 모습의 사진이 화제가 됐지만, 이는 AI를 이용해 만든 허위 이미지로 밝혀졌다. 지난 13일엔 트럼프 전 미국 대통령이 자신의 SNS 계정에 CNN 앵커가 바이든 대통령을 비난하는 영상을 올렸다. 이 또한 AI가 만든 가짜 영상이었다”고 설명했다.

이 의원은 입법 취지와 관련해 “인공지능 기술 발전 속도가 지나치게 빨라지면서 오·남용으로 인한 부작용이 우려되고 있다. 현재 유럽연합(EU)에서는 인공지능이 만든 콘텐츠에 표기를 의무화하는 규제안이 검토되고 있으며, 미국에서도 AI로 만든 정치 광고영상과 사진에 출처를 의무적으로 표기하도록 하는 법안이 발의되어 있는 상황”이라며 “한국도 AI 오·남용을 막기 위한 관리 방안을 마련하여 인공지능 시대의 규범적 틀을 확립해야 한다”고 말했다.

성기훈 기자 misha@kukinews.com