등장인물은 가짜, 혐오는 진짜…SNS 파고든 AI 여성비하 콘텐츠

SNS에서 인공지능(AI)을 활용해 여성을 성적대상화하거나 비하하는 콘텐츠가 확산하고 있다. AI로 가상의 여성 이미지를 생성, 손쉽게 제작·배포해 문제가 크다는 지적이다.

10일 기준, 여성의 신체 일부를 부각하는 한 인스타그램 게시물의 조회수는 289만회에 달한다. AI로 제작된 영상이다. 개설된 지 두달이 채 되지 않은 해당 계정의 팔로워는 4만8000명 수준이다. 계정 프로필에는 ‘AI 크리에이터’ 등 설명이 기재됐고, ‘AI’ 해시태그를 달아 가상의 영상임을 알 수 있도록 했다.

이 계정은 지하철 탑승객 등 일상에서 흔히 마주치는 여성을 소재로 삼았다. 대중교통에 탑승한 여성들이 선정적인 의상을 입거나 성적인 자세를 취하는 AI 영상을 주기적으로 올렸다. 하루 평균 2개의 게시물을 지속적으로 업로드 중이다. 60여개의 영상 중 23개는 조회수 10만회를 넘겼다.

AI를 활용, 여성을 성적대상화한 게시물을 올리는 계정은 더 있다. 지난 6월17일에 만들어진 또 다른 계정은 여성들이 스튜디오처럼 보이는 공간에서 성적인 포즈를 취하고 있는 AI 이미지를 지속해 업로드하고 있다. 팔로워 수는 3만3000명이다.

AI를 활용해 특정 직업군에 종사하는 여성을 희화화하는 콘텐츠도 있다.

지난 4월 유튜브에는 AI로 생성된 여성 경찰이 등장하는 ‘넌센스 퀴즈’ 숏츠 영상이 업로드됐다. 영상은 세명의 여성 경찰이 허리춤에 손을 얹은 채 웃는 얼굴로 춤을 추며 시작된다. 춤을 추던 여성 경찰들은 남성 경찰이 등장하자 허둥지둥하며 자리로 돌아간다. 해당 콘텐츠는 10일 기준 324만회가 넘는 조회수를 기록했다.

영상을 올린 유튜브 계정 프로필에는 “모든 영상은 AI로 만들어졌다”는 내용을 공지하고 있다. 다만 영상의 제목과 내용 등에서는 이를 고지하는 문구가 포함되지 않았다. 숏츠 알고리즘을 통해 개별 영상만을 접한 이용자는 AI 영상이라는 것을 인지하기 어려운 구조였다.

이로 인해 AI 생성 인물이라는 것을 알지 못한 채 여성 경찰을 비난하는 댓글이 주를 이뤘다. “이러라고 세금 내준 게 아니다”, “춤이나 추고 한가해 보인다”, “이럴 시간에 순찰이나 해라” 등이다.

AI 생성 인지 여부와 별개로 무분별한 조롱이 이어지기도 했다. 댓글에는 “현실고증이면 댓글 추천”, “AI가 아니라도 저러긴 하다”, “오또케(긴급 상황에서 호들갑을 떨며 대처하지 않는 사람을 조롱하는 표현)” 등 비하성 발언이 잇따랐다.

AI로 제작된 참여형 콘텐츠 이미지에서도 여성 성적대상화와 혐오표현이 녹아 있었다. 극단적 특징을 가진 여성 캐릭터 중 연애·결혼 상대를 고르도록 하는 밸런스 게임이 대표적이다.

해당 콘텐츠에 등장하는 상반된 두 여성 캐릭터에는 기존 여성에 대한 편견이 여과 없이 반영된다. 몸매·얼굴 등 외적 조건이 뛰어난 여성에는 ‘명품 소비’, ‘연애 경험 많음’, ‘클럽 애호가’ 등의 키워드가 부여된다. 반면 외적 매력도가 떨어지는 설정의 여성은 ‘안정적 직장’, ‘현모양처’, ‘남자 경험 전무’ 등의 특성이 따라붙는다.

댓글창에서는 두 여성의 특징을 두고 품평이 이뤄졌다. “아무리 예뻐도 명품소비는 못 참는다”, “못생겨도 결혼은 현모양처와 해야 한다” 등이다.

참여형 콘텐츠 특성상 기존 이용자가 타 이용자에게 다이렉트 메시지(DM)를 통해 게시물을 보내는 경우가 많아 확산이 더욱 빠르다. 해당 성격의 콘텐츠 대부분은 ‘좋아요’ 개수에 비해 ‘공유’가 압도적으로 높다. 지난달 24일 업로드된 한 게시물의 경우 좋아요는 1077개, 공유는 7289개에 달했다.

이같은 콘텐츠는 제작자가 고도의 합성 기술 없이도 AI 도구를 활용해 간단히 생산할 수 있다. 프롬프트 입력만으로 자극적인 내용을 담은 혐오성 이미지와 영상을 제한 없이 만들 수 있다는 점이 문제로 지적된다.

특히 해당 콘텐츠들은 SNS 이용자라면 누구나 손쉽게 시청 가능하다. 일상 속에서 왜곡된 성 인식을 내포한 콘텐츠를 소비하게 되는 구조다. 성인뿐 아니라 청소년까지 별도의 과정 없이 부적절한 콘텐츠에 노출될 수 있다.

이에 대해 심재웅 숙명여자대학교 미디어학부 교수는 “AI는 사용자의 요구에 즉각 응답해 선정적인 이미지를 만들어내는 구조”라며 “제작자 스스로도 어떤 결과가 나올지 모르기 때문에 ‘호기심 충족’이라는 즐거움을 느낀다. 나아가 이용자들에게도 더 큰 반응을 얻기 위해 AI에 자극적인 결과물을 요구하게 되는 것”이라고 진단했다.

이러한 콘텐츠가 미디어 플랫폼 내 공유 기능을 기반으로 더 큰 영향력을 얻게 된다는 지적도 나왔다. 심 교수는 “성평등 인식에 경각심을 가져야 할 시기에, 여성 혐오가 널리 퍼지며 하나의 ‘놀이’나 ‘유희 문화’로 굳어지는 모습”이라며 “제작자의 성찰 없이 만들어진 콘텐츠가 ‘트렌드화’ 되면 이용자들은 혐오와 친밀해질 수밖에 없다. 제작자와 이용자 모두 여성 혐오에 익숙해지는 악영향을 초래한다”고 짚었다.

최희령 기자 bright@kukinews.com