레플리카사이트 AI 성착취물 범람 뒤, ‘여성 성적 대상화’의 문제 [플랫] > 질문답변

레플리카사이트 AI 성착취물 범람 뒤, ‘여성 성적 대상화’의 문제 [플랫]

페이지 정보

작성자 행복이13
댓글 0건 조회 4회 작성일 26-03-17 21:19

본문

레플리카사이트 구글 플레이스토어에 ‘인공지능(AI) 이미지’를 검색하면 ‘얼굴 바꾸기’ ‘AI 가상 피팅’ 등 기능을 내세운 이미지 생성 애플리케이션이 238개 등장한다. 이 중 ‘사진을 말하고 춤추게 한다’고 홍보하는 A 도구를 다운로드 받아 무료체험을 신청했다.
이미지 생성기에 기자가 검은색 패딩을 입고 찍은 전신 사진을 넣고 ‘비키니 차림으로 만들라’라는 한 줄짜리 프롬프트를 입력하자 불과 30초 만에 비키니를 입은 이미지가 만들어졌다. 이 어플은 ‘3세 이상’ 이용 가능하다고 돼 있다. 비키니 이미지를 생성한 기자가 성인이 맞는지, 합성에 이용한 사진이 사진 속 인물의 동의를 구한 사진인지, 미성년자의 사진이 아닌지 확인하는 절차는 없었다.
‘그록’ 등 생성형 AI가 비동의 신체 합성물을 만들어낸다는 사실이 문제가 된 뒤에도 여전히 성착취를 가능하게 하는 AI 도구가 범람하고 있는 것으로 확인됐다. 전문가들은 유포 이전에 사전 예방을 위한 기술 개발, 근본적으로 여성에 대한 성적 대상화 자체를 젠더 폭력으로 인식하는 사회적 분위기 조성이 병행돼야 한다고 밝혔다.
AI 합성 도구들을 공통적으로 여성을 성적 대상화했다. B 도구는 플레이스토어에선 고양이처럼 귀여운 이미지를 영상으로 변환할 수 있다고 홍보했지만 유튜브와 앱 내 광고 영상에선 특정 신체 부위를 강조하거나 성적인 자세를 취한 여성의 이미지를 강조했다. 승무원이나 교사 등 여성이 다수인 직업군을 성적 대상화 한 프롬프트를 예시 서식 중 하나로 제공하기도 했다.
‘의상 제거’를 키워드로 내세운 C 도구는 기능 이름부터 ‘여성의 옷을 벗긴다(undress her)’며 식으로 특정 성별을 겨냥했다. 예시 이미지와 기본값 프롬프트에도 여성 모델과 여성의 신체 부위만 등장했다. 비슷한 D 도구는 ‘앱이 남성에게 작동하냐’는 질의에 “훈련 데이터가 주로 여성에 집중됐기 때문에 처음에는 딥누드 기술을 남성 피험자에게 사용하도록 의도되지 않았다”고 했다.
이들은 서비스 약관에서 ‘책임있는 이용이 요구된다’고 명시했지만 사실상 면피용 수준이다. 이용자가 만 18세 이상인지 성인인증을 거치는 도구는 찾아볼 수 없었다. ‘타인의 허가 없이 다른 사람의 사진을 사용하지 않겠다’는 문구에 동의하도록 하는 경우가 있었지만 단순 동의에 그쳤다. 특히 C 도구는 미성년자가 포함된 이미지는 이용이 엄격히 금지된다고 명시했지만 동의를 거치지 않은 성인 여성에 대한 이미지 활용에 대해선 비슷한 수준으로 언급하지 않았다.
[플랫] “‘옷 벗기는 AI’ 지금 당장 막아야” 성착취 이미지 생성에 전 세계가 ‘우려’
국내 현행법은 아동·청소년으로 간주되는 인물이 성착취물에 등장하면 처벌 대상으로 삼지만, 성인 여성에 대한 합성물은 가상 인물로 만들었거나 실존하는 피해자가 특정되지 않는다면 성폭력처벌법으로 처벌하기 어렵다. 미국의 비영리단체 기술투명성프로젝트(TTP)는 지난 1월 이러한 앱들이 올린 누적 매출이 1억1700만달러에 달한다고 발표했는데, 단체의 삭제 요청 이후에도 이날까지 여전히 성행하는 앱들을 찾아볼 수 있었다.
온라인 커뮤니티에선 생성형 AI를 이용해 5초 분량의 성착취 영상을 제작하는 아르바이트 구인공고가 건당 10만원에 이뤄지고 있었다. 2024년 딥페이크 성범죄 사태와 비교해, 불과 1년6개월 만에 누구나 프롬프트 한두 줄만 입력해 합성물을 만들 수 있게 됐다.
[플랫] AI 시대의 성폭력
AI 합성이 이뤄진 뒤에는 성착취물 유포가 걷잡을 수 없어서 사전 예방이 중요하다는 목소리가 나온다. 원본 사진이 딥페이크 대상이 되지 않도록 방지하는 기술들도 개발되고 있다.
전남대 유석봉 교수 연구팀은 최근 ‘딥 프로텍트’ 기술을 개발했다. SNS에 게시한 사진을 타인이 딥페이크로 합성하려 하면 원본 사진 자체를 왜곡시켜 의도와 다른 결과물이 만들어지도록 하는 기술이다. 유 교수는 “그간 디지털 성범죄 피해가 이미 발생한 다음 사후 처리하는 식의 대응이 많았다면 향후 선제적으로 피해를 막을 수 있을 것으로 기대한다”고 말했다. 서울시도 최근 SNS에 게재된 성착취물을 AI가 24시간 모니터링해 삭제하는 기술을 전국 기관에 보급한다고 발표했다.
궁극적으론 여성에 대한 성적 대상화 자체를 젠더 폭력으로 인식하는 사회적 분위기가 만들어져야 한다는 지적이 나온다. ‘가상의 여성이라면 괜찮지 않은가’라든가 ‘성적 수치심이 느껴지는 신체 부위가 포함되지 않으면 괜찮지 않은가’라는 식의 인식이 딥페이크·AI 성착취 기저에 깔려있다는 점을 직시해야 한다는 것이다.
김수아 서울대 언론정보학과 교수는 보고서에서 “성인에게는 ‘야동’ 볼 권리가 있다는 인식 속에선, 여성의 성적 대상화가 문제되는 영역이 청소년 보호에 국한될 수 있다”며 “기술을 매개로 한 젠더 기반 폭력의 양상들이 성적 대상화와 여성혐오에 기초한 폭력이자 젠더 구조의 불평등성에 기인하고 있다는 것을 인식할 수 있는 교육 내용이 필요하다”고 했다.
▼ 김송이 기자 songyi@khan.kr
▼ 김원진 기자 onejin@khan.kr
6·3 지방선거를 불과 80여일 앞두고 사퇴를 선언한 국민의힘 이정현 공천관리위원장이 14일 이틀째 잠행을 이어가고 있다. 지난달 공관위원장으로 임명된 이후 여의도 중앙당사 근처에 있는 한 호텔에 체류하던 그는 현재 여의도 밖에 있는 것으로 알려졌다.
장동혁 대표 등 지도부는 이 위원장의 사퇴를 수용하지 않고 복귀 설득을 위해 그와 접촉을 시도하고 있다. 장 대표는 이날 페이스북에 “위원장님을 뵙고 공관위원장직을 맡아 주실것을 요청드렸던 날이 생각난다”며 “위원장님의 몇차례 고사에도 불구하고 거듭 말씀을 드렸던 것은 그만큼 절실했기 때문이다”라고 적었다. 그는 이어 “이번 지방선거 승리를 위해서는 위원장님의 역할이 반드시 필요하다”면서 “위원장님의 고심어린 결단을 기다리고 있겠다”라고 호소했다.
박성훈 국민의힘 수석대변인은 이날 국회에서 기자들과 만나 “아직 이 위원장과 연락이 닿지 않고 있다. 위원장 주변 분들을 통해 뵙고 싶다는 메시지를 전달해드리는 상황”이라며 “저희가 바라는 가장 바람직한 모습은 이 위원장께서 복귀하시는 것”이라고 말했다. 박 대변인은 이어 “이 위원장이 국민의힘 지방선거 승리를 누구보다 바라고 계셔서 저희의 간절한 목소리에 호응해주실 것이라 기대한다”며 “건설적인 방향으로 이 문제가 해결될 수 있도록 노력하고 있다”고 설명했다.
그는 16일로 예정된 경북도지사 공천 예비경선 후보자 5인의 토론회에 대해 “지금 상황으로서는 유동적”이라며 “이 위원장님이 복귀하시면 그에 맞춰서 일정이 조정될 수 있다”고 했다.
이 위원장은 현재 휴대전화도 꺼놓고 있다. 다만 일시적으로 필요시 잠깐씩 켜는 것으로 알려졌다. 연합뉴스는 이날 이 위원장이 휴대전화가 켜졌을 때 이뤄진 통화에서 국민의힘에 전기 충격 수준의 혁신이 필요하지만, 이런 뜻이 관철되지 않아서 위원장직에서 사퇴했다는 의사를 재차 밝혔다고 보도했다.
이 위원장은 “지금 당은 그야말로 ‘코마(의식불명) 상태’다. 그러면 비상 수단을 쓸 수밖에 없지 않느냐”면서 “공관위원장직을 맡은 이상 전기충격기라도 갖다 대서 심장을 다시 뛰게 하고 싶었다”고 말했다고 연합뉴스는 전했다. 그는 이어 “코마에 빠진 당을 살릴 방법이 전기충격기밖에 없는데, 전기충격기를 들 수 없게 한다면 내가 떠나야지 다른 방법이 있겠느냐”면서 “즉흥적인 발상이 아닌 혁신적 구상과 분석, 여론조사 등을 가지고 (혁신 공천을 위한) 처방전을 만들어놨는데 이렇게 돼 너무 마음이 아프다”고 말했다.
다만 이 위원장은 구체적인 사퇴 이유에 대해서는 여전히 함구했다고 연합뉴스는 전했다. 그는 “이미 당이 갈라질 대로 갈라졌는데 나 때문에 또 쪼개지고 상처받는 사람이 생기는 건 원치 않는다”며 “그냥 묻어두는 게 낫다”고 말했다. 이 위원장은 장 대표 등과 접촉했냐는 질문에는 즉답을 피하면서 “장 대표에게는 좀 미안하다. 공관위에 대해서는 독립성과 조심성을 유지해줬는데…”라며 말을 아꼈다.

이전글바다이야기디시 ㉹〔ｒｋａ１１９．ｔOＰ〕㎐ 바다이야기릴게임 26.03.17
다음글한양대역산부인과 임신가능성 높은 질외사정 피임상담{카톡NPKK}청소년 낙태방법 26.03.17

댓글목록

등록된 댓글이 없습니다.