사회/복지
명령어 한 줄이면 끝, AI 성범죄가 일상이 되다
인공지능(AI) 기술이 일상 속으로 파고드는 가운데, 스마트폰 앱 마켓이 AI를 악용한 디지털 성범죄의 새로운 온상으로 전락했다. 간단한 명령어 몇 줄만으로 평범한 인물 사진을 순식간에 성적인 이미지나 영상으로 바꿔버리는 앱들이, 최소한의 안전장치도 없이 버젓이 유통되며 심각한 사회 문제를 야기하고 있다.이들 앱의 작동 방식은 충격적일 만큼 간단하고 악의적이다. 사용자가 타인의 사진을 앱에 올리고 '비키니를 입혀라' 또는 '옷을 제거하라'와 같은 텍스트를 입력하면, 불과 수십 초 만에 원본 사진을 조작한 합성 결과물이 생성된다. 이 과정에서 이미지 속 인물의 동의 여부나 연령을 확인하는 절차는 전무하며, '3세 이용가'와 같은 터무니없는 등급으로 유통되기도 한다.
문제는 이들 도구가 노골적으로 여성을 성적 대상화하도록 설계되었다는 점이다. 앱의 기능명 자체를 '그녀의 옷을 벗겨라(undress her)'와 같이 특정 성별을 겨냥하거나, 승무원·교사 등 특정 직업군 여성을 성적으로 묘사하는 예시를 제공하는 식이다. 심지어 남성 사진으로는 기능이 제대로 작동하지 않는 이유에 대해 "훈련 데이터가 주로 여성에 집중됐기 때문"이라고 설명하는 앱도 있었다.
앱 개발사들은 이용약관에 '책임 있는 사용'을 명시하며 책임을 회피하지만, 이는 사실상 법적 분쟁을 피하기 위한 면피용 문구에 불과하다. 미성년자 이미지 사용을 금지한다는 경고는 있지만, 불법 촬영물이나 타인의 사진을 무단으로 사용하는 행위를 기술적으로 막는 장치는 전무하다. 수억 원의 누적 매출을 올리는 이들 앱은 삭제 요청에도 불구하고 이름을 바꿔가며 계속해서 활개 치고 있다.
현행법의 사각지대 역시 문제다. 아동·청소년 성착취물의 경우 제작·유포 시 강력한 처벌이 가능하지만, 성인 대상의 합성 이미지는 피해자가 명확히 특정되지 않거나 가상 인물로 치부될 경우 처벌이 어렵다는 한계가 뚜렷하다. 기술의 발전 속도를 법과 제도가 따라가지 못하는 사이, 디지털 공간은 새로운 유형의 성범죄로 오염되고 있다.
과거 고도의 기술이 필요했던 딥페이크 범죄는 이제 누구나 스마트폰 앱과 프롬프트 한 줄만으로 저지를 수 있는 '일상의 범죄'가 되었다. 온라인에서는 단돈 몇만 원에 성착취 영상 제작을 의뢰하는 등 범죄의 문턱은 걷잡을 수 없이 낮아지고 있다.
