문해력훈련 성 착취물 만들어주는 AI 앱, 누적 수익만 1700억원 육박···“애플·구글은 뒷짐”

페이지 정보

작성자 이민종 작성일26-01-31 22:29 조회68회 댓글0건

본문

문해력훈련 구글의 애플리케이션(앱) 마켓인 플레이스토어에 ‘누디파이’(Nudify·누드 합성)라는 키워드를 넣자 관련 앱이 주르륵 뜬다. 여성의 신체를 노골적으로 묘사한 이미지를 내걸고 있는 이들 앱의 다운로드 수는 적게는 수만회, 많게는 수천만회에 이른다.
인공지능(AI)으로 성 착취 이미지를 생성하는 누디파이 앱이 활개를 치고 있다. 앱 마켓을 운영하는 구글과 애플이 이를 방치하며 짭짤한 수익을 올리고 있다는 지적도 나온다.
미국의 비영리단체 기술투명성프로젝트(TTP)는 27일(현지시간) 이 같은 내용의 보고서를 공개했다. TTP는 최근 AI 챗봇 ‘그록’이 성 착취 이미지 생성·유포로 논란이 인 것을 계기로 양대 앱 마켓(플레이스토어·앱스토어)을 조사했다.
보고서에 따르면, TTP가 문제라고 지적한 누디파이 앱은 전 세계적으로 다운로드 건수가 약 7억500만회를 기록했다. 이들 앱이 올린 누적 매출만 1억1700만달러(약 1665억원)으로 추정된다. 애플과 구글이 인앱 결제 수수료(최대 30%)를 가져간다는 것을 고려하면 이들이 누디파이 앱을 통해 얻은 수익은 수백억원에 달할 것으로 보인다.
TTP는 AI로 생성한 가상의 여성 이미지를 이용해 누디파이 앱 테스트도 진행했다. 옷을 입은 여성 사진을 주고 옷을 벗겨달라고 하거나, 여성의 얼굴 사진만 주고 나체와 합성해달라고 주문했다. 그러자 안드로이드 앱 55개와 iOS 앱 47개가 나체의 여성 이미지를 만들어냈다. TTP는 “양대 마켓이 사용자 안전을 강조하면서도 누디파이 앱의 확산 속도를 따라가지 못하고 있다”고 꼬집었다.
TTP는 “프롬프트(명령어) 몇 줄 또는 버튼 한 번으로 여성의 옷을 벗기거나 성적인 영상으로 만드는 것이 가능했다”면서 “경고나 차단 장치는 거의 없었으며 상당수 앱이 전 연령 혹은 12세 이상으로 분류돼 있었다”고 지적했다.
생성형 AI가 대중화한 이후 이를 활용한 성 착취물 제작 문제는 끊이지 않고 있다. 최근에는 일론 머스크의 xAI가 SNS 엑스 내에서 운영하는 챗봇 그록에 이미지 편집 기능이 추가되면서 비판에 직면했다. 이용자들이 이 기능을 활용, 원본 당사자 동의를 받지 않은 성 착취물을 다량 생성·유포했기 때문이다. 미성년인 피해자가 속출하면서 미국·유럽연합(EU) 등 각국 당국은 공식 조사에 착수했다. 국내에선 지난 14일 방송미디어통신위원회가 그록에 청소년 보호 장치를 마련하라고 요청했다.
국내에서도 AI를 이용한 성 착취물 제작 및 유포는 심각한 문제지만 법이 현실을 따라가지 못하는 실정이다. 2024년 개정된 성폭력처벌법은 딥페이크 성 착취물 제작·유포는 물론 시청·소지·구입·저장한 경우에도 3년 이하의 징역 또는 3000만원 이하 벌금으로 처벌하도록 돼 있다. 그러나 지난해 AI로 만든 성 착취물의 피해자가 특정되지 않으면 성폭력처벌법상 허위영상물 유포죄로 처벌할 수 없다는 법원 판결이 나오며 한계를 노출했다.
이진형 미국 스탠퍼드대 교수가 설립한 인공지능(AI) 기반 뇌 진단 플랫폼이 ‘혁신의 오스카’로 불리는 에디슨상 수상작으로 선정됐다.
에디슨상 심사위원회는 이 교수가 설립한 스타트업 엘비스(LVIS)의 뇌 진단 소프트웨어 ‘뉴로매치’가 올해 에디슨상 건강·의료·생명공학 부문 ‘AI 증강진단’ 영역의 수상 최종 후보로 선정됐다고 25일(현지시간) 밝혔다.
에디슨상은 부문별 최종 후보에 오르면 사실상 수상이 확정되며, 이후 금·은·동메달 수상작이 결정된다.
뉴로매치는 뇌파(EEG) 검사 데이터를 AI가 자동 분석해 잡음을 제거하고 이상 신호를 감지하는 클라우드 기반 의료 소프트웨어다. 기존에는 의사가 수시간에 걸쳐 분석하던 뇌파 데이터를 몇분 만에 처리할 수 있어 진단의 정확도와 효율성을 크게 높였다. 특히 뇌 활동을 실제 뇌 구조와 유사한 형태로 재구성해 3차원(3D)으로 시각화하는 ‘디지털 트윈’ 기술이 핵심이다.
이 제품은 미국 식품의약국(FDA)으로부터 세 차례 승인을 받았고, 한국 식품의약품안전처 인증도 완료했다. 이 교수는 “뇌 속에서 일어나는 현상을 직접 관찰할 수 있는 제품”이라며 “기존 설문이나 영상 중심의 진단이 가진 한계를 보완할 수 있다”고 말했다. 그는 “뇌전증이나 치매 같은 질환을 조기에 진단하고 치료 경과를 정밀하게 추적하는 데 큰 도움이 될 것”이라고 설명했다.
서울대 전기공학부를 졸업한 이 교수는 스탠퍼드대 대학원까지 전기공학을 전공하다 외할머니의 뇌졸중을 계기로 뇌 연구로 진로를 바꿨다. 그는 신경세포 연결 구조를 전기회로처럼 분석한 연구로 미국 국립보건원(NIH) 상을 받기도 했다.
이 교수는 “모든 뇌 질환을 조기에 정확하게 진단해 환자의 고통을 줄이는 것이 목표”라며 “장기적으로는 뇌 구조를 본뜬 고효율 AI 개발에도 도전하고 싶다”고 밝혔다.
에디슨상 시상식은 오는 4월 미국 플로리다주 포트마이어스에서 열린다.
만학도 어르신들의 배움터 ‘늘푸름학교’의 2025학년도 초등·중등 졸업식이 열린 28일 서울 영등포구청에서 한 만학도 졸업생이 딸, 손녀와 함께 기념사진을 찍고 있다.

문해력훈련 성 착취물 만들어주는 AI 앱, 누적 수익만 1700억원 육박···“애플·구글은 뒷짐” > 자료실

제작상담

문해력훈련 성 착취물 만들어주는 AI 앱, 누적 수익만 1700억원 육박···“애플·구글은 뒷짐”

페이지 정보

본문