홈 > 지구촌뉴스 > 이슈/사건
이슈/사건


"미국 고교서 AI 딥페이크 음란물 사진 제작·유포"

멜앤미 0 3722

15.jpg

 

미 월스트리트저널(WSJ)에 따르면 뉴저지주 웨스트필드 고등학교에서 2학년 남학생 여러 명이 AI를 활용해 교내 여학생들의 딥페이크 나체 사진을 만들어 유출하다가 지난달 발각됐다. 딥페이크는 딥러닝과 페이크(fake)의 합성어로, AI를 기반으로 얼굴 등을 실제처럼 조작한 이미지나 영상을 뜻하는데, 이들 남학생은 온라인에서 여학생들 사진을 찾은 다음 AI로 나체 사진을 만든 뒤 그룹 채팅으로 다른 남학생들과 이를 공유한 것으로 드러났다. 이런 범죄 행위는 지난달 중순 한 남학생이 일부 여학생에게 해당 사실을 알려주면서 드러났다. 여학생들은 학교 당국에 이를 보고했고 학교는 이 사건과 관련된 것으로 추정되는 남학생들 면담을 시작했고, 피해 여학생 가운데 4명이 신고하면서 경찰 당국도 수사에 착수했다. 학교 측은 문제의 딥페이크 이미지가 삭제돼 더 이상 유포되지 않는다고 밝혔으나 여학생들은 이미 극심한 정신적 피해를 입었다고 WSJ은 전했다. 전문가들은 기술 발달로 딥페이크 이미지 만들기가 갈수록 쉬워지면서 범죄에 악용될 가능성도 커졌다고 지적한다. AI로 생성된 이미지를 구분해주는 서비스 '리얼리티 디펜더' 최고경영자(CEO)는 "몇 년 전까지만 해도 (딥페이크) 이미지를 만들려면 컴퓨터 몇 대가 필요했지만 이제는 아이폰 1대만 있으면 된다"고 말했다. 딥페이크 사진 대부분이 음란물에 쓰인다는 점도 문제인데, 실제 이미지 탐지 회사 '센시티 AI'는 딥페이크 이미지의 90% 이상이 포르노와 관련돼 있다고 분석했다. 이런 가운데 조 바이든 미 대통령이 성소수자에게 폭언하는 딥페이크 영상 등이 진짜인 것처럼 유포돼어 있는 영상을 본 경험을 소개하면서 AI 규제 등 내용을 담은 행정명령에 서명하기도 했다.

0 Comments
Facebook Twitter GooglePlus KakaoStory NaverBand