초상권 침해 데이터 범람,,,,,,,"AI가 1분만에 걸그룹 합성사진 뚝딱"
멜앤미
0
5094
2023.06.28 01:22
![]()
K팝 걸그룹 멤버 이미지를 도용해 제작된 AI 모델
![]()
유튜브에 'AI 룩북'을 검색했을 때 나오는 쇼츠 영상
성형 인공지능(AI) 모델 공유 사이트 시빗AI(CivitAI)에는 이용자들이 뉴진스, 르세라핌, 아이브, 에스파, 트와이스 같은 인기 KPOP 걸그룹 멤버 사진들을 대량 도용해 학습시킨 AI 모델 데이터가 온라인상에 유포되면서 소속사가 대응을 검토하고 있다고 업계와 법조계 등이 밝혔다. 지난해 스테빌리티AI가 오픈소스로 공개한 이미지 합성 AI '스테이블 디퓨전'(Stable Diffusion)에 적용해 게시된 파일들은 딥페이크 이미지를 생성할 수 있는 AI 모델이다. 이용자가 입력한 대화형 명령어 '프롬프트'를 토대로 이미지를 생성한 스테이블 디퓨전은 방대한 분량의 이미지를 학습시켜 만들어낸 데이터인 '모델'을 소재로 쓴다. '챗GPT' 같은 고성능 대화형 인공지능과 달리 스테이블 디퓨전은 일반인도 자기 집 PC에서 오프라인으로 구동할 수 있는 것이 특징이다. 프로그래밍을 모르는 사람도 최근에는 쉽게 사용할 수 있는 '웹UI'(WebUI)라는 인터페이스까지 나왔다. 약간의 지식만 있다면 수십만원대 보급형 GPU(그래픽처리장치)가 달린 PC로 누구나 클릭 한 번으로 AI 모델을 다운받은 뒤, 안방에서 1∼2분만에 고해상도 아이돌 합성 사진을 만들 수 있는 셈이다.
이런 AI 모델이 수익 창출이나 음란물 제작에 악용될 수 있는 문제가 있다는 것은 사실이다. 이미지 생성 AI로 만들어낸 여성 이미지를 전시하는 'AI 룩북' 콘텐츠가 유튜브에는 성행하고 있고, 후원 플랫폼 '패트리온'에서 AI가 생성한 음란물을 일부 이용자들은 판매하고 있다. 연예인이나 인플루언서의 초상권을 침해한 AI 모델로 창작물을 만들어 수익을 낼 경우 민형사상 책임을 질 수 있다. 부정경쟁방지법 2조는 '국내에 널리 인식되고 경제적 가치를 가지는 타인의 성명, 초상, 음성, 서명 등 타인을 식별할 수 있는 표지를 무단으로 사용함으로써 타인의 경제적 이익을 침해하는 행위'를 부정경쟁행위로 간주하고 있다. 성폭력처벌법 14조의2도 '사람의 얼굴·신체 또는 음성을 대성으로 한 촬영물·영상물·음성물'과 이에 따른 '편집물·합성물·가공물·복제물'을 당사자의 의사에 반해 유포한 사람에 대해 5년 이하의 징역 또는 5천만원 이하의 벌금에 처하도록 하고 있다. K팝 업계는 소속 아티스트의 이미지를 활용한 AI 모델 배포에 대응 방안을 고민하고 있다.













