[사건반장 소다 딥페이크 사건] 사건반장, 네이버 자회사 스노우, 소다 앱 딥페이크 음란물 합성 생성하는 사건 발생했다 (+사건반장 소다 딥페이크, 사건반장 스노우 딥페이크, 소다 딥페이크 음란물, 스노우 딥페이크 음란물, 소다 증명사진 딥페이크, 스노우 AI 헤어샵 딥페이크, 스노우 헤어샵 음란물 딥페이크, 사건반장 사진 보정 원했는데 나체사진, 사건반장 유명 카메라앱이 만든 딥페이크)

[사건반장 소다 딥페이크 사건] 사건반장, 네이버 자회사 스노우, 소다 앱 딥페이크 음란물 합성 생성하는 사건 발생했다 (+사건반장 소다 딥페이크, 사건반장 스노우 딥페이크, 소다 딥페이크 음란물, 스노우 딥페이크 음란물, 소다 증명사진 딥페이크, 스노우 AI 헤어샵 딥페이크, 스노우 헤어샵 음란물 딥페이크, 사건반장 사진 보정 원했는데 나체사진, 사건반장 유명 카메라앱이 만든 딥페이크)

안녕하세요 여러분, 🤯

최근 9월 9일 사건반장 제보에 따르면 네이버 자회사 스노우와 소다라는 카메라 애플리케이션에서 연달아 인공지능(AI) 편집 과정 중 외설적 합성 사진인 딥페이크 사진이 등장하면서 피해를 입었다는 제보자의 사연이 전해지면서 화제가 되고 있는데요.

특히 소다 앱에서는 배경 너비를 AI로 늘리던 중 두 손으로 가슴을 움켜쥐는 듯한 이미지가 만들어 지기도 한 것으로 전해졌는데요. 어떤 사건인지 알아보도록 하겠습니다.

지난 4일, 증명사진 배경 보정하려다 딥페이크 겪은 제보자

제보자는 지난 4일 증명사진 배경을 보정하기 위해 네이버 자회사에서 운영하는 소다라는 어플을 사용했다고 밝혔는데요. 

제보자는 유료로 배경을 늘려주는 인공지능 서비스를 사용했고 배경을 확대하는 과정 중에 증명사진에서 두 손이 생겼고, 신체 특정 부위를 움켜지는 사진이 생성되었다고 밝혔는데요. 

제보자는 이에 성적 수치심을 느끼고 사진 유출을 우려하기도 했다고 밝혔는데요. 

특히 내년 결혼을 앞두고 결혼사진 보정을 위해서 유료결제까지 했던것으로 전해졌습니다.

 

배경 너비를 AI로 늘리던 중 두 손으로 가슴을 움켜쥐는 듯한 이미지가 만들어졌다

그렇게 제보자는 소다 앱에선 배경 너비를 AI로 늘리던 중 두 손으로 가슴을 움켜쥐는 듯한 이미지가 만들어져 놀라 다른사람의 의견을 듣기 위해 커뮤니티에 사진을 올렸다고 주장했는데요. 

하지만 대부분 커뮤니티 누리꾼들 역시 불쾌하다는 반응을 보였다고 밝혔는데요. 

하지만 일부 커뮤니티에서는 음란성 게시물로 판단되어 삭제되기도 했다고 전했으며, 업체에도 항의 메일을 보냈다고도 전했습니다.

한몫 땡기려고 공론화하고 제보했다고 한 누리꾼도 있었다

제보자에 따르면 이런 일을 공론화하자 일부 누리꾼들은 "돈을 뜯으려고 악의적인 여론형성을 하는것은 아니냐"라는 이야기를 했다고 전했는데요.

특히나 업체에 보낸 항의 메일에 금전적요구를 한 내용이 없음에도 조롱을 하며 일부 누리꾼들이 2차가해를 이어갔던 것으로도 전해졌는데요.

제보자가 밝힌 댓글내용에 따르면 네이버 관련 업체 직원으로 추정되는 직장인들이 "안타까운 사연인줄 알겠으나, 합의금 땡기려는 것으로 보인다"라는 등 이용자들의 비난이 있어 2차 가해가 있었던것으로 보여졌습니다. 🤦‍♂️

스노우 앱에서도 헤어샵 기능에서 딥페이크 사건 발생했다

딥페이크 사건은 위 사건뿐만이 아니었는데요. 한 제보자는 스노우 어플을 통해  상반신 전부가 나체로 합성되는 등 앞선 소다의 사례보다 문제 정도가 더 심각했다고 전했는데요. 

특정 자신의 사진에 헤어스타일을 인공지능으로 바꾸기 위해 헤어스타일을 바꿔 달라고 했더니 옷을 벗겨 나체로 표현이 되었다고 전했는데요. 

이 제보자 역시 유료 결제 후 AI 헤어숍이라는 기능을 사용하다 봉변을 당한것으로 전해졌으며, 단발컷 사진에 헐벗은 여성 상체가 합성되어 유출될까 불안했다고도 전했습니다.

메일 보내야하는데 되려 유출될까봐 항의하지 못했다고 주장한 제보자(+사진)

특히 제보자는 메일을 보내야하는데 되려 유출될까봐 항의하지 못했으나, 누리꾼들에게 힘을 얻어 항의하게 되었다고 전했는데요. 

이에 업체측에서는 선정적인 이미지 생성을 억제하려고 했으나 아직 AI의 한계가 있다고 밝혔으며, 이미지 역시 서버에 저장되지 않으며 외부유출이나 AI 학습에는 이용되지 않는다라고 밝힌것으로 알려졌는데요.

이후 환불절차를 물어보니 직접 환불 절차를 밟으라고 한 것으로 전해졌으며, 현재 문제가 종결될 것을 우려해 환불절차를 밟지 않은 것으로 알려졌습니다.

네이버 관계자, 직접 대면사과로 응대하겠다고 밝혔다

이에 네이버 관계자에 따르면 자회사 스노우 등에서 제보자들에게 대면사과 할 예정이라고 밝힌 상황인데요. 

이후 또한 부적절한 댓글로 고객에게 상처주는 행위 없도록 직원들을 교육하겠다고도 밝힌 상황인데요.

제보자는 합의금을 원한 것이 아니라 또 다른 피해자가 나와선 안된다는 뜻을 밝힌 상황입니다.