합성 사진과 동영상을 자동으로 만들어주는 생성형 인공지능(AI)이 딥페이크 음란물 범죄를 확산하는 주범이란 지적이 나오고 있다. 특히 텔레그램에는 얼굴 사진만 올리면 약 30초만에 불법 합성 사진·영상을 자동으로 만들어주는 이른바 ‘딥페이크봇(로봇)’ 채널이 활개치고 있었다. 새로운 이용자를 초대하면 결제용 캐시를 제공하거나, 특정 채널을 구독해야 불법 합성물을 제작해주는 딥페이크봇도 있었다.
합성 사진과 동영상을 자동으로 만들어주는 생성형 인공지능이 딥페이크 음란물 범죄를 확산하는 주범이란 지적이 나오고 있다. 특히 텔레그램 에는 얼굴 사진만 올리면 약 30초만에 불법 합성 사진·영상을 자동으로 만들어주는 이른바 ‘ 딥페이크 봇’ 채널이 활개치고 있었다.
29일 텔레그램에서 ‘딥페이크’ 등 검색하면 불법 합성물 생성 봇을 모아 추천해주는 수십여개 채널과 대화방에 곧바로 연결됐다. 이 중엔 약 2만명이 참여한 무료 채널도 있었다. 첫 화면에 뜬 ‘시작’ 버튼을 누르자 “원하는 여성의 사진을 보내라. 30초만 기다리면 마법이 펼쳐질 것”이라는 문장이 떴다. 챗GPT로 만든 가상의 이미지를 AI 봇에 넣어보니, 실제로 30초 만에 나체에 합성된 사진이 올라왔다. 특정 신체 부위의 모습을 조정하거나 복장을 바꾸는 기능도 있었다. 합성 사진 두 장을 무료로 제공한 뒤 딥페이크봇은 결제를 유도했다. 결제는 최소 4.9달러부터 시작할 수 있고, 사진 하나당 약 650원을 받았다. 고액 결제를 하면 워터마크를 제거하거나 화질을 개선하는 등 더 많은 기능을 선택할 수 있게 해놨다. 결제는 가상화폐 구매 사이트를 이용해 진행됐다. 새로운 이용자를 초대하면 결제용 캐시를 제공하거나, 특정 채널을 구독해야 불법 합성물을 제작해주는 딥페이크봇도 있었다. 이날 텔레그램에선 이런 식으로 몇 가지 관련 검색어를 입력하는 것만으로 딥페이크봇 수백 개를 찾을 수 있었다.이같은 딥페이크봇 채널 및 대화방은 적게는 수백명에서 많게는 수십만명이 참여하고 있었다. 채널 소유자 또는 관리자만 메시지를 보낼 수 있어 참여자들이 사진을 유포할 수는 없지만, 불법 촬영물을 공유하는 또 다른 그룹 대화방으로 연결하기도 했다.
딥페이크봇이 기하급수적으로 늘면서 경찰도 딥페이크봇 등 8곳에 대한 내사에 착수했다. 경찰 관계자는 “여러 조사기법을 활용해 추적에 나섰다. 조사 대상 봇 숫자는 8개 이상이 될 수 있다”고 말했다.서혜진 한국여성변호사회 아동청소년특별위원장은 “생겼다가 없어졌다가를 반복하는 특성상 제작 채널이 수천개일지, 수십만개일지 추산이 불가능한 상황”이라며 “제작의 목적이 다양할 텐데 불법 합성물을 손에 쥔 이상 어떻게 쓰일지 모르는 게 문제”라고 말했다. 특히 지난 4월부터 텔레그램이 채널 접속자와 대화 참여자 수 등에 따라 광고 수익을 분배하는 정책을 도입하면서 딥페이크 성범죄가 돈벌이 수단으로 악용되며 상황이 더 심각해졌다는 지적도 나왔다. 김명주 서울여대 정보보호학과 교수는 “현재 텔레그램에선 채널 가입자가 1000명이 넘으면 광고 수익금을 공유한다”며 “광고 수익 가운데 50% 떼주는 식”이라고 설명했다. 서 위원장은 “텔레그렘에선 다단계처럼 더 많은 이용자를 끌어들여야 유료 수익이 나는 구조가 형성되고 있다”고 말했다.
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
'처서의 마법' 없다…열대야 이어지고 한낮 29~36도(서울=연합뉴스) 이재영 기자=올해 '처서(處暑)의 마법'은 없다.
Read more »
'처서의 마법'은커녕…폭염·열대야 9월초까지 이어진다(서울=연합뉴스) 이재영 기자=22일 절기상 더위가 그친다는 처서(處暑)를 맞았지만, '처서의 마법'도 물리친 더위는 가시지 않은 채 무더위...
Read more »
철도재벌·헤지펀드·가상화폐거래소까지…美 대선 정치자금 댄 ‘큰손들’상위 50대 후원자가 2조원 넘게 기부 민주당보다 공화당에 더 많은 돈 후원
Read more »
'믿는다, 엔비디아' 개미들 美증시에 올인2분기 호실적 발표 기대감에반도체 3배 추종 ETF 비롯엔비디아 레버리지 돈 몰려국내 ETF도 美지수 쏠림 지속
Read more »
청년 위해 ‘보험료 세대별 차등’한다더니...청년 받는 돈 더 줄어들 수도전문가들 “젊은 세대 보험료 천천히 올리고, 자동 안정장치로 받는 돈 깎아”
Read more »
![[World & Now] 글로벌 인재 영입 작전](https://i.headtopics.com/images/2024/8/5/maekyungsns/918711111410810447489-918711111410810447489-07DCF8499E233C736B7097DF37CAEF38.webp?w=640)
[World & Now] 글로벌 인재 영입 작전실리콘밸리 채용팀에 따르면이직 조건으로 돈 내세우지만사실상 자녀교육 더 많이 따져인재 몰리는 한국 만들기위해높은 세금·교육여건 개선해야
Read more »