‘딥페이크 성착취’ 방치한 정부와 국회, 빅테크 책임 어디까지 물을까 [플랫]

n번방 사태가 생성형 인공지능(AI)과 만나 더 악랄하게 돌아왔다. 딥페이크(AI 기반 이미지 합성) 성범죄가 기업과 군대 등의 일터를 넘어 전국 초·중·고등학교까지 확산했다...

n번방 사태가 생성형 인공지능과 만나 더 악랄하게 돌아왔다. 딥페이크 성범죄가 기업과 군대 등의 일터를 넘어 전국 초·중·고등학교까지 확산했다. 가디언과 월스트리트저널 등 주요 외신은 “몰카를 근절하려 분투한 한국이 이제는 딥페이크와 전투를 벌이고 있다”며 “한국이 세계적 문제의 진앙”이라고 집중적으로 보도했다.AI 발전으로 딥페이크를 악용한 부작용 사태는 이미 ‘예견된’ 일이었다. 세계 각국은 작년 선거철을 맞아 딥페이크를 악용한 가짜뉴스 등으로 몸살을 앓았다. 한국도 지난해 12월 선거를 앞두고 딥페이크를 악용한 사례가 늘자 공직선거법을 개정해 선거운동 목적의 딥페이크 영상을 제작·편집·유포·상영·게시할 수 없게 했다. 정부와 국회의 관심은 선거에서 끝났다. AI를 악용한 딥페이크 성범죄가 발생해도 느슨한 제재와 처벌로 방치했다.

국회에서는 텔레그램 같은 빅테크 기업에 불법 콘텐츠 삭제 의무를 부여하는 내용의 법안들이 발의되고 있다. 딥페이크 성착취물 제작을 사전에 막는 게 사실상 불가능한 만큼 유통 진원지인 빅테크 기업에 범죄를 방조하지 않도록 사회적 책임을 지우자는 것이다. 딥페이크 성착취물 생성 방지와 출처 확인을 위해 AI 생성물에 워터마크 부착을 의무화하는 기술이 개발되고 있지만, 워터마크를 지우는 AI 기술도 빠르게 발달하고 있다. 또 범죄자가 작정하고 만들어 유포하는 악의적인 생성물엔 워터마크가 들어갈 수 없는 한계가 있다. IT 보안업계 관계자는 “AI로 만든 불법 콘텐츠를 사전에 검사해 걸러내는 것도 AI로, AI와 딥페이크 모두 가치 중립적인 기술”이라며 “디지털 공간이라는 특성상 사람이 악의적으로 만든 불법 콘텐츠를 사전에 막는 건 불가능해 기술이 범죄에 쓰이지 않게 제도를 정비하고 유통을 차단하는 방향으로 가야 한다”고 당부했다.미국과 영국 등 주요 국가들은 빅테크에 대한 법적 의무를 강화하고 있다. 빅테크 기업들이 성착취물 방치로 사람들을 끌어모으며 광고 수익을 올리고 있는 만큼 불법 콘텐츠 유통에 책임을 져야 한다는 취지다.

다만 공직선거법에 한해 선거일 90일 전부터 선거일까지 딥페이크 영상 등을 제작, 편집, 유포, 상영 또는 게시하는 행위를 금지하고 있을 뿐이다. 딥페이크 성착취물의 유통을 제한하거나 플랫폼이 의무적으로 자체 삭제하도록 하는 법은 없다.

We have summarized this news so that you can read it quickly. If you are interested in the news, you can read the full text here. Read more:

kyunghyang /  🏆 14. in KR

빅테크 책임 어디까지 물을까

United States Latest News, United States Headlines

Similar News:You can also read news stories similar to this one that we have collected from other news sources.

與, 딥페이크 방지 특위 발족…토론회선 “실제 성착취물 준하게 형량 강화를”조은희, 딥페이크 토론회 개최 플랫폼 책임 강화 입법과제로 성착취물 유포시 삭제 의무화
Read more »

한국도 텔레그램 수사 착수…“성범죄 방조 혐의”성범죄 방조 혐의 적용 텔레그램 법인겨냥 첫 조사 본사·서버 위치 몰라 실효성 의문 AI·빅테크 본고장 캘리포니아 주의회 딥페이크 규제법 통과
Read more »

“더 이상 방관하지 않을 것”…‘딥페이크’ 범죄 대응 나선 여야 [플랫]지인이나 사회관계망서비스(SNS) 이용자의 사진을 영상물에 합성한 뒤 유포하는 ‘딥페이크 성착취물’ 범죄와 관련해 여야가 국회 차원의 대응에 착수했다. 국회 여성가족위원회 이...
Read more »

여야 한 목소리로 ‘딥페이크’ 범죄 대응 나섰다지인이나 사회관계망서비스(SNS) 이용자의 사진을 영상물에 합성한 뒤 유포하는 ‘딥페이크 성착취물’ 범죄와 관련해 여야가 국회 차원의 대응에 착수했다. 국회 여성가족위원회 이...
Read more »

‘딥페이크’ 논란에도… ‘찔끔’ 인상된 디지털 성범죄 예산[플랫]여성가족부가 내년 예산을 올해보다 5.4% 증가한 1조8163억원으로 편성했다. 늘어난 예산의 상당액은 돌봄 분야에 쓰인다. 불법촬영물 삭제 지원을 담당하는 여가부 산하 기관...
Read more »

“여성에 대한 성폭력이 일상이 된 국가적 재난 상황” 딥페이크 대책 촉구한 여성 노동자들[플랫]언론, 교직, 공직, 제조업·판매 등 다양한 업종에 종사하는 여성 노동자들이 ‘딥페이크 성착취물 사태’로 일터 안전을 위협받고 있다며 정부에 대책을 촉구했다. 민주노총은 3일...
Read more »