인공지능(AI) 기술이 빠르게 발전하면서 이를 악용한 딥페이크 피해가 일상 곳곳으로 번지고 있다. 특히 대중의 관심이 집중되는 연예계를 중심으로 허위 영상과 이미지가 무분별하게 생성·유통되면서 피해가 집중되는 양상이다. 정교해진 기술로 인해 진위 구분이 어려워지면서 단순 해프닝을 넘어 명예훼손과 영업 피해로까지 이어지고 있다.
26일 업계에 따르면 최근 연예인 얼굴을 실시간으로 바꿔치기하는 AI 페이스 스왑 영상이 대거 게시된 소셜미디어 채널이 알려지면서 논란이 일었다. 해당 채널에는 국내 연예인들의 얼굴이 담긴 콘텐츠 60여개 게시돼 있다. 영상에 등장하는 남성이 손가락을 튕기면 아이브 장원영, 에스파 카리나, 아이유, 방탄소년단 뷔, 정국, 배우 고윤정 등 연예인 얼굴로 순식간에 바뀌고, 윙크나 미세한 표정 변화까지 자연스럽게 구현된다. 합성을 넘어 실제 인물처럼 움직이는 수준까지 기술이 고도화되면서 이를 악용할 경우 심각한 2차 피해로 이어질 수 있다는 우려가 커지고 있다.
딥페이크 기술은 이미 다양한 형태로 나타나고 있다. 앞서 온라인 커뮤니티에서는 걸그룹 소녀시대 멤버 티파니와 배우 변요한의 결혼식 사진이 확산되며 화제를 모았다. 사진 속 두 사람은 실제 결혼식을 올린 것처럼 자연스러운 모습이었고, 주변 소녀시대 멤버들의 표정과 분위기까지 사실적으로 구현돼 많은 이들이 이를 사실로 받아들였다. 그러나 확인 결과 해당 이미지는 생성형 AI가 만든 가짜였다. 당사자들이 촬영한 적 없는 사진이었지만 높은 완성도로 인해 팬들과 대중에게 혼란을 안겼다.
문제는 이러한 콘텐츠가 단순한 재미를 넘어 현실적인 피해를 발생시키고 있다는 점이다. 최근 유튜브에는 넷플릭스 흑백요리사 안성재 셰프의 식당을 비난하는 내용의 쇼츠 영상이 퍼지며 논란이 일었다. 영상에서는 주차 문제와 서비스 불만 등이 지적됐지만 이 역시 AI로 만들어진 허위 정보였다. 자극적인 내용과 짧은 형식이 결합되면서 해당 영상은 빠르게 확산됐고, 사실 여부와 관계없이 매장 이미지에 타격을 입혔다.
이 같은 현상의 배경에는 AI 슬롭(AI Slop)이라 불리는 저품질 AI 콘텐츠의 범람이 자리하고 있다. 영상 편집 플랫폼 캡윙이 지난해 11월 발표한 분석에 따르면 한국은 전 세계에서 AI 슬롭 소비가 가장 많은 국가로 꼽혔다.
연예계가 특히 취약한 이유는 명확하다. 대중적 인지도가 높아 콘텐츠의 주목도를 쉽게 확보할 수 있다. 여기에 이미지와 평판이 중요한 직업 특성상, 사실 여부와 관계없이 부정적 콘텐츠가 확산될 경우 피해가 빠르게 커진다. 또한 과거 사진과 영상 등 공개된 자료가 많아 AI 학습 데이터로 활용되기 쉽다는 점도 딥페이크 제작을 용이하게 만드는 요인으로 꼽힌다.
실제로 해외에서도 한국 연예인의 딥페이크 피해는 심각한 수준으로 평가된다. 과거 미국 사이버보안 업체 시큐리티 히어로의 보고서에 따르면 전 세계 딥페이크 피해자의 절반 이상이 한국 연예인으로 나타났다. 영국 BBC 역시 한국이 딥페이크 문제에 있어 사실상 비상 상황에 직면해 있다고 지적한 바 있다.
정부는 대응책 마련에 나서고 있다. 행정안전부와 국립과학수사연구원은 AI 딥페이크 탐지 모델을 개발했다. 해당 기술은 영상 전체 흐름을 분석하는 전역 분석과 얼굴 등 특정 부위를 집중적으로 판별하는 국소 분석을 병행해 조작 여부를 보다 정밀하게 가려내는 방식이다. 정부는 이 모델을 다가오는 지방선거 기간에 우선 적용한 뒤 향후 다양한 분야로 확대한다는 계획이다.
다만 딥페이크 콘텐츠는 제작과 유포가 쉽고, 삭제 이후에도 재확산되는 경우가 많아 사후 대응만으로는 한계가 있다. 플랫폼의 자율 규제 강화와 이용자 인식 개선, 법적 대응 체계 정비 등이 함께 이뤄져야 한다는 목소리가 커지고 있다.
[ⓒ 세계비즈앤스포츠월드 & sportsworldi.com, 무단전재 및 재배포 금지]
