가짜와의 전쟁이 시작됐다. 요즘 넘쳐나는 나의 사칭 광고를 보며 이거 정말 보통 문제가 아니라는 생각이다. 그리고 얼마 전 AI 관련 회사와 계약을 맺고 내 자신을 얼굴과 행동뿐만 아니라 목소리까지 딥러닝 시켜 나온 영상을 확인하고서는 놀라움을 금치 못했다. 글을 써서 그냥 대입을 했을 뿐인데 그냥 내가 나와서 방송을 하고 있었다. 놀라웠지만 한편으로는 이거 누군가가 마음먹고 가짜 영상을 만든다면 정말 속수무책으로 당할 것이라는 생각을 더불어 했다.
지금 이 시간에도 온라인에는 수없이 많은 딥페이크 이미지가 나오는 중이다. 일부 딥페이크 사진과 동영상이나 인터뷰 등을 사람들이 진짜라고 착각해 수만 번 이상 공유한 사례도 종종 등장하고 있다. 이 말은 구분을 못해 낸다는 것이다. 누군가의 인터뷰를 조작할 수 있고 누군가의 말들을 왜곡시키기 쉽다는 뜻일 것이다. 누군가를 쉽게 사칭한다는 뜻도 된다.
예전 도널드 트럼프 전 미국 대통령이 뉴욕 경찰에 체포되는 사진이 빠르게 확산했다. 트럼프가 체포하려는 경찰로부터 도망가거나, 경찰의 체포 시도에 강하게 뿌리치는 모습 등 여러 사진이 있었다. 전부 AI 기술이 만든 가짜였다. 가짜지만 그대로 믿는 사람이 많았다라는 것이 더 큰 문제다. 이뿐만 아니라 미국의 유명배우들을 AI로 목소리와 이미지를 가져와 가짜 광고가 판을 치고 있고 이미 국내에서도 유명인을 사칭해 가짜 광고를 만들어 지금현재도 내보내고 있는 중이다. 난 이 가짜광 고로 지금 현재 골머리가 아플 지경이다. 매일 수백 개의 메시지에 아직도 답변을 해주고 있고 내가 나오는 광고는 모두 내 이미지를 이용한 사칭이며 사기라고 글을 계속올리고 있다.
하지만 안 통한다. 결과물이 조잡해 가짜는 금방 들통났던 예전의 기술과는 차원이 다르다. 지금은 당장 유명인과 정치인들 일부의 연예인들의 문제라지만 딥페이크 기술과 AI를 이용한 딥러닝까지 더해진다면 이 사기의 판은 광범위하게 커질 수 있다.
문제는 이제 시작이라는 것이다. 딥페이크 기술은 가족까지 속일 정도로 정교해졌다. 누군가의 SNS 계정에서 목소리와 이미지만을 따와 가족과 친구인 척 행세를 하며 벌어질 금전적인 피해를 생각해 보니 심각하다. 특히 지금의 기술을 잘 받아들이고 이해하지 못하는 우리 부모님 세대가 이 상황과 마주한다면 아찔하기까지 하다. 어디부터 어디까지 설명을 해야 속지 않을 것이라는 가이드라인도 현재는 없다. 그냥 방관만 하고 있으니 말이다. 관련법도 만들어지지 않았다. 외국에서 사칭과 사기를 목적으로 특정인의 이미지와 목소리를 가지고 범죄를 만들어 한다면 고소인마저도 특정할 수 없어서 피해는 고스란히 본인의 몫이 될 수도 있다. 파리드 버클리 캘리포니아대(UC버클리) 컴퓨터 과학 교수는 딥페이크 이미지, 동영상과 진짜를 어떻게 구분할 수 있느냐는 질문에 “행운을 빈다”고 답하기까지 했다.
자, 이제 일이 어디까지 번질 것인가 방관만 하고 있을 시간도 지난 것 같다. 법이 강화될 필요성이 있다. 고도화된 딥페이크 기술이 등장한 지 아직 1년 정도밖에 안됐다. 기술은 더 발전할 것이고 이 상황에서 사칭과 가짜가 난무한다면 많은 피해자가 나오는 것이 불 보듯 뻔하다. 이제는 좀 더 적극적으로 문제의식을 가지고 대응해야한다. 설마 내가 당할까라는 생각이 아닌 우리누구도 범죄의 표적이 될 수 있다는 생각을 해야 한다. 누군가가 나를 사칭해 딥페이크와 AI 기술을 이용해 다른 나를 만들어 돈을 노리고 생각하니 어떤가? 소름끼치지 않는가? 나는 아닐 것이라고 생각하는가? 보이스피싱 때도 그랬다. ‘저걸 왜 당해. 나는 안 당할 것’이라고 말이다.
[ⓒ 세계비즈앤스포츠월드 & sportsworldi.com, 무단전재 및 재배포 금지]
