AI World 2024 딥페이크 범죄인가? 혁명인가? '딥페이크는 기술이고, 인간의 선택에 달렸다!'

5일, 서울 롯데월드타워 롯데시네마 5층에서 펼쳐진 AI World 2024 행사에서 최근 딥페이크 기술의 발전과 그로 인한 사회적 파장을 주제로 한 강연이 열렸다. 이번 강연에서 IT 커뮤니케이션 연구소의 '김덕진' 소장은 딥페이크 기술의 현재와 그 영향력에 대해 자세히 설명하며 청중들에게 깊은 인상을 남겼다.

@by NCREW (딥페이크, 범죄인가 혁신인가)

김덕진 소장은 강연의 서두에서 딥페이크에 대한 언급이 급증하고 있다는 데이터를 제시했다. 2020년부터 2024년까지 SNS와 뉴스에서 '딥페이크'라는 단어의 언급 빈도가 크게 증가했으며, 특히 2024년 9월 초에는 이전보다 더욱 급격히 늘어났다고 한다. 그는 "이제는 딥페이크가 단순히 기술적 이슈를 넘어 사회적 문제로 대두되고 있다"고 강조했다.

@by NCREW (딥페이크 언급이 급증)

그는 딥페이크 기술이 처음 등장했을 때는 단순한 재미 요소로 여겨졌지만, 현재는 그 파급력이 훨씬 크다고 설명했다. 최근 AI 기술이 빠르게 발전하며 사람들을 혼란스럽게 만들고 있다고 지적하며, 예시로 유명 인물의 이미지를 조작한 사례를 제시했다. 교황의 이미지에 선글라스를 씌우거나, 트럼프 전 대통령이 체포되는 장면을 연출하는 등의 사례는 그 대표적인 예이다.

@by NCREW (딥페이크 사례 발표화면)

특히 김덕진 소장은 이러한 기술이 사회적으로 악용될 가능성에 대해 우려를 표명했다. "기술 자체는 가치 중립적이지만, 이를 어떻게 사용하느냐는 전적으로 인간에게 달려 있다"고 말했다. 또한 딥페이크를 활용한 가짜 뉴스나 조작된 이미지가 실제 사회에 미치는 영향력을 언급하며, "단 몇 초 만에 작성된 가짜 뉴스가 주가를 출렁이게 하는 등 실제 경제에 영향을 미칠 수 있다"고 경고했다.

또한, 그는 강연 중 딥페이크 기술을 활용한 그 위험성을 체감할 수 있는 영상을 공개했다. JTBC의 강지연 앵커의 목소리를 딥페이크 기술로 변조해, 실제로는 하지 않은 "정치의 길로 나서겠다"는 발표를 하도록 했다. 이 가짜 발표는 앵커의 음성 패턴을 완벽히 모방하여 만들어진 것으로, 청중들은 실제와 거의 구분할 수 없었다. 김 소장은 "이처럼 음성을 변조하는 것도 가능해지면서, 누군가의 이미지를 훼손하거나 잘못된 정보를 퍼뜨리는 일이 너무나도 쉬워졌다"고 우려를 표했다.

@by NCREW (딥페이크 사례 발표화면)

강연의 후반부에서는 딥페이크 기술이 더 이상 전문가들만의 전유물이 아님을 강조했다. "이제 누구나 쉽게 딥페이크를 만들 수 있는 시대가 되었다"며, 실제로 자신의 얼굴을 활용해 사장님으로 변신하는 영상을 시연하기도 했다. 그는 "이런 기술이 악용된다면, 우리가 접하는 모든 정보에 대한 신뢰가 무너질 수 있다"고 경고했다.

그러나, 딥페이크 기술이 반드시 부정적인 것만은 아니라는 점도 강조했다. 청각장애인을 위한 목소리 복원, 역사적 인물과의 재회 등 긍정적인 활용 사례를 통해 딥페이크 기술의 양면성을 보여주었다. 그는 "결국 같은 기술도 어떻게 활용하느냐에 따라 그 가치가 달라진다"고 말했다.

강연을 마치며 김덕진 소장은 "AI 기술 발전은 우리에게 무한한 자유를 주지만, 그에 따른 책임도 요구한다"며, "이제는 기술의 발전에 따른 자율과 책임을 명확히 하고, 사회적 가이드라인을 마련해야 할 때"라고 강조했다.

이번 강연은 딥페이크 기술에 대한 이해를 높이고, 이를 올바르게 활용하기 위한 사회적 논의의 중요성을 환기시키는 계기가 되었다.