네이버, 선거철 '딥페이크'대책 발표 ft.딥페이크란?

네이버, 선거철 '딥페이크'대책 발표 ft.딥페이크란?

네이버가 제22대 국회의원 선거를 앞두고 딥페이크와 허위정보의 확산을 막기 위한 대책을 발표했습니다. 이 대책은 생성형 인공지능(AI)을 활용한 딥페이크로부터의 피해를 최소화하기 위한 것입니다. 네이버는 딥페이크와 관련된 검색어를 입력할 경우 주의를 당부하는 안내 문구를 제공합니다.

 

 

이는 딥페이크 기술의 부적절한 사용이나 관련 정보의 찾아보기 의도가 있는 검색어에 대해 표시됩니다. 이러한 조치는 사용자가 정보를 검색하고 소비하는 과정에서 딥페이크 기술의 악용 사례에 대해 경각심을 가질 수 있도록 지원하는 것을 목적으로 합니다.

 

예를 들어, 딥페이크 사이트를 네이버에서 검색할 경우에는 "딥페이크 기술을 사용하고 활용함에 있어 공직선거법이나 성폭력처벌법 등 법령을 위반하거나 제3자의 권리를 침해하지 않도록 주의해 주세요"와 같은 안내 문구가 표시됩니다.

 

또한, 딥페이크의 악용으로 인한 피해 유형이나 피해 신고 방법 등을 안내하는 도움말도 제공됩니다. 이를 통해 사용자의 피해를 최소화하고 안전한 인터넷 환경을 조성하기 위한 노력이 이뤄지고 있습니다. 네이버는 또한 블로그, 카페 등에서 동영상을 게시할 때에도 공직선거법을 준수하도록 딥페이크 관련 안내 문구를 제공하고 있습니다.

 

뉴스 서비스에서는 자동으로 작성된 기사를 사용자가 인지할 수 있도록 표기를 강조하고 있으며, 생성형 AI 서비스인 클로바 X와 CUE: 대화창에서도 선거 관련 사용자 주의 안내 문구가 제공됩니다. 이번 대책은 네이버 이용자보호 및 자율규제위원회의 검토를 거쳐 개선된 것입니다.

 

이 자율규제위원회는 지난해 9월에 출범하여 디지털 환경 변화에 맞춰 이용자 보호와 서비스 개선을 위한 제도적 기반을 마련하고 있습니다. 이를 통해 딥페이크와 같은 디지털 위협으로부터 이용자를 보호하고 안전한 인터넷 이용 환경을 조성하기 위한 노력이 계속되고 있습니다.

 

딥페이크란?

딥페이크(deepfake)란 인공지능을 기반으로 활용한 인간 이미지 합성 기술로, 기존에 있던 인물의 얼굴 이나, 특정한 부위를 영화의 CG처리처럼 합성한 영상편집물을 총칭합니다. 과거 인물의 사진이나 영상을 조악하게 합성해 게시하던 것이 디지털 기술과 인공지능의 발전으로 몇 단계 정교해진 결과라고 볼 수 있습니다.

 

원리는 합성하려는 인물의 얼굴이 주로 나오는 고화질의 동영상을 통해 딥러닝하여, 대상이 되는 동영상을 프레임 단위로 합성 시키는 것이며 병렬연산장치 의 성능에 따라 속도와 품질이 결정됩니다. 과거 2D 수동합성이 기술자의 감각적 스킬에 의존한 반면, 딥페이크의 경우는 좋은 장비를 갖춘 상태에서 적절한 대상을 찾고 충분한 학습량을 먹여야 하는 물량전으로 양상이 변한 셈입니다.

 

현재 생산되는 어느정도 자연스러운 수준의 딥페이크들은 서로 조명 여건이 다른, 앞, 옆, 위, 그리고 아래 등 다양한 각도와 표정을 포함한 3분 정도짜리 비디오 3개 정도면 만들 수 있다고 하며, 실사 영상에 적용하면 이질감이 들지만 원본이 3D CG인 경우 이질감이 줄어드는 특징이 있습니다.