국내외 주요 IT 기업들이 다가오는 4월 제22대 국회의원 선거를 앞두고 악의적인 ‘딥페이크 콘텐츠’ 방지에 나선다. 보다 적극적인 방안을 제시하며 허위정보 확산을 막을 방침이다.
29일 한국인터넷기업협회에 따르면 구글코리아, 메타, 네이버, 카카오, SK커뮤니케이션즈, 틱톡 등은 국회의원 선거와 재보궐선거의 공정성과 신뢰성을 제고하기 위해 자율협의체를 구성한다.
유권자를 현혹하는 기만적인 인공지능(AI) 사용을 방지하는 것이 목적이다. 정보의 중요성이 높아지고 있는 가운데 참여 기업들은 ‘선거 과정에서 진실된 정보를 전달한다’는 공동 목표를 실현하기 위해 논의를 진행한다.
▲악의적 선거 딥페이크 관련 위험 완화를 위한 노력 ▲악의적 선거 딥페이크 유포 방지를 위한 기업 간 논의 ▲외부 전문가 그룹과의 지속적 논의 등 대응 방안을 마련해 발표할 계획이다.
IT 기업 중 네이버는 이미 안내 문구 등을 통해 주의에 나섰다. 네이버는 측은 “딥페이크 관련 검색어를 입력할 경우 딥페이크 기술 활용에 대한 주의를 당부하는 안내 문구가 제공된다”고 전했다.
딥페이크를 부적절하게 사용하거나 관련 정보를 찾고자 하는 의도가 포함된 키워드를 대상으로 한다. 악용 사례에 대해 경각심을 가질 수 있도록 지원하겠다는 취지다. 딥페이크 사이트를 네이버에 검색할 경우 결과 상단에 ‘딥페이크 기술 접근, 활용함에 있어 공직선거법, 성폭력처벌법 등 법령에 위반되거나 제3자의 권리를 침해하지 않도록 유의해 주세요’라는 문구가 나온다.
뉴스 서비스에서는 AI, 로봇이 자동으로 작성한 기사를 사용자가 잘 인지할 수 있도록 표기를 강조한다. 언론사가 자동 로직으로 생성·전송한 기사 본문 상단과 하단에 ‘이 기사는 해당 언론사의 자동생성 알고리즘을 통해 작성됐습니다’라는 문구가 노출된다. 선거 관련 허위정보 등이 포함된 뉴스 댓글도 신고할 수 있다. 네이버는 신고센터 메인 페이지에 ‘선거 관련 허위 정보 신고’ 채널을 개설했다.
뿐만 아니라 네이버는 자사 생성형 AI 서비스인 클로바 X와 CUE:(큐:) 서비스 대화창 하단에 선거 관련 사용자 주의 안내 문구를 표시할 예정이다. 네이버는 “아직은 생성형 AI의 기술적 한계로 정보 구성에 어려움이 있는 데 반해 선거와 관련된 정보는 작은 오류로도 피해가 발생하고 선거 참여에 영향을 줄 수 있다”며 “그 정확성이 매우 중요하기 때문에 클로바 X, 큐: 서비스를 이용할 때 주의가 필요하다”고 전했다.
올해는 한국뿐 아니라 러시아와 미국 등 여러 국가에서도 선거가 예고돼 있어 보다 확실한 방지 대책이 필요하다.
이상인 방송통신위원회 부위원장은 최근 관련 회의에서 “딥페이크 허위정보로 인한 사회적 혼란을 예방하기 위해서는 플랫폼의 자정 노력이 무엇보다 중요하다”며 “올해 전 세계적으로 큰 선거들을 앞두고 있는 만큼 더욱 적극적이고 선제적인 자율규제에 나서달라”고 요청했다.
신정원 기자 garden1@segye.com
