전문가들은 잘못된 정보와 속임수를 막기 위해서 퀸즐랜드주에 새로운 정치 광고법이 제정돼야 한다고 촉구하고 있다.

Queensland Premier Steven Miles said it was concerning that a political party would “be willing to use AI to make deepfake attack videos”. Source: AAP / Darren England

KEY POINTS

• 퀸즐랜드 자유-국민당, 틱톡에 스티븐 마일스 주총리 춤추는 영상 올려
• 생성 인공지능 기술 이용해 만든 영상… AI로 만들었다는 꼬리표 포함
• 전문가 “잘못된 정보와 속임수에 대처하기 위해 더욱 엄격한 정치 광고법 필요”

퀸즐랜드 주총리가 춤을 추는 딥페이크 영상이 나온 후 잘못된 정보를 막기 위한 더욱 강력한 정치 광고법이 필요하다는 목소리가 커지고 있다.

앞서 퀸즐랜드 자유-국민당은 스티븐 마일스 주총리가 2000년대 인기곡에 맞춰 몸을 흔드는 영상을 틱톡에 올렸다.

영상에는 “POV: 내 임대료는 주당 60달러, 전기 요금은 20%가 올랐지만 주총리는 틱톡에서 샌드위치를 만든다”는 글이 포함됐다.

하지만 이 영상은 생성 인공지능 기술을 사용해 만든 것으로 소셜 미디어에는 AI로 만들었다는 꼬리표가 포함돼 있다.

전문가, 더욱 엄격한 정치 광고법 요구

전문가들은 이 영상에 AI 꼬리표가 붙어있긴 하지만 10월 26일 주선거 전에 공개되는 다른 가짜 콘텐츠에 모두 꼬리표가 붙을 것이라는 보장은 없다고 말했다.

호주연구소의 빌 브라운 디렉터는 “가짜 콘텐츠가 정치적 경쟁자를 조롱하는 데 사용되는 밑바닥 경쟁에서 이득을 보는 사람은 아무도 없다”고 지적했다.

브라운은 잘못된 정보와 속임수를 막기 위해서 퀸즐랜드주에 새로운 정치 광고법이 제정돼야 한다고 촉구했다.

한편 호주 선거관리위원회는 올해 초 인공지능 기술과 관련해 선거 통합성과 시민 신뢰의 잠재적 위반을 통제할 수 있는 입법 도구가 부족하다는 점을 우려했다.

이런 가운데 소셜 미디어 전문가 수잔 그랜샘은 정당 외부의 사람이 딥페이크 콘텐츠를 만들 수 있다는 점을 감안할 때 이 공간을 규제하는 것은 어려운 일이라고 지적했다.

그녀는 AAP와의 인터뷰에서 “정치 선거 캠페인에서 인공지능이 생성한 이미지를 묵인하려는 것은 아니다. 하지만 AI 꼬리표를 붙여 진행되고 있다는 사실이 더 긍정적인 발걸음”이라고 말했다.

그랜샘은 틱톡과 같은 플랫폼이 사용자에게 인공지능 기술로 만든 영상이라는 점을 부각할 수 있도록 라벨을 더 두드러지게 만들게 해야 한다고 조언했다.

마일스 주총리: 매우 위험한 전환점

마일스 주총리는 이번에 논란이 된 영상을 언급하며 “민주주의의 전환점”이 될 수 있다고 말했다.

마일스 주총리는 화요일 기자들에게 “지금까지는 사진이 포토샵으로 변할 수 있다는 사실을 알고 있었지만 영상은 보는 데로 믿는 훈련을 받아왔다”라며 “정당이 AI를 이용해 딥페이크 공격 영상을 만들 의향이 있다는 사실은 매우 위험한 전환점”이라고 지적했다.

마일스 주총리는 이어서 퀸즐랜드주 노동당이 선거 광고에 사용하는 동영상에는 딥페이크 영상이 없을 것이라고 강조했다.

하지만 퀸즐랜드주 자유-국민당은 노동당이 인공지능으로 제작한 동영상을 소셜 미디어에 업로드했다고 주장하며 자신들의 입장을 옹호했다.

퀸즐랜드주 자유-국민당 대변인은 “젊은 퀸즐랜드주 주민들이 노동당 아래 임대료 인상과 전기 가격 인상이라는 타격을 입었다. AI로 만들어졌다는 점을 명확하게 밝혔고 이는 우리가 이 메시지를 공유할 수 있는 한 가지 예”라고 주장했다.

이어서 “스티븐 마일스는 많은 창작자들이 AI를 흔히 사용하고 있다는 사실을 알고 있으며 자신의 파티 영상이 AI를 사용했다는 것도 알고 있다”고 덧붙였다.