구글은 11월 중순부터 모든 선거 광고주가 광고에 AI로 생성된 콘텐츠가 포함될 경우 명확하고 눈에 띄는 공개를 추가하도록 의무화할 것이라고 7일(현지 시각) 밝혔다.

구글은 블로그 게시물에 모든 플랫폼의 이미지, 비디오 및 오디오 콘텐츠에 적용될 것이라고 밝혔다.

생성형 인공 지능(AI) 도입이 붐을 이루면서 AI 도구를 사용하여 영화 대본부터 광고용 비디오, 이미지 및 사운드까지 콘텐츠를 제작할 수 있는 기회가 생겼다.

AI 알고리즘으로 만들어진 딥페이크는 사실과 허구의 경계를 모호하게 만들어 유권자들이 진짜와 가짜를 구분하기 어렵게 만들 위험이 있다.

구글은 오는 11월부터 시행되는 새로운 정책은 광고에만 적용되며 유튜브 등에 올라오는 일반 콘텐츠는 대상이 아니라고 말했다.

[AP/연합뉴스 제공]

구글이 소유한 사이버 보안 회사 맨디언트(Mandiant)는 지난달에 최근 몇 년 동안 온라인에서 조작된 정보 캠페인을 수행하기 위해 AI를 사용하는 사례가 증가하고 있지만, 지금까지는 다른 디지털 침입에 이 기술을 사용하는 것이 제한적이었다고 말했다.

맨디언트에 따르면 제너레이티브 AI는 제한된 리소스를 가진 그룹이 고품질 콘텐츠를 대규모로 제작할 수 있을 것이다.

구글은 이미 유권자를 속이는 딥페이크(AI를 이용해 특정 인물의 얼굴 등을 특정 영상에 합성한 편집물)를 금지했으나 생성형 AI 챗봇 등장과 함께 이미지 조작 가능성이 커짐에 따라 이런 결정을 내렸다고 설명했다고 워싱턴포스트(WP)는 말했다.

구글은 내년 11월 미국에서 차기 대통령을 선출할 예정인 가운데 투명성 조치에 대한 업데이트를 발표하고 있다.

구글은 광고의 주장과 관련이 없는 합성 콘텐츠는 공개 요건에서 제외될 것이라고 말했다.