최근 미국 뉴햄프셔 프라이머리를 앞두고 민주당 당원에게 투표 거부를 독려하는 조 바이든 미국 대통령의 가짜 목소리를 담은 전화가 돌면서 딥페이크 선거운동에 대한 우려가 커졌다. 지난해 초에는 경찰에 체포되는 도널드 트럼프 전 대통령의 사진이 퍼지는 등 인공지능(AI)으로 생성된 이미지가 혼란을 일으켰다.

대통령 선거를 앞두고 민주당과 공화당의 주별 경선이 이어지는 가운데 유권자에게 잘못된 인식을 심어줄 수 있는 이미지를 경계하기 위해 AI 기업들이 자사 AI로 정치적 이미지를 생성하지 못하도록 제한하는 방안을 검토하고 있다.

10일(현지시간) 영국 가디언에 따르면 AI 이미지 생성 기업 미드저니의 최고경영자(CEO) 데이비드 홀츠는 앞으로 1년 동안 유력 대선 후보 등과 관련한 이미지 생성을 금지 또는 제한할 예정이라고 설명했다.

또 다른 AI 이미지 생성 기업 인플렉션 AI도 자사 챗봇인 ‘파이’가 정치 후보 지지 발언을 못하도록 하는 조치를 할 계획이다.

AI 기업들은 AI 이미지에 라벨을 부착해 출처를 알 수 있게하는 정책을 연이어 발표하고 있다. 페이스북 모회사 메타와 구글, 챗GPT 개발사 오픈AI도 이런 방침을 알리면서 “선거의 무결성을 보호하려면 민주적 절차의 모든 부분에서 협력이 필요하다. 우리 기술이 이 절차를 훼손하는 방식으로 사용되지 않도록 하고자 한다”고 의미를 부여했다.

미 연방통신위원회(FCC)는 AI로 만든 선거 운동용 자동 녹음 전화를 금지했고, AI를 활용한 딥페이크 선거운동을 규제하기 위한 법안 발의도 잇따르고 있다.