유료 인증 트위터 계정에 첫 게시
러 해외 선전매체 ‘폭발 보도’ 트윗
블룸버그·가짜뉴스 단체들 확산
다우 4분 만에 85P 급락 뒤 반등

‘백악관 화재’ 가짜 이미지도 돌아
소방·경찰, SNS에 뒷북대응 한계

미국에서 인공지능(AI)으로 만든 가짜 ‘국방부 폭발’ 사진이 돌면서 뉴욕증시에서 주가가 요동쳤다. 진폭은 크지 않았지만 AI 가짜뉴스가 사회 공포를 자극하고, 정치·경제적 타격을 가할 수 있는 실례가 발생한 것이다.

워싱턴포스트(WP)는 22일(현지시간) “블룸버그 피드라는 트위터 계정이 ‘워싱턴DC 펜타곤(국방부 청사) 단지 근처에서 대형 폭발-초기 보고’라는 글과 함께 펜타곤 건물 옆에 거대한 검은 연기 기둥이 있는 이미지를 게시했다”며 “AI가 생성한 가짜 이미지에 (뉴욕증시의) 다우존스30산업평균지수가 4분 만에 85포인트 하락했다 반등하는 등 주식시장이 잠시 요동쳤다”고 보도했다.

사진은 트위터에서 유료 인증을 받은 계정인 ‘@CBKNews121’에 오전 8시 42분쯤 처음 게시됐고, 러시아의 해외 선전매체인 RT가 10시 3분에 “펜타곤 근처에서 폭발 보도가 있다”고 트위터에 썼다. 이어 블룸버그통신과 관련 없는 ‘블룸버그 피드’ 등 가짜뉴스 제조단체들이 확산에 가세했다. 스탠더드앤드푸어스(S&P)500지수는 오전 9시 30분에 0.3% 정도 떨어졌다가 반등했고, 안전자산인 미국 국채와 금의 가격은 반대로 잠시 상승했다.

펜타곤을 담당하는 버지니아주 알링턴 소방서가 오전 10시 27분쯤 “펜타곤이나 그 근처에서 발생한 폭발이나 사건은 아예 없다”고 밝히면서 소동은 진화됐다.

하지만 블룸버그통신은 “AI 가짜뉴스가 시장을 움직인 첫 번째 사례일 가능성이 높다”고 평가했다. 가짜 이미지는 담장이 변형되고 뒤섞인 흔적이 한눈에 보였지만 여파는 작지 않았다. 또 경찰·소방 당국은 소셜미디어를 통한 가짜뉴스의 확산 속도에 뒷북 대응을 할 수밖에 없었다. 이날 백악관에 불이 났다는 가짜 이미지도 돌았다.

미국 공영라디오 NPR은 11달러(약 1만 4500원)에 딥페이크 기술을 적용한 가짜 강의 동영상을 8분 만에 만드는 과정을 소개했다. 미드저니, 챗GPT, 달리E, 스테이블 디퓨전 등 이미지 생성 AI도 다양해진 데다, 달리E는 실제 사람의 얼굴 이미지를 편집할 수 없도록 했던 딥페이크 제한을 지난해 9월 해제했다.

지난달에 도널드 트럼프 전 대통령이 기소당하자 경찰과 몸싸움을 벌이는 가짜 이미지가 퍼졌고, 지난 3월 페이스북은 배우 에마 왓슨과 스칼릿 조핸슨 등 유명 배우들의 딥페이크 성적 광고를 삭제했다. NPR은 “AI로 생성된 딥페이크는 빠르게 진화하지만 정책 입안자들은 이를 따라잡지 못하고 있다”고 지적했다.