22일(현지시간) 미 국방부 청사 펜타곤에서 검은 연기가 피어오르는 사진이 트위터에서 급속히 퍼지며 일대 혼란이 일었s는데다. 인공지능(AI)이 만들어낸 허위 이미지로 추정되는 이 사진은 트위터가 진짜임을 인증한 '블루체크' 계정을 중심으로 공유되면서 주식 시장에까지 여파를 미쳤습니다.
유명 계정들 해당 소식 공유
AI가 생성한 허위 콘텐츠가 단시간 빠르게 확산해 사람들을 오인하게 하는 일이 잇따라 발생하면서, AI 부작용에 대한 우려를 키우고 있는데 최초 게시자가 누군지도 불분명한 이 사진은 월요일인 이날 오전 9시를 전후로 트위터에서 빠르게 확산됐다고 합니다. 계정 이름만 보면 블룸버그통신이 운영하는 것으로 착각하기 쉬운 블룸버그피드(bloombergfeed), 160만 명이 넘는 구독자(팔로어)를 둔 월가의 유명 블로거 제로헤지, 수십만 명의 팔로어를 보유한 일부 블루체크 계정들은 해당 사진을 발 빠르게 공유했고, 이를 근거로 인도 방송사와 러시아 해외 선전매체 RT 등은 실제로 펜타곤 폭발 추정 소식을 전하기도 했습니다.
그러나 실제 폭발은 없었는데 펜타곤을 관할하는 버지니아주 알링턴 소방당국은 서둘러 "펜타곤이나 그 근처에서 폭발이나 사건은 발생하지 않았다"고 공지하며 진화에 나섰습니다. 하지만 이미 S&P500 지수가 최대 0.3% 하락하는 등 증시가 영향을 받은 뒤였고 다우존스30 산업평균지수 역시 이날 오전 한때 약 80포인트 하락했다고 워싱턴포스트(WP)는 전했습니다.
불안을 고조시킨 펜타곤 연기 사진은 AI가 만들었을 가능성이 크다고 전문가들은 분석했는데 디지털 포렌식 전문가인 해니 패리드 버클리대 교수는 "사진 속 건물과 울타리에 구조적 오류가 보이는 등 전형적인 AI 합성 징후가 있다"고 말했고 이 사진 외에 다른 사진이나 동영상이 추가로 등장하지 않은 점 역시 AI 조작의 근거로 지목됐습니다.
트위터 캡처 생성 AI발 가짜 이미지가 논란이 된 건 처음이 아닌데 지난 3월엔 도널드 트럼프 전 미국 대통령이 수갑을 차고 경찰에 연행되는 가짜 사진이 유포됐고, 얼마 지나지 않아 프란치스코 교황이 명품 재킷을 입은 허위 사진이 화제가 되기도 했습니다. 그러나 이번 펜타곤 이미지는 금융시장을 출렁이게 하는 등 실제 피해를 불러왔다는 점에서 심각성이 훨씬 크다는 평가가 나오고 있습니다. AI발 가짜 정보가 사회적 혼란을 유발할 것이란 우려가 괜한 걱정이 아니라는 점이 증명된 것입니다.
테크업계에선 AI 생성 이미지가 무분별하게 확산한 데는 유명 인사나 신뢰할 만한 기관에만 부여하던 블루체크를 누구나 매달 8달러만 내면 받을 수 있도록 한 트위터의 책임도 크다고 보고 있는데 여전히 많은 이용자들이 블루체크가 붙은 계정을 '공식 계정'으로 인식하고 있다는데 문제가 있습니다. 이 블루체크 계정들이 가짜뉴스를 퍼 나르다 보니 사람들이 쉽게 진짜인 줄 오해하고 있다는 것입니다. WP는 "가짜 이미지를 유포한 일부 계정엔 파란색 체크가 붙은 반면, 진실을 공유한 미 국방부 방호국(PFPA) 공식 계정엔 파란색 체크도 회색 체크(유료 블루체크와 별도로 정부 계정, 공인 등에 트위터가 붙이는 마크)도 없었다"며 트위터 정책의 불합리함을 꼬집었습니다.
댓글