레고 밈, AI '슬로프로파간다': 이란의 허위정보 기계
Lego memes, AI ‘slopaganda’: Iran’s disinformation machine
Rappler
Gelo Gonzales
EN
2026-04-11 11:00
Translated
이란이 밈, AI, 가짜 인물을 사용하여 온라인에서 전쟁을 어떻게 보는지 형성하고 있는 상황
이것은 오류가 있을 수 있는 AI 생성 요약입니다. 맥락을 위해 항상 전체 기사를 참조하십시오.
레고 밈. 트럼프와 네타냐후를 이란과의 전쟁으로 묘사하는 동영상은 두 사람을 레고 스타일의 캐릭터로 표현합니다.
타스님 뉴스 에이전시 영상 스크린샷
이란, 미국, 이스라엘 간의 갈등이 심화되면서 전쟁터는 물리적 경계를 훨씬 넘어 디지털 세계로 확대되었습니다.
미국 기업 소유 데이터 센터와 중동의 다른 기술 인프라에 대한 위협과 함께, 이란과 그 지지자들은 혼란을 야기하고, 자신의 군사 이미지를 강화하며, 서방 지도자에 대한 대중의 신뢰를 약화시키기 위해 정교한 온라인 영향력 캠페인을 배포했습니다.
앞서 논의했듯이, 이란의 데이터 센터 공격과 호르무즈 해협 폐쇄는 비대칭 전쟁 전략의 일부입니다. 그들은 미국과 이스라엘에 군사적으로 정면 대항할 수 없습니다.
허위정보도 이 전략의 일부이며, 글로벌 인식과 서사를 형성하고 더 짧은 전쟁을 희망하기 위한 것입니다.
노팅엄 트렌트 대학교의 범죄학 선임 강사이자 디지털 전쟁 전문가인 틴 뭉크는 프랑스24에 인용되어, 목표는 인터넷에 재활용되고, 조작되고, 오도하는 콘텐츠를 범람시켜 "의심과 불확실성을 조성"하는 것이라고 말했습니다.
일반적인 주제에는 이스라엘 핵 시설이나 벤 구리온 공항 파괴 주장 같은 이란 군사 성공의 과장 표현과 뉴스가드가 발견한 대로 서방 지도자를 실패나 비겁한 상태로 묘사하는 것이 포함됩니다.
예를 들어, 친중국 계정에서 전파된 광범위한 거짓 주장은 이스라엘 총리 벤자민 네타냐후가 전쟁 시작 시 독일로 도주했다고 제안했습니다.
뉴스가드에 따르면, 전쟁 첫 25일 동안 확인된 50개의 거짓 주장 중 92%가 친이란이었습니다. 나머지 8%는 친이스라엘과 친미였습니다. 이 수치는 이란이 정보 전쟁과 선전 전략의 일부로 허위정보 사용에 더 활발할 수 있음을 보여줍니다.
도널드 트럼프 미국 대통령은 이란처럼 전쟁이 자신들에게 극도로 성공적이었다는 자신의 주장을 밀고 있습니다.
트럼프는 휴전 협정 후 프랑스 통신사에 "완전하고 완벽한 승리. 100%. 의심의 여지가 없습니다"라고 말했습니다. 피트 헤그세스 국방부 장관도 4월 8일 펜타곤 기자회견에서 "에픽 퓨리 작전은 전쟁터에서 역사적이고 압도적인 승리, 자본 V 군사 승리였습니다"라고 말했습니다.
하지만 현실은 그렇게 명확하거나 평가하기 쉽지 않을 수 있습니다. 포인터 연구소의 정치팩트는 "미국이 달성한 것뿐만 아니라 부족함이나 실패를 완전히 평가하는 데는 시간이 걸릴 것입니다. 주요 질문에 답변할 더 많은 세부 사항이 나타날 것입니다: 상업이 호르무즈 해협을 통해 이전 수준에서 흐를까? 가스 가격은 언제 내려갈까? 이란의 새로운 지도자들은 어떻게 권력을 행사할까? 미국이 이제 고갈된 군사 무기고를 다시 비축하는 데 얼마나 걸릴까?"라고 썼습니다.
그들의 분석에서 미국의 승리에는 이란의 해군함대, 무기 공장, 방공 시스템, 드론, 탄도 미사일 능력에 상당한 타격을 주는 것이 포함됩니다. 한편, 외교정책 전문가들은 전쟁이 이란에서 더 급진화된 정권, 미국과 나토 동맹국 간의 긴장된 관계, 그리고 이란이 전 지구적으로 중요한 호르무즈 해협의 보초꾼으로 스스로를 확립하는 것으로 이어질 수 있다고 경고합니다.
미래에 전쟁이 다른 국가들이 미국 공격을 억제하기 위해 핵무기 프로그램을 수립하도록 장려할 가능성도 있습니다. 스팀슨 센터의 선임 펠로우 켈리 A. 그리코는 정치팩트에 "이란은 정확히 아직 핵무기를 가지지 않았기 때문에 이 전쟁에 직면했습니다. 만약 가졌다면 공격은 거의 확실히 일어나지 않았을 것입니다"라고 말했습니다.
이 갈등의 중요한 새로운 발전은 생성형 AI를 의도적으로 사용하여 "슬로프로파간다"를 만드는 것입니다 — 정치 조작에 사용되는 AI 생성 "슬롭"을 설명하기 위해 만들어진 용어입니다.
대화에 따르면, 여기에는 전장 공격의 AI 생성 딥페이크부터 도널드 트럼프와 벤자민 네타냐후 같은 정치 지도자의 레고 인형처럼 스타일링된 기이한 동영상까지 모든 것이 포함됩니다.
이러한 AI 도구는 인간의 감독 없이 행동할 수 있는 온라인 인물의 "가짜 군대"를 만들 수 있게 합니다. 이 콘텐츠의 일부는 레고 동영상처럼 명백히 가짜이지만, 감정적으로 강렬하고 서방 강국과의 부정적인 연관성을 만드는 것을 목표로 하기 때문에 효과적입니다.
전략 대화 연구소의 정보 작전 전문가 멜라니 스미스가 프랑스24에 인용되어, 이 갈등은 AI가 현장의 실시간 사건에 대해 "의도적으로 혼란과 혼동을 뿌리기" 위해 사용된 첫 번째 경우라고 말했습니다.
이란은 혼자 행동하지 않습니다; 러시아와 중국이 관여하는 "허위정보 축"이라고 연구자들이 부르는 것에 의해 지원됩니다. 민주주의 재단(FDD)의 보고서에 따르면, 이 권위주의 동맹국들은 기술 모범 사례를 공유하고 서로의 반서방 서사를 증폭시킵니다.
특히 중국은 이란을 강화하고 서방을 약화시키기 위해 전쟁 허위정보를 쏟아내는 것이 적발되었습니다. 뉴스가드에 따르면, 중국 관영 매체는 자주 이란의 거짓을 반복합니다.
4월 4일 미국 전투기가 이란에 의해 격추된 것으로 확인되었습니다. 하지만 그 전인 3월 2일, 뉴스가드는 이란 관영 매체의 이란이 미국 F-15 전투기를 격추했다는 주장이 중국 소셜 미디어에 퍼져 백만 조회 이상에 도달했음을 발견했습니다. 이 기간 동안, 미군에 따르면 3대의 비행기가 이란이 아닌 쿠웨이트에 의해 실수로 격추되었습니다.
이러한 캠페인은 또한 대만 청중을 대상으로 안정적인 보안 파트너로서 미국에 대한 신뢰를 잠재적으로 감소시킵니다.
한편, 러시아는 광범위한 봇 네트워크를 통해 허위정보를 세탁하는 오랜 전문 지식을 활용하여 FDD에 따라 이러한 이야기에 더 많은 도달을 제공합니다.
미국 정부가 전쟁을 끝내도록 압력을 가하기 위해 이란 영향력 작전은 특히 미국 여론을 목표로 합니다.
클렘슨 대학교의 연구에 따르면, 이란 혁명수비대(IRGC)는 텍사스나 캘리포니아의 "라티나" 여성 같은 일반 시민인 척하는 가짜 소셜 미디어 계정 네트워크를 운영하여 이민 같은 분열적인 지역 문제와 ICE(이민세관단속국) 장교의 공격적 배포에 대해 논의합니다.
이러한 계정이 청중을 구축하면, 친이란 전쟁 선전 게시로 전환합니다.
또한 영국, 스코틀랜드, 또는 아일랜드에서 온 것으로 주장하는 두 그룹의 계정이 있었는데, 이전에 해당 국가와 관련된 문제에 대한 콘텐츠를 밀었습니다. 하지만 전쟁이 시작되자, 이 그룹들도 친이란 선전을 밀기 시작했습니다.
클렘슨 연구는 다음과 같이 썼습니다: "실존적 위협에 직면하여 이란은 분명히 갈등을 단축할 수 있는 콘텐츠를 우선시했으며, 미국이나 이스라엘 본토에 최선으로 도달하지 못했을 수도 있는 콘텐츠를 포함하여 모든 가용 자원을 사용했습니다.
"마지막으로, 우리는 이러한 계정을 더 광범위한 캠페인의 일부일 뿐이라고 생각합니다.
연구는 경고했습니다: "계정은 팟으로 운영되었으며, 우리의 탐지 방법은 이용 가능한 시간 내에 각 플랫폼의 모든 계정을 식별하지 못했을 가능성이 높습니다. 외국 영향 위험이 특별히 높은 것으로 밝혀진 커뮤니티를 계속 모니터링하여 정통 담론에 대한 잠재적 해를 완화하는 것이 중요할 것입니다."
전쟁 시작 24시간 이내에, 이전에 스코틀랜드 독립이나 미국 이민 같은 지역 문제에 대해 논의했던 이 모든 계정들은 동시에 동일한 친이란 전쟁 선전을 게시하도록 전환했습니다.
클렘슨 연구의 저자 중 한 명인 대렌 린빌은 "이란은 상당히 성공했으며, 확실히 미국과 이스라엘보다 더 성공적으로, 광범위한 청중에 도달하고 다른 경우보다 더 많은 지지를 얻었습니다"라고 말했습니다.
3월 중순의 입소스 조사는 "58%가 이란에 대한 미국 군사 공격을 부인한다고 말했으며, 38%가 승인한다고 말했습니다"라는 것을 발견했습니다.
"미국인의 대다수(85%)가 이란에 대한 미국 행동의 일부로 미국 군 인원의 생명에 대한 위험을 매우 또는 어느 정도 우려한다고 말했습니다. 미국에 미군 지상군을 배치하는 아이디어는 극도로 인기 없습니다: 78%가 이를 반대할 것이라고 말했으며, 17%만이 찬성할 것이라고 말했습니다"라고 조사는 발견했습니다.
이것은 이스라엘-하마스 전쟁 시작 같은 전에 일어난 것처럼 전례 없는 것은 아닙니다.
비디오 게임은 계속해서 가짜 전쟁 영상의 원천입니다.
뉴스가드에 따르면, 호르무즈 해협에서 미국 해군함을 타격하는 이란 미사일을 보여주는 것으로 알려진 광범위하게 공유된 동영상은 실제로 비디오 게임의 영상이었습니다. 주의 깊은 분석은 프레임에 보이는 마우스 커서와 저해상도 "애니메이션" 물을 드러냈지만, 사이트는 어느 비디오 게임인지 특정할 수 없었습니다.
흥미롭게도, 양쪽 모두 이것으로 고소되었습니다; 백악관도 전쟁 영상을 그랜드 도둑 자동차 같은 액션 영화 및 비디오 게임 클립과 결합한 동영상을 게시했습니다.
이란의 디지털 전쟁 교훈은 다시 한 번 다른 국가들이 "정보 전장"을 현대 갈등에서 2차적 관심보다는 주요 전선으로 봐야 함을 시사합니다.
FDD는 이러한 캠페인에 대항할 수 있는 기관에 대한 자금 감소가 미국에 대한 타격이라고 경고했습니다. "워싱턴은 AI 지원 허위정보의 확산에 대항하는 데 중요한 역할을 할 수 있습니다. 하지만 FBI의 외국 영향 태스크포스, 국무부의 글로벌 참여 센터, 국가정보국 국장실의 외국 악의 영향 센터에 대한 상당한 자금 감소는 정부의 외국 영향력 작전에 대응할 능력을 크게 약화시켰습니다."
소셜 미디어 회사의 경우, 플랫폼은 "국가가 후원하는 허위정보 소스를 강제하기 위해 비재정적 결과를 고려해야 합니다."
X를 특정하면서, 라벨링되지 않은 AI 전쟁 동영상을 공유한 제작자를 중단하는 플랫폼의 정책은 "수익화 논쟁의 내용"을 추구하는 사람들만을 다루었습니다. 하지만 정책은 "허위정보를 확산하려는 목적인 국가와 협력하는 계정을 억제하는 데 아무것도 하지 않습니다. 수익을 만들지 않습니다."
또한, 대화에 따르면, AI 생성 콘텐츠에 워터마킹하고 디지털 문해력 프로그램에 자금을 지원하기 위한 세금을 통해 기술 거인들을 책임지는 것 같은 업계 전반의 기술적 수정은 사회의 "공유된 진실"을 보호하기 위해 필수적입니다. – Rappler.com
레고 밈. 트럼프와 네타냐후를 이란과의 전쟁으로 묘사하는 동영상은 두 사람을 레고 스타일의 캐릭터로 표현합니다.
타스님 뉴스 에이전시 영상 스크린샷
이란, 미국, 이스라엘 간의 갈등이 심화되면서 전쟁터는 물리적 경계를 훨씬 넘어 디지털 세계로 확대되었습니다.
미국 기업 소유 데이터 센터와 중동의 다른 기술 인프라에 대한 위협과 함께, 이란과 그 지지자들은 혼란을 야기하고, 자신의 군사 이미지를 강화하며, 서방 지도자에 대한 대중의 신뢰를 약화시키기 위해 정교한 온라인 영향력 캠페인을 배포했습니다.
앞서 논의했듯이, 이란의 데이터 센터 공격과 호르무즈 해협 폐쇄는 비대칭 전쟁 전략의 일부입니다. 그들은 미국과 이스라엘에 군사적으로 정면 대항할 수 없습니다.
허위정보도 이 전략의 일부이며, 글로벌 인식과 서사를 형성하고 더 짧은 전쟁을 희망하기 위한 것입니다.
노팅엄 트렌트 대학교의 범죄학 선임 강사이자 디지털 전쟁 전문가인 틴 뭉크는 프랑스24에 인용되어, 목표는 인터넷에 재활용되고, 조작되고, 오도하는 콘텐츠를 범람시켜 "의심과 불확실성을 조성"하는 것이라고 말했습니다.
일반적인 주제에는 이스라엘 핵 시설이나 벤 구리온 공항 파괴 주장 같은 이란 군사 성공의 과장 표현과 뉴스가드가 발견한 대로 서방 지도자를 실패나 비겁한 상태로 묘사하는 것이 포함됩니다.
예를 들어, 친중국 계정에서 전파된 광범위한 거짓 주장은 이스라엘 총리 벤자민 네타냐후가 전쟁 시작 시 독일로 도주했다고 제안했습니다.
뉴스가드에 따르면, 전쟁 첫 25일 동안 확인된 50개의 거짓 주장 중 92%가 친이란이었습니다. 나머지 8%는 친이스라엘과 친미였습니다. 이 수치는 이란이 정보 전쟁과 선전 전략의 일부로 허위정보 사용에 더 활발할 수 있음을 보여줍니다.
도널드 트럼프 미국 대통령은 이란처럼 전쟁이 자신들에게 극도로 성공적이었다는 자신의 주장을 밀고 있습니다.
트럼프는 휴전 협정 후 프랑스 통신사에 "완전하고 완벽한 승리. 100%. 의심의 여지가 없습니다"라고 말했습니다. 피트 헤그세스 국방부 장관도 4월 8일 펜타곤 기자회견에서 "에픽 퓨리 작전은 전쟁터에서 역사적이고 압도적인 승리, 자본 V 군사 승리였습니다"라고 말했습니다.
하지만 현실은 그렇게 명확하거나 평가하기 쉽지 않을 수 있습니다. 포인터 연구소의 정치팩트는 "미국이 달성한 것뿐만 아니라 부족함이나 실패를 완전히 평가하는 데는 시간이 걸릴 것입니다. 주요 질문에 답변할 더 많은 세부 사항이 나타날 것입니다: 상업이 호르무즈 해협을 통해 이전 수준에서 흐를까? 가스 가격은 언제 내려갈까? 이란의 새로운 지도자들은 어떻게 권력을 행사할까? 미국이 이제 고갈된 군사 무기고를 다시 비축하는 데 얼마나 걸릴까?"라고 썼습니다.
그들의 분석에서 미국의 승리에는 이란의 해군함대, 무기 공장, 방공 시스템, 드론, 탄도 미사일 능력에 상당한 타격을 주는 것이 포함됩니다. 한편, 외교정책 전문가들은 전쟁이 이란에서 더 급진화된 정권, 미국과 나토 동맹국 간의 긴장된 관계, 그리고 이란이 전 지구적으로 중요한 호르무즈 해협의 보초꾼으로 스스로를 확립하는 것으로 이어질 수 있다고 경고합니다.
미래에 전쟁이 다른 국가들이 미국 공격을 억제하기 위해 핵무기 프로그램을 수립하도록 장려할 가능성도 있습니다. 스팀슨 센터의 선임 펠로우 켈리 A. 그리코는 정치팩트에 "이란은 정확히 아직 핵무기를 가지지 않았기 때문에 이 전쟁에 직면했습니다. 만약 가졌다면 공격은 거의 확실히 일어나지 않았을 것입니다"라고 말했습니다.
이 갈등의 중요한 새로운 발전은 생성형 AI를 의도적으로 사용하여 "슬로프로파간다"를 만드는 것입니다 — 정치 조작에 사용되는 AI 생성 "슬롭"을 설명하기 위해 만들어진 용어입니다.
대화에 따르면, 여기에는 전장 공격의 AI 생성 딥페이크부터 도널드 트럼프와 벤자민 네타냐후 같은 정치 지도자의 레고 인형처럼 스타일링된 기이한 동영상까지 모든 것이 포함됩니다.
이러한 AI 도구는 인간의 감독 없이 행동할 수 있는 온라인 인물의 "가짜 군대"를 만들 수 있게 합니다. 이 콘텐츠의 일부는 레고 동영상처럼 명백히 가짜이지만, 감정적으로 강렬하고 서방 강국과의 부정적인 연관성을 만드는 것을 목표로 하기 때문에 효과적입니다.
전략 대화 연구소의 정보 작전 전문가 멜라니 스미스가 프랑스24에 인용되어, 이 갈등은 AI가 현장의 실시간 사건에 대해 "의도적으로 혼란과 혼동을 뿌리기" 위해 사용된 첫 번째 경우라고 말했습니다.
이란은 혼자 행동하지 않습니다; 러시아와 중국이 관여하는 "허위정보 축"이라고 연구자들이 부르는 것에 의해 지원됩니다. 민주주의 재단(FDD)의 보고서에 따르면, 이 권위주의 동맹국들은 기술 모범 사례를 공유하고 서로의 반서방 서사를 증폭시킵니다.
특히 중국은 이란을 강화하고 서방을 약화시키기 위해 전쟁 허위정보를 쏟아내는 것이 적발되었습니다. 뉴스가드에 따르면, 중국 관영 매체는 자주 이란의 거짓을 반복합니다.
4월 4일 미국 전투기가 이란에 의해 격추된 것으로 확인되었습니다. 하지만 그 전인 3월 2일, 뉴스가드는 이란 관영 매체의 이란이 미국 F-15 전투기를 격추했다는 주장이 중국 소셜 미디어에 퍼져 백만 조회 이상에 도달했음을 발견했습니다. 이 기간 동안, 미군에 따르면 3대의 비행기가 이란이 아닌 쿠웨이트에 의해 실수로 격추되었습니다.
이러한 캠페인은 또한 대만 청중을 대상으로 안정적인 보안 파트너로서 미국에 대한 신뢰를 잠재적으로 감소시킵니다.
한편, 러시아는 광범위한 봇 네트워크를 통해 허위정보를 세탁하는 오랜 전문 지식을 활용하여 FDD에 따라 이러한 이야기에 더 많은 도달을 제공합니다.
미국 정부가 전쟁을 끝내도록 압력을 가하기 위해 이란 영향력 작전은 특히 미국 여론을 목표로 합니다.
클렘슨 대학교의 연구에 따르면, 이란 혁명수비대(IRGC)는 텍사스나 캘리포니아의 "라티나" 여성 같은 일반 시민인 척하는 가짜 소셜 미디어 계정 네트워크를 운영하여 이민 같은 분열적인 지역 문제와 ICE(이민세관단속국) 장교의 공격적 배포에 대해 논의합니다.
이러한 계정이 청중을 구축하면, 친이란 전쟁 선전 게시로 전환합니다.
또한 영국, 스코틀랜드, 또는 아일랜드에서 온 것으로 주장하는 두 그룹의 계정이 있었는데, 이전에 해당 국가와 관련된 문제에 대한 콘텐츠를 밀었습니다. 하지만 전쟁이 시작되자, 이 그룹들도 친이란 선전을 밀기 시작했습니다.
클렘슨 연구는 다음과 같이 썼습니다: "실존적 위협에 직면하여 이란은 분명히 갈등을 단축할 수 있는 콘텐츠를 우선시했으며, 미국이나 이스라엘 본토에 최선으로 도달하지 못했을 수도 있는 콘텐츠를 포함하여 모든 가용 자원을 사용했습니다.
"마지막으로, 우리는 이러한 계정을 더 광범위한 캠페인의 일부일 뿐이라고 생각합니다.
연구는 경고했습니다: "계정은 팟으로 운영되었으며, 우리의 탐지 방법은 이용 가능한 시간 내에 각 플랫폼의 모든 계정을 식별하지 못했을 가능성이 높습니다. 외국 영향 위험이 특별히 높은 것으로 밝혀진 커뮤니티를 계속 모니터링하여 정통 담론에 대한 잠재적 해를 완화하는 것이 중요할 것입니다."
전쟁 시작 24시간 이내에, 이전에 스코틀랜드 독립이나 미국 이민 같은 지역 문제에 대해 논의했던 이 모든 계정들은 동시에 동일한 친이란 전쟁 선전을 게시하도록 전환했습니다.
클렘슨 연구의 저자 중 한 명인 대렌 린빌은 "이란은 상당히 성공했으며, 확실히 미국과 이스라엘보다 더 성공적으로, 광범위한 청중에 도달하고 다른 경우보다 더 많은 지지를 얻었습니다"라고 말했습니다.
3월 중순의 입소스 조사는 "58%가 이란에 대한 미국 군사 공격을 부인한다고 말했으며, 38%가 승인한다고 말했습니다"라는 것을 발견했습니다.
"미국인의 대다수(85%)가 이란에 대한 미국 행동의 일부로 미국 군 인원의 생명에 대한 위험을 매우 또는 어느 정도 우려한다고 말했습니다. 미국에 미군 지상군을 배치하는 아이디어는 극도로 인기 없습니다: 78%가 이를 반대할 것이라고 말했으며, 17%만이 찬성할 것이라고 말했습니다"라고 조사는 발견했습니다.
이것은 이스라엘-하마스 전쟁 시작 같은 전에 일어난 것처럼 전례 없는 것은 아닙니다.
비디오 게임은 계속해서 가짜 전쟁 영상의 원천입니다.
뉴스가드에 따르면, 호르무즈 해협에서 미국 해군함을 타격하는 이란 미사일을 보여주는 것으로 알려진 광범위하게 공유된 동영상은 실제로 비디오 게임의 영상이었습니다. 주의 깊은 분석은 프레임에 보이는 마우스 커서와 저해상도 "애니메이션" 물을 드러냈지만, 사이트는 어느 비디오 게임인지 특정할 수 없었습니다.
흥미롭게도, 양쪽 모두 이것으로 고소되었습니다; 백악관도 전쟁 영상을 그랜드 도둑 자동차 같은 액션 영화 및 비디오 게임 클립과 결합한 동영상을 게시했습니다.
이란의 디지털 전쟁 교훈은 다시 한 번 다른 국가들이 "정보 전장"을 현대 갈등에서 2차적 관심보다는 주요 전선으로 봐야 함을 시사합니다.
FDD는 이러한 캠페인에 대항할 수 있는 기관에 대한 자금 감소가 미국에 대한 타격이라고 경고했습니다. "워싱턴은 AI 지원 허위정보의 확산에 대항하는 데 중요한 역할을 할 수 있습니다. 하지만 FBI의 외국 영향 태스크포스, 국무부의 글로벌 참여 센터, 국가정보국 국장실의 외국 악의 영향 센터에 대한 상당한 자금 감소는 정부의 외국 영향력 작전에 대응할 능력을 크게 약화시켰습니다."
소셜 미디어 회사의 경우, 플랫폼은 "국가가 후원하는 허위정보 소스를 강제하기 위해 비재정적 결과를 고려해야 합니다."
X를 특정하면서, 라벨링되지 않은 AI 전쟁 동영상을 공유한 제작자를 중단하는 플랫폼의 정책은 "수익화 논쟁의 내용"을 추구하는 사람들만을 다루었습니다. 하지만 정책은 "허위정보를 확산하려는 목적인 국가와 협력하는 계정을 억제하는 데 아무것도 하지 않습니다. 수익을 만들지 않습니다."
또한, 대화에 따르면, AI 생성 콘텐츠에 워터마킹하고 디지털 문해력 프로그램에 자금을 지원하기 위한 세금을 통해 기술 거인들을 책임지는 것 같은 업계 전반의 기술적 수정은 사회의 "공유된 진실"을 보호하기 위해 필수적입니다. – Rappler.com
What to know as Iran uses memes, AI, and fake personas to shape how the war is seen online
This is AI generated summarization, which may have errors. For context, always refer to the full article.LEGO MEMES. A video mocking Trump and Netanyahu on their war against Iran depicts the two as Lego-style characters
Screenshot from video by Tasnim News Agency
As the conflict between Iran, the United States, and Israel intensifies, the battlefield has expanded far beyond physical borders, and as expected, into the digital world.
Along with threats to US company-owned data centers and other tech infrastructure in the Middle East, Iran and its supporters have deployed a sophisticated online influence campaign designed to sow confusion, boost its own military image, and weaken the public’s trust in Western leadership.
As we’ve previously discussed, Iran’s targeting of data centers, and its closure of the Strait of Hormuz are part of its asymmetrical warfare strategy. They cannot face the US and Israel head on, militarily.
Disinformation is also part of that, with the goal of shaping global perceptions and narratives, with the hopes of a shorter war.
According to Tine Munk, senior lecturer in criminology at Nottingham Trent University and a specialist in digital warfare, quoted by France24, the goal is to “create doubt and uncertainty” by flooding the internet with a mix of recycled, fabricated, and misleading content.
Common themes include overstating Iranian military successes — such as claims of destroying Israeli nuclear facilities or the Ben Gurion Airport — and portraying Western leaders as being in a state of failure or cowardice, as NewsGuard has found.
For example, widespread false claims, propagated by pro-China accounts, suggested that Israeli Prime Minister Benjamin Netanyahu fled to Germany at the start of the war.
According to NewsGuard, of 50 false claims identified in the first 25 days of the war, 92% were pro-Iranian. The other 8% were pro-Israel and pro-US. The number offers a peek at how Iran may be more active with the use of disinformation as part of its information warfare and propaganda strategy.
US President Donald Trump, like Iran, has been pushing his own claims that the war has been extremely successful for them.
Trump, after the ceasefire agreement, told Agence France-Presse: “Total and complete victory. 100%. No question about it.” Defense Secretary Pete Hegseth also said at a Pentagon press conference on April 8: “Operation Epic Fury was a historic and overwhelming victory on the battlefield, a capital-V military victory.”
However, the reality may not be as clear-cut and easy to assess. Politifact by the Poynter Institute wrote: “It will take time to fully assess what the US achieved — as well as any shortcomings or failures. More details will emerge to answer key questions: Will commerce flow through the Strait of Hormuz at its previous levels? When will gas prices decline? How will Iran’s new leaders exercise their power? And how long will it take for the US to restock its now-depleted military arsenal?”
In their analysis, victories for the US include dealing significant blows to Iran’s naval fleet, weapons factories, air defense systems, drones, and ballistic missile capabilities. On the other hand, foreign policy experts warn that the war may lead to a more radicalized regime in Iran, strained relationships between US and NATO allies, and Iran firmly establishing itself as the gatekeeper of the globally crucial Strait of Hormuz.
There might also be a chance that, in the future, the war could encourage other states to establish a nuclear weapons program to deter a US attack. “Iran faced this war precisely because it didn’t yet have a nuclear weapon. If it had, the attack almost certainly wouldn’t have happened,” Kelly A. Grieco, a senior fellow at foreign policy think tank The Stimson Center, told Politifact.
A significant new development in this conflict is the intentional use of generative AI to create “slopaganda” — a term coined to describe AI-generated “slop” used for political manipulation.
According to The Conversation, this includes everything from AI-generated deepfakes of battlefield strikes to bizarre videos of political leaders, like Donald Trump and Benjamin Netanyahu, styled as Lego figurines.
These AI tools allow for the creation of “fake armies” of online personas that can act without human oversight. While some of this content is obviously fake, such as the Lego videos, it is effective because it is emotionally arresting and aims to create negative associations with Western powers.
According to Melanie Smith, an expert in information operations at the Institute for Strategic Dialogue quoted by France24, this conflict marks the first time AI has been used so “intentionally to sow chaos and confusion” about real-time events on the ground.
Iran is not acting alone; it is supported by what researchers call an “axis of disinformation” involving Russia and China. According to a report from the Foundation for Defense of Democracies (FDD), these authoritarian allies share technology best practices and amplify each other’s anti-Western narratives.
China, specifically, has been caught pumping out war disinformation to boost Iran and undermine the West. According to NewsGuard, Chinese state media frequently repeats Iranian falsehoods.
On April 4, a US fighter jet was confirmed to have been shot down by Iran. But prior to that, on March 2, NewsGuard found that there had been a claim by Iranian state media that Iran shot down a US F-15 fighter jet, which spread on Chinese social media, reaching more than a million views. During this time, according to the US military, three planes were inadvertently shot down by Kuwait, not by Iran.
These campaigns also target Taiwanese audiences to potentially reduce their confidence in the US as a reliable security partner.
Meanwhile, Russia leverages its long-standing expertise in laundering disinformation through vast bot networks to give these stories more reach, according to FDD.
To pressure the US government to end the war, Iranian influence operations specifically target American public opinion.
According to a study by Clemson University, the Iranian Revolutionary Guard Corps (IRGC) operates networks of fake social media accounts that pretend to be ordinary citizens — such as “Latina” women in Texas or California — to discuss divisive local issues like immigration such as the aggressive deployment of ICE (Immigration and Customs Enforcement) officers.
Once these accounts build an audience, they pivot to posting pro-Iranian war propaganda.
There were also two groups of accounts claiming to be from England, Scotland, or Ireland that had previously pushed content on issues relating to those respective countries. But when the war began, these groups also started to push pro-Iran propaganda.
The Clemson study wrote: “Facing an existential threat, Iran clearly prioritized content that might best shorten the conflict and they employed all available resources to do so, even those that might not best reach the US or Israeli homefront.
“Finally, we should point out that we believe these accounts to be only a portion of a broader campaign.”
The study warned: “The accounts operated in pods, and our detection methods very likely did not identify all accounts on each platform within the available time. It will be important to continue to monitor communities found to be at particular risk of foreign influence to mitigate potential harms to authentic discourse.”
Within 24 hours of the war’s start, all these accounts, which previously discussed local issues like Scottish independence or US immigration, simultaneously shifted to posting identical pro-Iranian war propaganda.
“Iran has been fairly successful, certainly more successful than the US and Israel, in reaching a broad audience and gaining more support than they might otherwise have,” said one of the authors of the Clemson study, Darren Linvill.
An Ipsos survey in mid-March found that overall, “58% say they disapprove of US military strikes against Iran, compared with 38% who say they approve.”
“A large majority of Americans (85%) say they are very or somewhat concerned about the risks to the lives of American military personnel as part of US actions in Iran. The idea of deploying US ground troops to Iran is deeply unpopular: 78% say they would oppose this, compared with just 17% who would favor it,” the survey found.
This is not unprecedented as it has happened before such as during the start of the Israel-Hamas war.
Video games continue to be a source of fake war footage.
According to NewsGuard, a widely shared video allegedly showing Iranian missiles striking a US Navy ship in the Strait of Hormuz was actually footage from a video game. Careful analysis revealed a mouse cursor visible in the frame and low-resolution “animated” water, but the site couldn’t specify which video game.
Interestingly, both sides have been accused of this; the White House has also posted videos that combined war footage with clips from action movies and video games like Grand Theft Auto.
Once again, the lessons from Iran’s digital warfare suggest that other nations must view the “information battlefield” as a primary front in modern conflict, rather than a secondary concern.
The FDD warned that the reduced funding for agencies that could have countered these campaigns were a blow for the US.It said: “Washington has a critical role to play in combating the spread of AI-enabled disinformation. However, significant cuts to the FBI’s Foreign Influence Task Force, the State Department’s Global Engagement Center, and the Foreign Malign Influence Center at the Office of the Director of National Intelligence have greatly diminished the government’s ability to counter foreign influence operations.”
For social media companies, it said that platforms must “begin to consider nonfinancial consequences to disempower state-sponsored sources of disinformation.”
Specifying X, it said that the platform’s policy of suspending creators who shared unlabeled AI war videos only addressed those seeking to “monetize controversial content.” But the policy “does nothing to deter state-aligned accounts whose purpose is to spread disinformation, not to make a profit.”
Furthermore, according to The Conversation, industry-wide technological fixes such as watermarking AI-generated content and holding tech giants accountable through taxation to fund digital literacy programs are essential to protect the “shared truth” of a society. – Rappler.com
How does this make you feel?