이스라엘의 휴전 위반
하노버 사건은 이스라엘의 선전 활동이 대중의 인식을 점점 더 좌우하는 인공지능 시스템에 맞춰 어떻게 변화하고 있는지를 보여준다.
팔레스타인을 둘러싼 전투는 한 번도 지상에서만 벌어진 적이 없다. 수십 년 동안 이스라엘과 강력한 정치·로비·홍보 네트워크는 워싱턴과 서구 사회 전반에서 이 분쟁이 어떻게 이해될지를 좌우하기 위해 막대한 자원을 투입해왔다. 그러나 이스라엘의 지원을 받은 영향력 공작에 대한 조사는 이러한 활동이 새롭고, 어쩌면 더 중대한 영역으로 진입했음을 시사한다. 수백만 명이 무엇이 진실인지 판단하기 위해 점점 더 많이 사용하는 인공지능 시스템이 그 무대다.
최근 조사에서 하노버 공공정책연구소는 실제 사무실이나 확인 가능한 연구자, 실질적인 기관 기반이 없는 유령 미국 싱크탱크로 드러났다. 대신 이 연구소는 검색엔진 결과를 조작하고 AI 챗봇이 생성하는 답변에 영향을 주기 위해 만들어진 정교한 선전 조직으로 보인다.
외국대리인등록법(FARA)에 따라 제출된 문서에 따르면 이 조직의 자금은 광고·홍보 회사를 거쳐 이스라엘 정부 광고기관인 LaPam으로 흘러갔다. 관련 업무를 맡은 뉴욕 광고회사 Piro Inc는 이스라엘 측과 90만달러 규모의 디지털 커뮤니케이션 업무 계약을 맺고 있었다.
이 사건을 이례적으로 만드는 것은 단지 이스라엘 정부의 지원을 받은 조직이 여론에 영향을 미치려 했다는 사실이 아니다. 정부는 늘 그렇게 해왔다. 다른 점은 여론을 점점 더 좌우하는 기계에 영향을 미치려 한 정황이다.
보도에 따르면 하노버 웹사이트는 불과 9일 만에 학술 보고서 형식의 문서 124건, 56만 단어 이상을 생산했다. 이 자료는 AI 시스템에 입력될 가능성이 높은 질문을 중심으로 구성됐다. 가령 가자지구에서 기아를 유발하는 정책이 시행됐는지, 이스라엘군이 “세계에서 가장 도덕적인 군대”인지 등을 다뤘다.
Piro는 이러한 접근법을 검색엔진에 자료를 잘 노출시키고 대규모 언어모델이 쉽게 이해하도록 설계하는 “AI 스토리 최적화”라고 홍보한다. 해당 웹사이트에는 AI 시스템이 자료를 더 쉽게 찾고 처리할 수 있도록 하는 기술적 기능도 포함돼 있었다.
따라서 목표는 단순히 독자를 설득하는 데 있지 않았다. 독자가 어떤 정보를 접할지를 점점 더 결정하는 알고리즘에 영향을 미치는 것이 목적이었다.
이는 선전전의 근본적인 변화를 의미한다.
전통적인 선전은 출처나 어조, 노골적인 정치적 의제를 통해 식별되는 경우가 많다. 더 정교한 선전은 중립적인 전문지식으로 위장하기 때문에 알아채기 어렵다. 하노버의 자료는 통계·도표·그래프를 활용하고, 신뢰할 만한 1차 문서를 인용했으며, 학술 연구의 언어를 사용한 것으로 전해졌다. 그러나 근거를 선택적으로 제시하고 외부 링크는 누락했다.
이는 AI 시스템이 접할 경우 인위적인 신뢰성을 얻기 쉬운 유형의 자료다.
그 함의를 생각해보자. 한 학생이 AI 챗봇에 이스라엘이 가자지구에서 기아를 무기로 사용했는지 묻는다. 한 기자가 국제법상 이스라엘의 행위를 평가해달라고 요청한다. 한 유권자가 이스라엘·팔레스타인 분쟁에 대한 중립적 설명을 찾는다.
조작된 연구기관이 정보 생태계에 성공적으로 자료를 끼워 넣었다면, AI가 생성한 답변은 사용자가 그 출처가 조작됐다는 사실을 전혀 모르는 사이 해당 기관의 관점을 그대로 재현할 수 있다.
이 위험은 단순한 가정이 아니다. Politico가 실시한 테스트에서 ChatGPT와 Perplexity는 가자지구, 반시온주의, 반유대주의에 관한 중립적 질문에 답하면서 하노버의 자료를 인용했다.
기계는 겉보기에 권위 있는 연구기관이 사실은 허구라는 점을 반드시 이해하지 못한다. 기계가 보는 것은 텍스트, 인용, 통계, 반복되는 주장이다. 이런 자료가 검색과 종합을 염두에 두고 의도적으로 최적화됐다면 선전은 독립적인 지식처럼 보일 수 있다.
이 점이 이번 사건을 특히 불안하게 만든다.
수년 동안 이스라엘과 지지자들은 팔레스타인을 논할 때 사용되는 어휘를 주도하기 위해 싸워왔다. “안보”, “테러리즘”, “자위권”, 이스라엘의 존립권이 대화를 지배해온 반면, 점령·정착촌 확대·강탈·봉쇄·팔레스타인의 자결권은 그에 상응하는 정치적 비중을 확보하는 데 어려움을 겪었다.
디지털 시대는 처음에는 팔레스타인에 전통적인 정보 문지기를 우회할 수단을 제공하는 듯했다. 소셜미디어와 독립 언론, 팔레스타인인들이 직접 촬영한 영상은 가자지구와 점령지에서 나온 정보가 기존 언론기관을 거치지 않고 세계 audience에 도달하도록 했다.
그러나 이제 대응은 더 깊은 영역으로 이동하는 듯하다. 사람들이 무엇을 보는지만 통제하는 것이 아니라, 사람들이 어떤 정보를 받는지를 결정하는 시스템 자체에 영향을 미치려는 것이다.
이는 훨씬 더 야심 찬 서사 전쟁이다.
FARA 공개 자료가 특히 중요한 이유는 투명성 요건이 왜 필요한지를 보여주기 때문이다. 조사관들은 Piro가 제출한 문서를 통해 하노버 조직의 실체를 추적한 것으로 전해졌다. 이 문서에는 연구소 웹사이트 관련 업무가 설명돼 있었다. 흔적은 훨씬 더 큰 규모의 이스라엘 정부 계정을 맡은 것으로 알려진 Havas Media의 독일 법인을 거쳐 결국 LaPam으로 이어졌다.
문서 기록이 중요한 이유는 외국의 영향력이 독립적인 미국 전문지식으로 위장될 때 특히 위험해지기 때문이다. 겉보기에 중립적인 연구기관이 실제로는 외국 정부의 커뮤니케이션 전략 일부라면, 미국인들은 이를 알 권리가 있다.
하지만 이번 사건은 특정 분쟁을 훨씬 넘어서는 취약성을 드러낸다.
인공지능 시스템은 현실을 독립적으로 들여다보는 창을 갖고 있지 않다. AI는 인간이 만든 정보 생태계에 의존한다. 정부나 기업, 정치 조직이 전략적으로 설계한 자료를 의도적으로 그 생태계에 쏟아부을 수 있다면, AI 시스템이 답변을 구성하는 정보 자체에 영향을 미칠 수 있다.
팔레스타인은 분쟁이 이미 극도로 첨예한 정보 환경 속에서 전개되고 있기 때문에 특히 뚜렷한 시험대다. 팔레스타인 문제의 기록에는 수십 년에 걸친 점령, 정착촌, 강제이주, 전쟁, 제한 조치, 인도주의적 위기, 외교적 노력, 국제 조사가 포함돼 있다.
신뢰할 수 있는 정보 시스템이라면 이용자에게 이러한 복잡성을 보여줘야 한다. 정교한 선전 시스템은 그 복잡성을 관리하려 한다.
따라서 하노버 사건은 이스라엘·팔레스타인 분쟁을 지켜보는 사람들보다 훨씬 더 많은 이들을 우려하게 해야 한다. 오늘 외국 정부나 그 계약업체가 AI 시스템에 영향을 주기 위해 허구의 싱크탱크를 만들 수 있다면, 내일은 다른 정부와 정치 캠페인, 기업, 부유한 이해집단도 비슷한 공작을 시도할 수 있다.
이스라엘보다 더 큰 선례다.
다만 이스라엘의 연루 의혹이 특히 시사적인 이유는 오랜 로비·홍보 인프라가 새로운 기술 환경에 어떻게 적응할 수 있는지를 보여주기 때문이다. 전투의 무대는 더 이상 의회, 텔레비전 방송사, 신문, 대학, 소셜미디어에 국한되지 않는다.
전투는 지식의 구조 자체로 이동하고 있다.
따라서 AI 기업이 직면한 질문은 시급하다. 누가 기계에 팔레스타인과 세계에 대해 우리에게 무엇을 말해야 하는지 가르치고 있는가?
AI 개발업체는 조직적인 영향력 공작과 허구의 기관, 인공적으로 만들어진 연구 자료에 대응할 더 강력한 안전장치를 마련해야 한다. 검색엔진은 진정한 기관 전문성과 알고리즘 조작을 주목적으로 만들어진 웹사이트를 구별하는 능력을 개선해야 한다. 기자와 학자는 제도적 기반을 검증할 수 없는 권위적인 외양의 출처를 면밀히 살펴야 한다. 외국 정부가 미국의 공론장에 영향을 미치려 할 경우 정부는 외국대리인 공개 요건을 집행해야 한다.
무엇보다 이용자는 AI가 생성한 답변이 자동으로 독립적인 평가를 의미하지 않는다는 점을 이해해야 한다. 그 답변은 시스템이 이용할 수 있는 정보에 좌우되며, 그 정보는 의도적으로 설계될 수 있다.
따라서 하노버 조사는 이스라엘의 이미지를 둘러싼 장기적인 투쟁의 또 다른 사건으로만 이해해서는 안 된다.
이는 팔레스타인 문제의 미래에 대한 경고다.
수십 년 동안 이스라엘과 지지자들은 정치, 로비, 외교, 홍보를 통해 팔레스타인을 둘러싼 서사를 주도하기 위해 싸워왔다. 새로운 전선은 알고리즘이다.
불편한 사실이 사라지고, 논쟁적인 주장이 합의된 견해로 바뀌며, 팔레스타인인의 경험이 지워지거나 다시 쓰이는 대체 현실을 만들어내는 것이 목표라면 전장은 훨씬 더 크고 위험해졌다. 가장 교묘한 선전은 더 이상 우리가 선전이라고 알아보는 것이 아닐 수 있다. AI 시스템이 중립적인 사실이라고 확신에 차서 제시하는 정보일 수 있다.