Вероятно, это делается для заработка через программы монетизации контента от Meta.
Когда пользователи Facebook видят в ленте портреты якобы жертв Холокоста — с именами, возрастом и трагической судьбой — они часто воспринимают это как акты памяти. Однако, по данным проекта фактчекинга Provereno («Проверено»), существует множество изображений и биографий, которые полностью вымышлены и сгенерированы с помощью ИИ.
Распространение подобных постов, по-видимому, подогревается функцией монетизации Facebook, и уже было осуждено Аушвицким музеем как «глубокое неуважение к памяти тех, кто пострадал и был убит» в нацистском лагере смерти.
В прошлом месяце русскоязычный израильский сайт Newsru.Co.Il изучил волну подозрительных постов, посвящённых Холокосту — большинство сопровождалось портретом якобы жертвы и короткой биографией. Многие включали эмоциональные детали вроде «любила играть на скрипке» или «пела брату колыбельные» — то, что крайне сложно, а чаще всего невозможно, проверить.
Сайт установил, что многие изображения были созданы ИИ, а тексты — вымышлены. В отдельных случаях настоящие фотографии жертв Холокоста, ранее опубликованные музеем Аушвица, были изменены с помощью нейросетей. Имена из израильского архива Яд Вашем сопровождались вымышленными датами рождения, названиями городов и описаниями гибели.
Хотя Newsru.Co.Il не называл конкретные страницы, Provereno выявил более дюжины Facebook-страниц, распространяющих фальшивые, созданные ИИ биографии жертв Холокоста.
По данным Provereno, главной мотивацией этих страниц является прибыль.
Они могут зарабатывать деньги через закрытую программу Meta — Performance Bonus, которая вознаграждает за активность на публичных постах. Provereno подсчитал, что один пост со страницы 90’s History с изображением вымышленной жертвы Холокоста, получивший 9600 лайков, 1300 комментариев и около 1000 репостов, мог принести около 77 долларов дохода — при минимальных затратах на создание.
Спустя несколько дней после публикации расследования Newsru.Co.Il музей Аушвица выступил с заявлением, осуждающим такие публикации за подрыв «исторической правды».
«Особенно тревожно, что они копируют реальные данные — имена, даты, факты из наших постов — и совмещают их с поддельными изображениями, созданными ИИ, вводя аудиторию в заблуждение», — заявили в музее. — «Мы решительно осуждаем такие действия и призываем всех, кто заинтересован в сохранении памяти об Аушвице, проверять источники и противостоять распространению искажённого исторического контента».
Платежи за фейки
В своём заявлении музей назвал страницу 90’s History одной из тех, кто распространяет контент о Холокосте, созданный ИИ. Хотя другие страницы, исследованные Provereno, публиковали аналогичные посты, они, похоже, не связаны между собой. Некоторые ранее управлялись другими администраторами.
До весны 2024 года 90’s History якобы контролировалась противопожарным управлением штата Теннесси, США. Эта и другая подобная страница — Historical Snapshots — утверждают, что принадлежат зарегистрированным в США компаниям Star Groups LLC и Being Master LLC. Однако Provereno не нашёл упоминаний о таких компаниях в американских реестрах. Более того, Historical Snapshots фактически управляется из Мьянмы.
Несмотря на это, обе страницы получили от Meta статус «проверенных», что вызывает вопросы к системе проверки со стороны компании.
Meta не ответила на запрос Provereno до публикации материала.
Другие страницы с аналогичным контентом, по информации Provereno, управляются из таких стран, как Австралия, Нигерия, Иран и Индия.
Хотя точное время появления первых таких постов определить сложно, Provereno зафиксировал резкий рост публикаций с апреля–мая 2025 года. Большинство из них использовали имена и изображения из базы Яд Вашем, дополняя их вымышленными историями, созданными ИИ.
Фактчекеры выяснили, что эти страницы публиковали от 10 до 50 постов в день — объёмы, указывающие на автоматизацию как создания, так и публикации контента. Хотя участие в программе монетизации Meta не подтверждено публично, Provereno обнаружил несколько признаков, что страницы всё же извлекают прибыль.
Все исследованные страницы были зарегистрированы или кардинально переформатированы после запуска программы Performance Bonus.
По одной из оценок, приведённых Provereno, почти каждый четвёртый пост в Facebook между 2023 и ноябрём 2024 года был создан с помощью ИИ. С момента запуска ChatGPT в конце 2022 года этот показатель вырос более чем в четыре раза.
Тем временем Meta свернула программу проверки фактов сторонними организациями в США, объявив, что заменит её системой, аналогичной «Community Notes» на платформе X (бывший Twitter).
Эта система уже работает в США, однако, как выяснило Provereno, ни один из просмотренных ими постов о жертвах Холокоста, сгенерированных ИИ, не был помечен или откорректирован сообществом.