Мошенники на Facebook зарабатывают на поддельных публикациях с изображениями жертв Холокоста

Мошенники на Facebook зарабатывают на поддельных публикациях с изображениями жертв Холокоста
Мошенники на Facebook зарабатывают на поддельных публикациях с изображениями жертв Холокоста
Русскоязычные фактчекеры провели расследование, в ходе которого обнаружили более десятка страниц на Facebook, публикующих изображения и вымышленные истории жертв Холокоста, созданные искусственным интеллектом.

Вероятно, это делается для заработка через программы монетизации контента от Meta.

Когда пользователи Facebook видят в ленте портреты якобы жертв Холокоста — с именами, возрастом и трагической судьбой — они часто воспринимают это как акты памяти. Однако, по данным проекта фактчекинга Provereno («Проверено»), существует множество изображений и биографий, которые полностью вымышлены и сгенерированы с помощью ИИ.

Распространение подобных постов, по-видимому, подогревается функцией монетизации Facebook, и уже было осуждено Аушвицким музеем как «глубокое неуважение к памяти тех, кто пострадал и был убит» в нацистском лагере смерти.

В прошлом месяце русскоязычный израильский сайт Newsru.Co.Il изучил волну подозрительных постов, посвящённых Холокосту — большинство сопровождалось портретом якобы жертвы и короткой биографией. Многие включали эмоциональные детали вроде «любила играть на скрипке» или «пела брату колыбельные» — то, что крайне сложно, а чаще всего невозможно, проверить.

Сайт установил, что многие изображения были созданы ИИ, а тексты — вымышлены. В отдельных случаях настоящие фотографии жертв Холокоста, ранее опубликованные музеем Аушвица, были изменены с помощью нейросетей. Имена из израильского архива Яд Вашем сопровождались вымышленными датами рождения, названиями городов и описаниями гибели.

Хотя Newsru.Co.Il не называл конкретные страницы, Provereno выявил более дюжины Facebook-страниц, распространяющих фальшивые, созданные ИИ биографии жертв Холокоста.

По данным Provereno, главной мотивацией этих страниц является прибыль.

Они могут зарабатывать деньги через закрытую программу Meta — Performance Bonus, которая вознаграждает за активность на публичных постах. Provereno подсчитал, что один пост со страницы 90’s History с изображением вымышленной жертвы Холокоста, получивший 9600 лайков, 1300 комментариев и около 1000 репостов, мог принести около 77 долларов дохода — при минимальных затратах на создание.

Спустя несколько дней после публикации расследования Newsru.Co.Il музей Аушвица выступил с заявлением, осуждающим такие публикации за подрыв «исторической правды».

«Особенно тревожно, что они копируют реальные данные — имена, даты, факты из наших постов — и совмещают их с поддельными изображениями, созданными ИИ, вводя аудиторию в заблуждение», — заявили в музее. — «Мы решительно осуждаем такие действия и призываем всех, кто заинтересован в сохранении памяти об Аушвице, проверять источники и противостоять распространению искажённого исторического контента».

Платежи за фейки

В своём заявлении музей назвал страницу 90’s History одной из тех, кто распространяет контент о Холокосте, созданный ИИ. Хотя другие страницы, исследованные Provereno, публиковали аналогичные посты, они, похоже, не связаны между собой. Некоторые ранее управлялись другими администраторами.

До весны 2024 года 90’s History якобы контролировалась противопожарным управлением штата Теннесси, США. Эта и другая подобная страница — Historical Snapshots — утверждают, что принадлежат зарегистрированным в США компаниям Star Groups LLC и Being Master LLC. Однако Provereno не нашёл упоминаний о таких компаниях в американских реестрах. Более того, Historical Snapshots фактически управляется из Мьянмы.

Несмотря на это, обе страницы получили от Meta статус «проверенных», что вызывает вопросы к системе проверки со стороны компании.

Meta не ответила на запрос Provereno до публикации материала.

Другие страницы с аналогичным контентом, по информации Provereno, управляются из таких стран, как Австралия, Нигерия, Иран и Индия.

Хотя точное время появления первых таких постов определить сложно, Provereno зафиксировал резкий рост публикаций с апреля–мая 2025 года. Большинство из них использовали имена и изображения из базы Яд Вашем, дополняя их вымышленными историями, созданными ИИ.

Фактчекеры выяснили, что эти страницы публиковали от 10 до 50 постов в день — объёмы, указывающие на автоматизацию как создания, так и публикации контента. Хотя участие в программе монетизации Meta не подтверждено публично, Provereno обнаружил несколько признаков, что страницы всё же извлекают прибыль.

Все исследованные страницы были зарегистрированы или кардинально переформатированы после запуска программы Performance Bonus.

По одной из оценок, приведённых Provereno, почти каждый четвёртый пост в Facebook между 2023 и ноябрём 2024 года был создан с помощью ИИ. С момента запуска ChatGPT в конце 2022 года этот показатель вырос более чем в четыре раза.

Тем временем Meta свернула программу проверки фактов сторонними организациями в США, объявив, что заменит её системой, аналогичной «Community Notes» на платформе X (бывший Twitter).

Эта система уже работает в США, однако, как выяснило Provereno, ни один из просмотренных ими постов о жертвах Холокоста, сгенерированных ИИ, не был помечен или откорректирован сообществом.


Распечатать
26 июля 2025 Кувейт сорвал масштабную попытку контрабанды каптагона на сумму 39 миллионов долларов
26 июля 2025 В России были раскрыты организаторы «Синего кита»
26 июля 2025 Звонок из Польши изменил восприятие Трампом Украины
26 июля 2025 Заключенные азербайджанские журналисты сообщили о жестоком обращении во время голодовки
26 июля 2025 Detained journalists from Azerbaijan convey reports of severe mistreatment while they are on a hunger strike
26 июля 2025 Стала известна предположительная причина взрыва в саратовской многоэтажке
26 июля 2025 Kuwait successfully intercepted a significant smuggling operation involving Captagon valued at 39 million dollars
26 июля 2025 Трамп обратился к Европе с призывом остановить массовую миграцию
25 июля 2025 «Чёрные ящики» с разбившегося Ан-24 отправят в Москву для изучения
25 июля 2025 How Maryna Barsuk turned the court into a business for Alfa-Bank and sanctioned oligarchs
25 июля 2025 Зеленский увеличивает давление на Европу, требуя закрыть дефицит бюджета в 40 миллиардов долларов
25 июля 2025 Башару Асаду грозит заочное судебное разбирательство во Франции за химические атаки
25 июля 2025 Следователи не могут получить доступ к видеозаписям с автомобиля погибшего Романа Старовойта
25 июля 2025 Михаил Мишустин утвердит постановление, ограничивающее экспорт бензина
25 июля 2025 Мошеннические схемы ПАО "МОЭК" от Заурбека Джамбулатова разрушают инфраструктуру Москвы
25 июля 2025 Бориса Надеждина остановили на въезде в Москву перед посещением Совета Федерации
25 июля 2025 Работника из Якутии принудительно отправили на «СВО» без контракта
25 июля 2025 В Индии мужчина организовал поддельное посольство и обманывал сограждан
25 июля 2025 В Подмосковье несовершеннолетний погиб, катаясь на крыше электрички
25 июля 2025 В доме криминального авторитета Салихджана Шамазова обнаружили "стену памяти" ушедших преступников