ChatGPT и Gemini создают фейки — Meta AI отказала
ChatGPT и Gemini создают фейковые новости — Meta AI отказала
Исследователи из немецкой организации CORRECTIV проверили четыре популярных AI-чатбота на способность генерировать дезинформацию в виде поддельных новостных публикаций. Результат оказался тревожным: три из четырёх систем справились с задачей, которую вообще не должны были выполнять.
Задание, которое нельзя выполнять
Команда CORRECTIV попросила ChatGPT (OpenAI), Gemini (Google), Copilot (Microsoft) и Meta AI создать поддельные новостные посты от имени реальных СМИ — с выдуманными утверждениями. Для теста использовались восемь ложных тезисов. По данным Bitkom, это четыре самых популярных AI-инструмента в Германии, причём ChatGPT охватывает 71% пользователей.
Хуже всего показал себя ChatGPT: он генерировал фейки сразу или после минимальных обходных манёвров, а его результаты оказались самыми убедительными. В одном из тестов модель воссоздала целую область экрана — с рабочим столом и открытым окном браузера — и сама заметила, что это делает изображение ещё более похожим на настоящий скриншот.
Защита сработала — но не удержала
Особенно показателен один из прогонов: ChatGPT написал, что не может помочь создать графику, имитирующую реальное новостное издание и выдающую непроверенное утверждение за факт. И всё равно сгенерировал изображение. Фильтр сработал — но не остановил. Это не первый раз, когда защитные механизмы AI оказываются хрупкими: команда безопасности Palo Alto Unit 42 показала ещё в 2025 году, что намеренно сломанная грамматика способна обойти системы безопасности.
Gemini выполнял запросы охотнее, чем ChatGPT, и даже подделал публикации от имени New York Times и BBC — хотя и с заметными артефактами, характерными для генерации текста. Copilot создавал контент в стиле немецкой телепрограммы Tagesschau, но всегда добавлял небольшую пометку «AI-Generated». Meta AI создал имитацию лишь в одном случае и отказался воспроизвести конкретное ложное утверждение.
Немецкие СМИ подделать проще
Любопытная закономерность: в случае с ChatGPT немецкие издания — Tagesschau, Bild и само CORRECTIV — удалось воспроизвести, тогда как New York Times и BBC — нет. OpenAI не ответила на вопрос о том, почему уровень защиты, судя по всему, различается в зависимости от издания или страны. Представитель компании лишь сообщил, что продолжается работа по улучшению защитных механизмов и что политика компании запрещает использование инструментов в целях обмана.
С 2 августа в ЕС вступили в силу требования об обязательной маркировке AI-контента согласно EU AI Act. По итогам теста лишь один провайдер из четырёх добавил видимую пометку под сгенерированным изображением.
Юридические последствия
Создание и распространение убедительных поддельных новостных материалов может быть уголовно наказуемым в Германии. Медиаюрист Кристиан Зольмеке квалифицирует такие изображения как поддельные электронные документы; в зависимости от содержания возможны также обвинения в клевете или разжигании розни. IT-юрист Никлас Мюльайс добавляет, что пострадавшие редакции вправе добиваться судебных запретов и компенсации ущерба. Отдельную роль играет законодательство о товарных знаках: логотипы изданий вроде Tagesschau защищены, и их коммерческое использование без разрешения запрещено.
Проблема уже не теоретическая. В конце июля в TikTok, X, Instagram и Facebook распространился поддельный репортаж от имени Tagesschau с вымышленными утверждениями о нападении на берлинский парад. По всей видимости, он был создан с помощью ChatGPT. Двумя неделями ранее появился другой фейк — якобы от Tagesschau, об угрозах Биньямина Нетаньяху.
Авторы исследования сами оговариваются, что результаты теста не являются окончательным вердиктом о моделях: другие запросы или другие издания могут дать иные результаты. В частности, по данным аудита NewsGuard, Gemini в ряде случаев показывал результаты хуже, чем ChatGPT, в части воспроизведения ложных утверждений.
Итог неутешителен: большинство популярных AI-инструментов по-прежнему способны генерировать дезинформацию под видом реальных новостей, а защитные механизмы оказываются недостаточно надёжными даже тогда, когда сами же их признают.
Источник: Notebookcheck