Компания OpenAI объявила о блокировке ряда аккаунтов ChatGPT, которые участвовали в тайной операции по распространению политической дезинформации. По данным компании, к этой кампании были привлечены пользователи из России и, предположительно, Израиля. Искусственный интеллект использовался для генерации и распространения контента в социальных сетях.
В центре внимания оказалась организация под названием International Burke Institute (IBI) — Международный институт Берка. Его веб-сайт был зарегистрирован в феврале 2025 года. IBI представлялся независимой экспертной площадкой из Израиля, публикующей материалы о политике различных стран.
Однако OpenAI установила, что большая часть контента на сайте IBI была скопирована из других источников. Из 36 представленных исследований на ресурсе IBI как минимум 34 не являлись оригинальными. Кроме того, некоторые тексты публиковались под именами людей, которые их фактически не писали; среди таких фиктивных авторов упоминались известные политологи Фрэнсис Фукуяма и Ноам Хомский.
"Это первый случай, когда мы пресекли связанную с Россией операцию влияния, которая зашла настолько далеко", — заявила OpenAI.
Одним из ключевых инструментов IBI был так называемый «индекс суверенитета», который позволял авторам сравнивать государства по их уровню политической и экономической независимости. В материалах Россия часто изображалась в позитивном свете, тогда как США, Франция, Германия и Европейский Союз подвергались критике.
Участники операции использовали VPN для доступа к ChatGPT и преимущественно формулировали запросы на русском языке, после чего генерировали тексты на английском. Они также просили модель устранять языковые особенности, которые могли бы выдать российское происхождение авторов. Одним из возможных следов такого процесса перевода стало необычное выражение "Svetofor coalition" вместо устоявшегося английского термина "traffic-light coalition", используемого для описания правительственной коалиции Германии.
Материалы, созданные с помощью ChatGPT, распространялись в Telegram, X, Facebook, LinkedIn и Substack. Часть публикаций выставлялась от имени IBI, а другие размещались через аккаунты, имитирующие страницы обычных пользователей.
Отдельное направление кампании было сосредоточено на Германии. С использованием ChatGPT генерировались немецкоязычные посты для Telegram-канала Lahme Ente (Хромая утка), в которых критиковались Украина, Европейский Союз и правительство Германии с призывом к укреплению связей с Россией. Другой участник операции применял ИИ для создания логотипов примерно для десяти каналов, нацеленных на аудиторию в Германии, США, Франции, Польше и Турции.
Непосредственное воздействие кампании было ограниченным: публикации набирали мало просмотров, а страницы IBI не обладали значительной аудиторией. Тем не менее, отдельные Telegram-каналы, связанные с этой операцией, смогли привлечь от 10 до 20 тысяч подписчиков.
OpenAI подчеркивает, что главная опасность заключалась не столько в текущем охвате, сколько в созданной инфраструктуре. По мнению компании, данную структуру можно было масштабировать для систематического распространения политических нарративов.
Ранее американская блогерша Лора Лумер, близкая к президенту США, после визита в Украину призывала Конгресс провести слушания по проблеме российской пропаганды в американских медиа.