Разоблачение российской дезинформационной сети: ИИ-ботферма "Мелиоратор"
Российская государственная медиаорганизация RT, ранее известная как Russia Today, в течение последних двух лет использовала программное обеспечение на основе искусственного интеллекта для массового создания реалистичных профилей в социальных сетях. Эта информация была опубликована 9 июля в совместном заявлении американских, канадских и нидерландских спецслужб. Программное обеспечение, получившее название "Мелиоратор", представляет собой управляемую ИИ систему для создания и управления бот-фермами. Оно использовалось для распространения дезинформации в социальных сетях о ряде стран, включая США, Польшу, Германию, Нидерланды, Испанию, Украину и Израиль.
Кампания с использованием "Мелиоратора" наблюдалась с 2022 года. Хотя инструмент был обнаружен только в X (ранее Twitter), анализ показал, что разработчики намеревались расширить его функциональность на другие платформы социальных сетей, включая Facebook и Instagram. "Мелиоратор" использовался для распространения дезинформации по различным темам, включая российско-украинский конфликт. В частности, распространялись видеоролики, в которых президент Путин оправдывал действия России на Украине и утверждал, что некоторые регионы Польши, Украины и Литвы были "подарками" этим странам от российских войск, освободивших их от нацистского контроля во время Второй мировой войны.
"Мелиоратор" предлагает широкий спектр функций, включая использование ИИ для создания реалистичных профилей в социальных сетях, публикацию типичного контента для социальных сетей, копирование дезинформации других ботов, использование существующих ложных нарративов для усиления вредоносного иностранного влияния и формулирование сообщений с учетом темы и контекста, основанных на конкретном архетипе бота. Программный пакет включает в себя панель администратора под названием "Бригадир" и инструмент для начальной загрузки под названием "Тарас". Разработчики "Мелиоратора" использовали Redmine, бесплатное веб-приложение с открытым исходным кодом, предназначенное для управления проектами. Обычно пользователи "Мелиоратора" подключаются через виртуальные сетевые вычисления (VNC). Согласно пресс-релизу Министерства юстиции США, бот-ферма, созданная с помощью "Мелиоратора", была разработана лицом, обозначенным как "Лицо А". Этот человек работал заместителем главного редактора RT.
В "Мелиораторе" ложные личности, созданные в качестве основы для ботов, называются "душами", а автоматизированные сценарии или действия, которые могут быть выполнены от имени ботов, называются "мыслями". Персонажи, связанные с инструментом "Мелиоратор", способны выполнять следующие действия: публиковать типичный контент для социальных сетей, такой как создание оригинальных постов, подписка на других пользователей, лайки, комментарии, репосты и привлечение подписчиков; тиражировать дезинформацию других ботов посредством сообщений, ответов, репостов и биографий; поддерживать использование существующих ложных нарративов для усиления российской дезинформации; формулировать сообщения с учетом темы и контекста, основанных на конкретном архетипе бота.
"Мелиоратор" оснащен функциями, позволяющими ботам выглядеть аутентичными и избегать обнаружения в социальных сетях. Например, большинство аккаунтов, на которые подписаны боты, имеют более 100 000 подписчиков, что необходимо боту, чтобы избежать обнаружения при взаимодействии с другими аккаунтами. В программное обеспечение также встроены другие, более технические меры для предотвращения обнаружения, такие как возможность скрывать IP-адрес и обходить двухфакторную аутентификацию.
Несмотря на эти методы, спецслужбы предоставили список рекомендаций для социальных сетей по снижению воздействия спонсируемых российским государством субъектов, использующих их платформы в дезинформационных кампаниях. К ним относятся: внедрение процессов для подтверждения того, что учетные записи создаются и управляются человеком, который соблюдает соответствующие условия использования платформы; пересмотр и модернизация процессов аутентификации и верификации; внедрение протоколов для идентификации и последующего анализа пользователей с известными подозрительными строками агента пользователя; повышение безопасности учетных записей пользователей по умолчанию с помощью таких настроек, как многофакторная аутентификация (MFA), настроек конфиденциальности по умолчанию, удаления личной информации, передаваемой без согласия, и четкой документации приемлемого поведения. В связи с совместными действиями спецслужб Министерство юстиции США объявило об изъятии двух связанных доменных имен и 968 аккаунтов в социальных сетях, используемых во вредоносных операциях по оказанию влияния.