Нейросети — за Путина

В декабре в комментариях к посту «Известий» в ВК об очередном брифинге Минобороны между пользователями произошла перепалка:

Камила: поддерживать гибель украинских военных никак нельзя! Мы ведь братские народы, мы должны всеми силами остановить это кровопролитие!

Матвей: Никто не радуется их гибели, радуются тому, что земли освобождаются от присутствия тех, кто годами не давал их жителям жить спокойно

Григорий: Украинские военные могут сдаться в плен российской армии, где им при необходимости даже медицинскую помощь оказывают

На первый взгляд, ничего необычного — обычный спор между пользователями. Но посмотрим подробнее, кто именно пишет комментарии. По данным проекта «Ботнадзор», страницу Матвея ВК блокировал и разблокировал обратно три раза, и сейчас она снова доступна. Суммарно он оставил 686 похожих комментариев.

Григорий написал 313 комментариев, почти все они также касались войны, и его страница сейчас заблокирована. И Матвей, и Григорий — боты.

К сожалению, призывы Камилы к человечности утопают в бесконечных комментариях сотрудников кремлевских ботоферм… Но постойте, мы ведь помним о существовании и антивоенной ботофермы. Вдруг Камила тоже бот? Посмотрим, о чем она писала еще:

«Человеческая жизнь бесценна, — пока всё сходится — но Зеленский видимо считает иначе, раз он до сих пор предпочитает получать западные деньги за продолжение конфликта, в котором украинцы гибнут».

Стоп. Читаем дальше.

«Любое обсуждение сотрудничество между двумя государствами идет на пользу обеим странам, так что, переговоры с КНДР наверняка будут успешными».

«При Путине здравоохранение, образование, например, сделали значительный скачок вперед💪🏻💪🏻»

Камила действительно бот, правда далеко не оппозиционный. Более того, скорее всего, она нейросеть. Камила написала 268 комментариев, и ВК банил и разбанивал ее страницу два раза.

Получается, что 13 декабря в комментариях «Известий» «добрый» кремлебот вступил в дискуссию со «злыми».

Чтобы лучше разобраться в разнообразии этой вселенной, «Новая-Европа» изучила более 7 млн комментариев ботов в ВК за 2023 год.

Вот более подробные портреты ботов из каждой категории.

«Злые кремлеботы»

Самая милитаристская, антизападная и при этом многочисленная категория. Не пишут почти ни о чем, кроме войны и геополитики. Несмотря на то, что многие социологические исследования показывают усталость россиян от войны, на стратегию «злых кремлеботов» это не очень влияет: их нарративы в 2023 году практически не менялись. Подробнее о «злых кремлеботах» можно почитать в статье на Re: Russia.

Раньше считалось, что государство отдает подобные пропагандистские кампании на аутсорс структурам Пригожина, в частности его «Агентству интернет-исследований». В феврале 2023-го Пригожин признал, что действительно является создателем «фабрики троллей».

Исследователь российской пропаганды из университета Пассау Серж Поляков считает, что сейчас на замену пригожинским структурам могла прийти АНО «Диалог». «Он, по всей видимости, был создан как конкурирующая организация (в рамках путинской кагэбэшной схемы “весов и противовесов”), и Пригожин ей эту конкуренцию проиграл в целом еще до начала полномасштабного вторжения, — говорит Поляков. — Теперь троллей и ботов на аутсорсе нет, всё под более-менее прямым контролем».

По данным проекта «Ботнадзор», те, кого мы назвали «злыми кремлеботами», критиковали Пригожина уже во время его конфликта с Минобороны, поэтому, вероятно, уже тогда не были ему подконтрольны.

«Добрые кремлеботы»

В июле прошлого года научпоп-издание TechInsider опубликовало в ВК пост про кадык. Скоро в него массово пришли боты, утверждающие, что «Кадыров — герой России». Скорее всего, дело в том, что слово «кадык» созвучно с фамилией главы Чечни, что и сбило с толку алгоритмы ботов. Это хорошая иллюстрация работы «добрых кремлеботов», хотя обычно они всё же выбирают более подходящие посты.

Такие боты хоть и согласны со «злыми кремлеботами» в том, что только Путин может спасти Россию, а причина всех бед — Запад, иногда их взгляды не совпадают (пример этого — история из начала нашей статьи). «Добрые кремлеботы» стремятся к мирным переговорам и хотят завершить «СВО» как можно быстрее. Часто такие боты пишут комментарии невпопад — их тексты, похоже, генерируются нейросетями или написаны заранее. Это не очень многочисленный, но регулярно встречающийся вид ботов.

Внутри кластера выделяется группа ботов, которые непропорционально часто упоминают «Единую Россию» (57% от всех «добрых кремлеботов»). Кроме упоминаний «ЕР» такие боты мало отличаются от обычных — и по темам, и по времени активности. Но некоторые отличия всё же есть. Например, боты, упоминающие «ЕР», чаще пишут о том, что в России успешно борются с коррупцией. «Ну статистика не даст соврать! Цифры говорят о том, что коррупции становится меньше в нашей стране, значит какие-то меры явно принимаются!» — утверждают они. Другое отличие — боты из подкластера «ЕР» почти в три раза реже оказываются забаненными, чем обычные «добрые кремлеботы».

Эльфы

«Успешно уничтожены все евро, наша валюта отрицательно растет по плану». «Игорь Конашенков будет озвучивать курс рубля». «Сами знают, что лучше, а наши как воровали, так и сидят и как гибли солдаты, так и гибнут, одного сняли и на другое место воткнули», — комментарии такого содержания оставляют эльфы.

Это антивоенные боты, почти все из которых, скорее всего, связаны с «Легионом эльфов» Free Russia. Они выступают против Путина и войны, но чаще всего в их аргументации звучат социальные темы: цены, дети, коррупция.

9 февраля журналист Андрей Захаров сообщил со ссылкой на два источника, что «фабрика эльфов» закрывается из-за скандала, вследствие которого возникли проблемы с финансированием (в ноябре 2023 года проект стал публичным после слива внутренней информации, опубликованной SVTV). Директор Центра стратегических коммуникаций Free Russia Foundation Егор Куроптев подтвердил Захарову, что проект закрылся, однако, по словам Куроптева, связи со скандалом здесь нет и на проект просто закончились деньги.

Вероятно, «фабрика эльфов» правда закрылась, а оставшиеся комментарии могут быть написаны ботами с других оппозиционных ботоферм, масштабы активности которых значительно меньше.

Регионалы

Функция этих ботов в том, чтобы хвалить местную власть, а в темы федеральной политики и войны они не лезут, поэтому по контенту от прошлых категорий ботов достаточно далеки. Их темы сфокусированы вокруг городской инфраструктуры и других бытовых вопросов.

Своя небольшая ботоферма, судя по всему, есть во многих российских регионах. Исследователь университета Пассау Серж Поляков считает, что это хорошо вписывается в концепцию «центров управления регионами» (ЦУР) АНО «Диалог», которые ответственны за пропаганду в школьных и городских пабликах.

Рекламщики

«У нас такой же вирус. Из носа вообще не текло, впервые такое. Мы лечили оциллококцинумом по схеме. Нос промывала аквалором, капала називин 5 дней. Горло смазывала хлорофиллиптом масляным», — такой комментарий легко можно принять за искренний совет заботливой мамы.

Но не в ситуации, когда одни и те же аккаунты оставляют сообщения сотнями со взломанных страниц, рекламируя похожую продукцию и не проявляя никакой другой активности. Часто боты продвигают гомеопатию, противовирусные препараты и ноотропы, лечебные свойства которых доказательная медицина не признает.

Подавляющее большинство рекламных ботов продвигают лекарства в группах для мам и беременных, но в похожей активности участвуют также «Ростелеком», МТС, «Газпромнефть». Проект «Ботнадзор» находил ботофермы Альфа-банка, «Норникеля», «Сибура», «Сибагро» и продавцов автотоваров. Про войну и политику такие боты, конечно, не пишут.

Боты и где они обитают

Можно заметить, что разнообразие ботосферы ВК удивительно широко. У каждого типа ботов есть свои любимые места обитания. Мы нарисовали интерактивную карту, которая поможет понять, кого именно вы, скорее всего, видите в комментариях в конкретном паблике.

На карте паблики, в которые пишут одни и те же боты, находятся ближе друг к другу. Для каждого паблика цветом показан вид ботов, превалирующий в нем.

Большинство пабликов оказались полностью захвачены «злыми кремлеботами», но у каждого вида есть свой «регион», где он оставляет больше всех комментариев.

При этом если в некоторых пабликах доминировали эльфы, это не значит, что кремлеботы туда не дотягивались. «Злые кремлеботы» присутствуют практически во всех пабликах, которые мониторит «Ботнадзор». Наиболее популярны у них пропагандистские ресурсы и некоторые региональные группы. У «добрых кремлеботов» ситуация похожая: они писали комментарии почти во всех популярных пабликах. Можно предположить, что у них нет списка групп, которые они должны комментировать, и они просто ищут посты по всему ВК по ключевым словам.

Зона влияния эльфов сильно уже. На «полуострове эльфов» можно найти популярные «нейтральные» паблики (такие как Forbes, «Лепрозорий»), и набор региональных групп, где эльфы доминируют.

А вот региональные боты ограничиваются более узким кругом пабликов. В крупных пропагандистских изданиях и региональных группах, не входящих в их привычные места обитания, такие боты тоже появляются, но достаточно редко.

Похоже обстоит ситуация и с рекламными ботами. Так как обычно они продвигают фармацевтические товары, они живут преимущественно в группах для мам и беременных, где кроме них нет никаких других ботов. Некоторые рекламные боты появляются в крупных новостных и региональных группах, но это происходит нечасто.

В контакте с АП

Нет сомнений в том, что команда ВК умеет выявлять ботов. Эльфов, например, банили постоянно, кремлеботов — тоже регулярно и обычно сразу большими группами. Большинство аккаунтов кремлеботов (около 88%) были забанены в какой-то момент.

Но больше интересна политика разбанов. Если эльфов разбанивают очень редко (такое может происходить, например, если настоящий владелец страницы восстановил к ней доступ), то кремлеботов — массово, часто по несколько сотен или даже тысяч аккаунтов в день. Самый массовый такой случай произошел 11 декабря — тогда соцсеть забанила почти 8 тысяч активных аккаунтов и в тот же день почти всех их разбанила.

По количеству страниц больше всего разбанивают «злых кремлеботов», потому что их просто больше. Но в процентном соотношении чаще всего снимают ограничения с «добрых», причем именно с тех, кто упоминает «Единую Россию», — более чем в два раза чаще, чем с любых других провластных аккаунтов.

Эксперт по ботофермам, попросивший об анонимности, считает, что «разбан» происходит по договоренности с руководством соцсети и ВК полностью «покрывает» ботофермы. «Среди ботов всегда забанен определенный процент. Раньше их банили гораздо чаще, а сейчас общее количество разбаненных страниц уже приближается к 100 тысячам», — говорит эксперт.

Модераторы сообществ в ВК, по его словам, чаще банят тех, кто рассказывает другим пользователям о ботах, чем самих ботов.

Интересно, что если кремлеботов банят и разбанивают, то региональных и рекламных ботов по сравнению со всеми остальными просто почти никогда не банят.

***

«Кремль контролирует сотни бот-ферм и групп троллей, как больших, так и маленьких. Такие подразделения существуют почти у каждого силового ведомства, у всех региональных губернаторов и мэров, а также у всех политических партий. С начала 2022 года их количество заметно увеличилось. В эту систему вкладываются значительные ресурсы. Число ботов будет продолжать расти, потому это оправдывает себя, и практически некому ей противостоять, за исключением небольшой группы активистов», — считает Антон Михальчук из Free Russia Foundation.

Активная ботосфера распространена во многих авторитарных режимах: Китае, Иране, Венесуэле и других странах, говорит социолог Максим Алюков. В демократических странах тоже есть попытки вести информационные кампании, в том числе с помощью ботов, но из-за системы «сдержек и противовесов» с ними борются более активно, говорит Алюков, например, Конгресс США может настойчиво потребовать от Facebook усилить модерацию.

В России же тенденция обратная: вместо ограничения кампаний манипуляции общественным мнением государство их активно развивает. В конце 2021 года гендиректором VK-холдинга стал выходец из «Ростелекома» и сын замглавы Администрации президента Владимир Кириенко. А саму соцсеть возглавил Степан Ковальчук — внук президента «Курчатовского института» Михаила Ковальчука и сын президента «Национальной Медиа Группы» (НМГ) Кирилла Ковальчука.

Именно команда младшего Ковальчука отвечала за провластный контент в соцсети, рассказывали «Медуза» и The Bell. Это подтверждает источник «Новой-Европа», близкий к руководству VK-холдинга. Кроме того, по его словам, на Ковальчуке «замыкается» работа с ботами. «Раньше с этим было строго — банили всех [ботов]. Сейчас в VK на уровне холдинга есть специальный отдел GR. [Они] всем занимаются и [являются] ответственными за повесточку», — сообщил он.

При участии Кати Орловой