«Искусственному интеллекту сложно определить, что человека помещают в пресс-хату»

Будущую работу искусственного интеллекта в пенитенциарной системе тюремное ведомство описало так:

«Цифровизация ИК включает в себя применение системы, фиксирующей голос и изображение лица, обеспечивающей биометрический учет с автоматическим формированием цифровых профилей. Также применяется бесконтактная биометрическая система, а интеллектуальные алгоритмы отслеживают перемещения на территории, оперативно выявляя подозрительную активность. Внедрение технологий позволит усилить безопасность, оптимизировать учет и повысить оперативность реагирования на потенциальные угрозы в учреждениях УИС».

Про то, что система каким-то образом будет полезна заключенным, почему-то ни слова.

Аналогичный проект уже реализован в столичном СИЗО-2 («Бутырка») во взаимодействии с правительством Москвы. Функциональные возможности центра позволяют координировать действия всех служб, быстро принимать решения и следить за безопасностью.

Возможность внедрения в российских колониях видеораспознавания нарушений с помощью искусственного интеллекта тюремщики изучали давно, еще при жизни Навального. Кому именно из ФСИН пришла передовая идея, пока неизвестно. Сам план цифровизации тюрем и колоний, который включал внедрение систем распознавания лиц и действий заключенных, был утвержден правительством еще в январе 2021 года. В аппарате вице-премьера тогда заявили, что за разработку техзадания проекта и его реализацию отвечает сама ФСИН. Из технического задания проекта следовало: ФСИН хотела, чтобы в колониях была внедрена система, которая сможет отслеживать:

• •факты покидания заключенными территории,
• •курение в неположенном месте,
• •нарушение распорядка дня,
• •нарушение формы одежды,
• •отказ от посещения массовых мероприятий,
• •невыполнение требований администрации и др.

И еще около 60 правонарушений в ШИЗО (штрафной изолятор), в столовой, в отряде строгого режима и др.

Кроме того, ФСИН просили установить автоматическое штрафование заключенных: система в конце дня должна выдавать отчет о правонарушениях, фамилию и имя заключенного, фотографии и время инцидента.

Предполагалось, что на модернизацию колоний выделят порядка 25 млрд рублей до 2023 года.

И вот первая ласточка (если не считать «Бутырку») — ИК во Владимирской области, где, если верить отчетам, система «Цифровая колония» уже заработала. ФСИН заявляют, что она эффективна.

Правозащитники, в свою очередь, относятся к системе настороженно и с определенной долей скепсиса.

Понимания пока нет. Но есть ощущение, что система с внедрением ИИ в ИК скорее направлена на снижение нагрузки тюремщиков, нежели на уменьшение фактора их субъективности по отношению к конкретным заключенным.

Есть скепсис относительно цифровой системы ФСИН и у Анны Каретниковой, правозащитницы, члена Центра защиты прав человека «Мемориал», которая много лет проработала в московских следственных изоляторах, сначала как представитель Общественной наблюдательной комиссии, а потом как ведущий аналитик Федеральной службы исполнения наказаний.

Комментируя «Новой газете Еропа» систему внедрения ИИ в колониях, Анна Каретникова отметила:

— Думаю, искусственный интеллект действительно мог бы быть полезен, в первую очередь — предотвращать в СИЗО и колониях суициды, убийства и другие опасные ситуации, распознавая их при видеосъемке стационарными камерами и подавая сигнал сотрудникам, например. Но то, что я вижу сейчас в пресс-релизе ФСИН и ряде изданий о внедрении системы цифрового надзора за заключенными в колониях, — оно о другом, о распознавании нарушений со стороны контингента… Против именно пыток оно вряд ли сработает именно потому же, почему не срабатывает и внедренное во многих учреждениях видеонаблюдение: для того, чтобы что-то увидеть, нужно как минимум хотеть это увидеть. Кто-то должен быть в этом заинтересован. Пытки — понятие очень широкое, расплывчатое. Тут недостаточно реагировать на «идет санитар Вася, несет швабру». Искусственному интеллекту очень сложно будет определить, например, что человека помещают в пресс-хату, что мусульманина кормят свининой, что человека держат в ледяной камере, что ему отказывают в медпомощи… В общем, действительно в первую очередь вопрос — в цели этого всего.

И, кажется, права заключенных и предотвращение нарушений такой целью не являются.