Искусственный интеллект используется для создания видео с сексуализированным насилием над детьми
Internet Watch Foundation сообщает, что часть контента основывается на реальных роликах. Поговорили с авторами доклада
Развитие искусственного интеллекта повлияло на количество картинок и видео с сексуализированным насилием над детьми в интернете, выяснили аналитики Internet Watch Foundation. В их докладе говорится, что за последний год они обнаружили тысячи подобных изображений в даркнете и открытом доступе. Законодательство Великобритании и других стран до сих пор не предусматривает наказания за создание подобного контента.
«Новая-Европа» рассказывает, о чем говорится в докладе.
«[можем] создавать любое детское порно по вашему желанию в высоком разрешении».
«Если раньше некоторые сценарии, генерируемые искусственным интеллектом, было сложно изобразить с большой реалистичностью, то теперь мы видим, как преступники успешно генерируют более экстремальные, «жесткие» псевдофотографии сексуального насилия над детьми.
«Влияние изображений на жертв невозможно переоценить. Когда создаются фото или видео сексуализированного насилия над детьми, постоянство и отсутствие контроля над тем, кто их видит, создает значительные и долгосрочные последствия для тех, кто пережил это. Они подвергаются повторной виктимизации каждый раз, когда [эти кадры] просматривают, и с изображениями ИИ та же ситуация», — отметила руководитель «Фонда Мари Коллинз» Виктория Грин.
По ее словам, знание того, что преступники теперь могут использовать легкодоступные ИИ-технологии для создания и распространения новых материалов о совершенном насилии, «не только отвратительно для жертв и пострадавших, но и вызывает огромную тревогу». На одном из сайтов в даркнете аналитики уже обнаружили настроенные модели для генерации контента с 128 настоящими жертвами сексуализированного насилия. В списке также указаны их реальные имена.
«Пережившие некоторые из худших видов травм теперь не знают передышки, понимая, что преступники могут использовать изображения их страданий, чтобы создать любой сценарий насилия, который они хотят», — подчеркнула генеральный директор фонда Internet Watch Сьюзи Харгривз.
Законодательство
Несмотря на активное распространение подобных видео, до сих пор не существует закона, контролирующего этот процесс. Официально в Великобритании не предусмотрено наказание за создание ИИ-видео с насилием над детьми.
«Правильные решения, принятые сейчас правительством, технологической индустрией и гражданским обществом, чтобы гарантировать, что безопасность детей является приоритетом при разработке инструментов ИИ, могут предотвратить разрушительное воздействие, которое неправильное использование этой технологии окажет на глобальную защиту детей», — заявила Харгривз.
Виктория Грин подчеркивает, что пострадавшие имеют право не жить в страхе перед повторной виктимизацией с помощью технологий, которые по замыслу должны быть безопасными. IWF призывают криминализировать распространение подобного контента и инструкций по его созданию. Авторы доклада отправили его копию правительству для ознакомления и рассчитывают, что власти не оставят эту проблему без внимания.
