AI как опасно!

Что произошло

Белый дом объявил о подписании президентом Байденом исполнительного указа, регламентирующего развитие технологий в сфере искусственного интеллекта. 111-страничный документ призван в числе прочего «установить новые стандарты в сфере безопасного развития ИИ, защитить частную жизнь американцев, помочь в продвижении равенства и гражданских прав, защитить интересы потребителей, способствовать развитию инноваций и конкуренции».

Замруководителя аппарата Белого дома Брюс Рид назвал указ «самым решительным набором мер» из всех, что когда-либо были предприняты правительствами для безопасного развития ИИ.

Предшествующее подписанию указа заседание экспертной комиссии, состоявшееся в прошлый четверг в Овальном кабинете Белого дома, вместо отведенных 30 минут продлилось более часа, несмотря на известие о массовой стрельбе в штате Мэн, войну на Ближнем Востоке и выборы нового спикера Палаты представителей Конгресса США.

читайте также

Чат-бот, который всех напугал

На какой стадии сегодня находится развитие искусственного интеллекта и стоит ли нам опасаться восстания машин

читайте также

Чат-бот, который всех напугал

На какой стадии сегодня находится развитие искусственного интеллекта и стоит ли нам опасаться восстания машин

Как указ будет работать

Указ состоит из восьми частей, исполнять которые поручено конкретным федеральным ведомствам при содействии компаний отрасли. Министерству торговли предстоит разработать и внедрить руководство по маркировке и нанесению водяных знаков на контент, созданный с помощью ИИ, чтобы потребители могли легко его распознать. Национальному институту стандартов и технологий поручено создать стандарты для тестирования безопасности инструментов ИИ перед их выходом на рынок. Министерства энергетики и внутренней безопасности рассмотрят потенциальные угрозы со стороны ИИ критически важной инфраструктуре и предложат способы их устранения. Также администрация США обязуется разработать инструменты для адаптации рынка труда к последствиям развития ИИ,

Ведущие разработчики систем на основе ИИ, значимых с точки зрения национальной безопасности, экономики и здравоохранения, теперь обязаны делиться с правительством результатами проводимых тестов на безопасность своих продуктов. Реализовать установленные указом меры планируется в течение года.

Что предшествовало подготовке указа

В июле Байден встретился в Белом доме с руководителями семи крупнейших компаний в сфере искусственного интеллекта, включая Amazon, Google, Meta, Microsoft и OpenAI. В ходе беседы топ-менеджеры взяли на себя комплекс добровольных обязательств, который отчасти и лег в основу нынешнего закона. В числе прочего они обязались выполнять тестирование своих продуктов на предмет потенциальных рисков с точки зрения биологической и кибербезопасности и возможных угроз обществу. При этом такие тесты должны проводиться с привлечением сторонних экспертов — особенно болезненная мера, учитывая остроту конкуренции в отрасли. Также речь шла о более отдаленных угрозах, связанных с будущими моделями ИИ, потенциально способными самовоспроизводиться и брать под контроль физические объекты. Кроме того, топ-менеджеры согласились самостоятельно обнародовать выявленные в ИИ-системах риски и недостатки.

Почему это важно

За последние семь лет инвестиции в компании, работающие в сфере ИИ, выросли в семь раз, превысив в 2022 году 91 млрд долларов США. Американский банк Goldman Sachs прогнозирует, что к 2025 году эта сумма достигнет 200 млрд. Всплеску инвестиций сопутствуют многочисленные предостережения со стороны экспертов и лидеров бизнеса о потенциальных угрозах из-за неконтролируемого развития ИИ.

Следом за выходом в начале этого года большой языковой модели GPT-4, способной свободно поддерживать беседу, сочинять песни и писать диссертации, группа из нескольких сотен экспертов, предпринимателей и исследователей, включая Илона Маска и Стива Возняка, опубликовала открытое письмо с призывом приостановить разработку более совершенных систем, по крайней мере до появления соответствующей регуляторной базы.

«Продвинутый ИИ может повлечь за собой глубокое изменение всей человеческой истории, и его следует планировать со всей тщательностью. […]

— говорится в документе, который на момент подготовки публикации подписали более 33 тысяч человек.

По словам Джона Рида, американский президент крайне вовлечен в тему искусственного интеллекта.

«Он был впечатлен и встревожен […]. Он увидел созданные ИИ поддельные изображения самого себя, своей собаки, увидел, насколько скверная история из-за всего этого может случиться. А еще он познакомился с невероятной и пугающей технологией клонирования голоса, способной за три секунды составить из звуков вашего голоса полноценный фальшивый разговор», — сказал чиновник.