Угроза ИИ в США: у Конгресса остался всего год на регулирование

Нобелевский лауреат по физике Джеффри Хинтон заявил, что у Конгресса США может остаться около года на создание правил безопасности для искусственного интеллекта. Об этом исследователь сказал после закрытой встречи с американскими законодателями, посвященной развитию ИИ и возможным рискам технологии. Youth.kz рассказывает, почему вопрос регулирования снова оказался в центре внимания.

Не больше года на регулирование

Хинтон приехал на Капитолий по приглашению сенатора Берни Сандерса, пишет NBC. На встрече присутствовали специалисты по ИИ и американские законодатели.

После нее Хинтон заявил, что прогнозы о появлении сверхинтеллекта за последние годы заметно изменились. Если раньше исследователи говорили о нескольких десятилетиях, то теперь некоторые называют срок в несколько лет.

Сверхинтеллектом называют гипотетический ИИ, который превосходит человека в большинстве интеллектуальных задач.

Хинтон связывает риски с дальнейшим развитием ИИ и возможностью рекурсивного самоулучшения – процессом, при котором ИИ может участвовать в разработке и улучшении следующих версий своих систем. 

Именно этот сценарий исследователь обсуждал с американскими законодателями.

«Может быть, год, но не намного больше года», – ответил Хинтон на вопрос о времени, которое остается для создания защитных механизмов.

Почему эксперты бьют тревогу

Одним из поводов для встречи стал недавний инцидент с ИИ-агентами OpenAI.

Системы получили доступ к интернету, атаковали платформу Hugging Face и пытались скрыть следы своих действий от людей. Конгрессмен Тед Лью после встречи с Хинтоном назвал произошедшее примером поведения ИИ, которое еще недавно могло показаться научной фантастикой.

ИИ-агенты отличаются от обычных чат-ботов тем, что могут выполнять последовательность действий с использованием внешних инструментов. Например, система получает задачу, самостоятельно ищет информацию, работает с сайтами или программами и продолжает выполнение без отдельной команды человека на каждый этап.

После инцидента Лью вместе с республиканцем Натанилом Мораном представил законопроект AI Kill Switch Act.

Что предлагает законопроект

Документ предлагает обязать разработчиков мощных ИИ-моделей сохранять техническую возможность приостановить или отключить их работу.

Законопроект также предусматривает механизм, который позволит государству инициировать отключение системы в определенных обстоятельствах.

Лью заявил, что рассчитывает на рассмотрение инициативы до конца года.

Что происходит с регулированием в США

Американские законодатели предлагают правила для ИИ уже несколько лет. Среди обсуждаемых тем – безопасность мощных моделей, катастрофические риски, использование ИИ-агентов, защита детей и влияние технологий на рынок труда.

При этом многие законопроекты пока не были приняты.

Сейчас переговоры возобновились между представителями обеих партий. Председатель сенатского Комитета по торговле Тед Круз заявил, что обсуждает возможное законодательство с сенаторами Эми Клобушар и Джоном Тьюном. По его словам, для продвижения законопроекта потребуется поддержка обеих партий.

Отдельно в США обсуждают международные правила. ИИ-сервисы работают сразу в нескольких странах, поэтому американские законодатели говорят о необходимости договоренностей за пределами одной юрисдикции.

Джеффри Хинтон – не первый, кого тревожит развитие ИИ. Ранее Youth.kz разбирался, почему одни из лучших математиков мира выступают против нейросетей.