OpenAI: новый закон может опустошить Силиконовую долину

Компания OpenAI выступила против законопроекта SB 1047 , который предполагает введение новых требований безопасности для ИИ-компаний. Разработчики OpenAI утверждают, что законопроект может замедлить развитие технологий, и настаивают на том, что регулирование таких вопросов должно осуществляться на федеральном уровне, а не на уровне штатов.

В письме сенатору штата Калифорния Скотту Винеру OpenAI выражает обеспокоенность тем, что принятие данного закона может иметь «широкие и значительные» последствия для конкурентоспособности США в области ИИ и национальной безопасности.

Законопроект SB 1047, предложенный сенатором Винером, направлен на введение «разумных стандартов безопасности» для компаний, разрабатывающих крупные ИИ-модели, превышающие определённые пороги размера и стоимости. В случае принятия закона, компании будут обязаны принимать меры, чтобы их модели не нанесли «критического вреда», такого как создание биологического оружия или нанесение финансового ущерба свыше $500 миллионов.

Закон также обязывает компании гарантировать возможность отключения систем ИИ, принимать «разумные меры» для предотвращения катастроф и отчитываться перед генпрокурором Калифорнии. За несоблюдение требований компаниям грозят судебные иски и гражданские штрафы.

Законопроект уже столкнулся с критикой со стороны крупных технологических компаний, стартапов и венчурных капиталистов. Они утверждают, что это чрезмерное вмешательство в технологию, которая находится в начальной стадии развития, и что подобные меры могут затормозить технологические инновации в штате. В письме OpenAI также выразила опасения, что принятие закона может вынудить компании, занимающиеся разработкой ИИ, покинуть Калифорнию.

Директор по стратегии OpenAI Джейсон Квон отметил, что «ИИ-революция только начинается и способствует экономическому росту Калифорнии». Квон подчеркнул, что законопроект SB 1047 может поставить под угрозу этот рост, замедлить темпы инноваций и вынудить инженеров и предпринимателей мирового уровня искать возможности в других местах.

В ответе на письмо Скотт Винер указал, что предложенные требования распространяются на любые компании, ведущие бизнес в Калифорнии, вне зависимости от их местоположения. Поэтому аргументы OpenAI лишены логики, как заявил Винер.

Сенатор штата также отметил, что OpenAI не критикует ни одно из конкретных положений законопроекта, и подчеркнул, что SB 1047 — это разумный документ, который требует от крупных ИИ-компаний выполнения уже взятых на себя обязательств по тестированию своих моделей на предмет рисков, способных привести к катастрофическим последствиям.

Изначально вызвавший критику в Кремниевой долине, законопроект был смягчен после внесения поправок, предложенных компанией Anthropic. Законопроект в настоящее время ожидает финального голосования, после чего он будет направлен на подпись губернатору Гэвину Ньюсому. Кроме того, стало известно, что OpenAI временно приостановила планы по расширению своих офисов в Сан-Франциско из-за неопределённости в отношении регулирования в Калифорнии.