“Мы опережаем Китай”. Трамп выступил против замедления разработки ИИ

“Мы опережаем Китай в ИИ. Мы — самая продвинутая страна в мире, и, откровенно говоря, я бы предпочел, чтобы мы ею оставались, потому что выиграет тот, кто выиграет в ИИ”, — сказал президент США журналистам в воскресенье, 13 июня.

“Мы можем внедрить больше мер предосторожности. Мы можем сделать всякие вещи. Но я думаю, что у нас тут много очень деструктивных сил, которые поднимают вопросы, которые они не должны поднимать, и поднимают вопросы, которые не воплотятся в реальность”, — добавил Трамп.

Он не стал уточнять, о каких “деструктивных силах” идет речь.

Комментарий президента США последовал за призывом главы компании Anthropic Дарио Амодеи замедлить разработку моделей ИИ, чтобы подготовиться к угрозам, которые они могут представлять.

При этом Трамп заявил, что он “не преуменьшает” риски и угрозы, которые могут исходить от ИИ, но считает, что ИИ принесет намного больше пользы, чем вреда.

Предупреждения изнутри индустрии

В последнее время все больше и больше представителей индустрии выражают опасения по поводу бесконтрольной разработки передовых моделей искусственного интеллекта. Дарио Амодеи в своей статье призвал развивать ИИ “в сбалансированном темпе, который обеспечит безопасность без отказа от приносимой им пользы”.

Anthropic, заявил он, в одностороннем порядке берет на себя обязательства уделять достаточно времени настройке безопасности своих моделей, и призвал правительства разных стран требовать того же от компаний-разработчиков ИИ.

“Дарио прав”, — написал в своей соцсети X Илон Маск, которому, помимо прочего, принадлежит компания xAI и чат-бот Grok. “Я уже давно бью тревогу по поводу ИИ”, — добавил он.

Поддержал призыв Амодеи и глава OpenAI Сэм Альтман. В середине августа его компания — разработчик ChatGPT — объявила, что замедлит обучение своих передовых моделей после того, как ИИ-агенты вышли из-под контроля и взломали платформу для обмена моделями ИИ Hugging Face.

При этом сторонники более осторожного подхода к разработке ИИ не отрицают, что любые замедления должны либо быть скоординированы с Китаем, либо быть очень ограниченными, чтобы не позволить Пекину обойти конкурентов.

Амодеи в интервью CBS в воскресенье, 13 сентября, назвал конкуренцию между американскими и китайскими разработчиками ИИ “самой сложной дилеммой” в попытке замедлить развитие моделей.

“Мы не должны обманываться, потому что стимулы прорываться вперед и следующее из этого военное преимущество настолько велики, что мы должны быть твердо уверены в том, что другая сторона играет по правилам”, — сказал Амодеи, добавив, что он не уверен, насколько это вообще реально.

О необходимости международного сотрудничества говорит и бывший сотрудник OpenAI и Anthropic Джейкоб Коксон. Он уволился из Anthropic, заявив, что компания прилагает недостаточно усилий, чтобы минимизировать риски.

В интервью NBC Коксон призвал к координации на международном уровне, поскольку гонка с Китаем может быть очень опасной.

Политический вопрос

В преддверии промежуточных выборов в США вопрос о регуляции ИИ государством становится политическим. Спикер Палаты представителей США республиканец Майк Джонсон признал необходимость ввести меры предосторожности, но призвал не торопиться с принятием новых законов.

“Если Конгресс в спешке проведет внеочередную сессию, чтобы попытаться регулировать ИИ, мы проиграем гонку Китаю, а это будет представлять угрозу для каждого американца”, — сказал он CNN.

Хаким Джеффрис, возглавляющий демократов в Палате представителей, напротив, заявил, что законодатели должны действовать решительно в том, что касается замедления разработки ИИ.

При это возможные угрозы, исходящие от передовых моделей ИИ, — не единственная проблема. Как отмечает Associated Press, многие американцы выступают против строительства новых дата-центров, необходимых для работы ИИ.

Из-за дата-центров, в частности, местным жителям приходится платить больше за воду и электричество. И хотя президент США Дональд Трамп поддерживает строительство новых дата-центров, ни республиканцы, ни демократы в рамках предвыборной кампании не разделяют его энтузиазма, опасаясь разозлить своих избирателей.