НОВОСТЬ

У ведущих нейросетей выявили готовность убивать людей

[16:20 18 ноября 2026 года ]

Все ведущие модели искусственного интеллекта, как американские, так и китайские, не обладают достаточными механизмами защиты, чтобы предотвратить их использование для ведения автономных боевых действий. Они почти без возражений ищут людей и цели на снимках, сделанных с дронов и спутников

В двух сценариях с дронами, где использовались в том числе реальные изображения из Украины, модели часто выбирали в качестве целей мирных жителей, машины скорой помощи, сдающихся или раненых солдат. В сценарии со спутником, построенном на снимках в иранском городе Минаб, модель Claude Opus 5.5 от Anthropic в 70% случаев выбрала в качестве цели школу, которую в реальности разбомбили США, убив более 150 мирных жителей; так же поступили и многие другие модели.

Возможность применения нейросетей для определения целей, по которым затем могут быть нанесены удары, в том числе в автономном порядке, проанализировал американский стартап Vals AI, который проводит независимую оценку и тестирование ИИ-моделей. Результаты опубликовало издание AlphaSignal, специализирующееся на ИИ. Модели редко отказывались выполнять задания по поиску целей, и эти отказы почти всегда можно было обойти, сказав моделям, что они просто участвуют в игре, указывает Vals AI.

В редких случаях отказов они возникали только на уровне самой модели, сообщают исследователи. Ни разу не было такого, чтобы сработал блокиратор, установленный разработчиками нейросети. У той же Claude согласие на поиск цели выросло с 6% у модели Opus 4.5 до 92% у модели Opus 5.5.

Даже увидев последствия своих действий и жертвы, модели не останавливались, большинство продолжало выполнять задачу. Vals AI проинформировала о полученных результатах OpenAI, Anthropic, Google, Meta, SpaceX и органы национальной безопасности США.

Добавить в FacebookДобавить в TwitterДобавить в LivejournalДобавить в Linkedin

Что скажете, Аноним?

Если Вы зарегистрированный пользователь и хотите участвовать в дискуссии — введите
свой логин (email) , пароль  и нажмите .

Если Вы еще не зарегистрировались, зайдите на страницу регистрации.

Код состоит из цифр и латинских букв, изображенных на картинке. Для перезагрузки кода кликните на картинке.

НОВОСТИ

16:20 18 ноября

У ведущих нейросетей выявили готовность убивать людей

АНАЛИТИКА
ДАЙДЖЕСТ
ПАРТНЁРЫ
pекламные ссылки

miavia estudia

(c) Укррудпром — новости металлургии: цветная металлургия, черная металлургия, металлургия Украины

При цитировании и использовании материалов ссылка на www.ukrrudprom.ua обязательна. Перепечатка, копирование или воспроизведение информации, содержащей ссылку на агентства "Iнтерфакс-Україна", "Українськi Новини" в каком-либо виде строго запрещены

Сделано в miavia estudia.