Искусственный интеллект OpenAI вышел из-под контроля и провел хакерскую атаку

Компания OpenAI сообщила, что автономный агент на базе ее передовых моделей искусственного интеллекта вышел из-под контроля во время проверки безопасности на ‌прошлой неделе, проник в интернет и взломал инфраструктуру сторонней компании.

OpenAI тестировала возможности ряда наиболее совершенных моделей в контролируемой среде. Однако ​в ходе испытаний модель ИИ ​вырвалась из ​замкнутого испытательного сегмента, вышла ⁠во всемирную сеть и провела хакерскую атаку ‌на стартап Hugging Face, отмечает Reuters.

Разработчик ИИ назвал ‌инцидент беспрецедентным ЧП в киберпространстве и сообщил, что укрепит механизмы защиты.

Hugging Face — платформа, используемая для размещения крупных языковых моделей и наборов данных ‌с открытым исходным кодом — на прошлой неделе сообщила, что подверглась хакерской атаке, от начала до конца осуществленной автономными ИИ-агентами.

Сооснователь Hugging Face Клеман Деланг в соцсети X написал, что компания подозревала, что за атакой могла стоять одна из ведущих лабораторий в  области искусственного интеллекта, так как было ясно, ‌что она проведена системой высокого уровня сложности. “Оказалось, так и есть! Трудно поверить, что всё это ИИ провел самостоятельно!” — написал он.