В OpenAI сделали открытие, которое может представлять угрозу человечеству

Накануне увольнения генерального директора OpenAI Сэма Альтмана несколько исследователей написали письмо совету директоров, предупреждая о мощном открытии искусственного интеллекта, которое, по их словам, может угрожать человечеству. Об этом сообщает Reuters со ссылкой на два источника, знакомых с этим вопросом.

Источники назвали это письмо одним из факторов в длинном списке жалоб правления, которые привели к освобождению Альтмана, среди которых были обеспокоенность коммерциализации авансов к пониманию последствий

Отказавшийся от комментариев OpenAI признал во внутреннем сообщении для сотрудников проект под названием Q* и письмо к правлению перед событиями на выходных, сказал один из собеседников.

Представитель OpenAI сказал, что сообщение, посланное давним руководителем Мирой Мурати, предупредило персонал об определенных историях СМИ, не комментируя их точность.

Некоторые сотрудники OpenAI считают, что Q* (произносится как Q-Star) может стать прорывом в поисках сверхинтеллекта, также известного как общий искусственный интеллект (AGI).

Учитывая огромные вычислительные ресурсы новая модель способна решать определенные математические задачи, сообщил человек на условиях анонимности.

Несмотря на то, что задачи решаются на уровне начальной школы, это дало исследователям очень оптимистичные ожидания будущего успеха Q*, сообщил собеседник агентства.

Исследователи считают математику на грани. развития генеративного ИИ Пока генеративный искусственный интеллект хорошо справляется с написанием и переводом языка, статистически предполагая следующее слово, и ответы на тот же вопрос могут сильно отличаться.

В отличие от калькулятора, который может производить ограниченное количество операций, AGI может обобщать, изучать и понимать.

В своем письме в правление исследователи отметили мастерство и потенциальную опасность искусственного интеллекта, сообщили источники, не уточняя точных проблем безопасности, указанных в письме.

Среди компьютерщиков давно идет дискуссия об опасности, которую представляют высокоинтеллектуальные машины, например, если они решат, что в их интересах уничтожение человечества.