Сегодня во всем мире активно обсуждают, можно ли доверять информации, которую генерирует искусственный интеллект. Но, возможно, еще важнее спросить: можем ли мы доверять ответам ChatGPT, если у нас есть серьезные основания не доверять человеку, который стоит во главе OpenAI, — Сэму Альтману?

Именно к такому выводу подводит чрезвычайно критический и очень подробный профиль Альтмана, опубликованный в The New Yorker. В нем глава OpenAI предстает человеком, который умеет говорить людям именно то, что они хотят услышать, — даже если это происходит за счет правды. Перед нами не просто талантливый предприниматель или визионер новой технологической эпохи, а фигура, вокруг которой все отчетливее сгущаются вопросы о честности, мотивах и подлинных приоритетах.

Вопрос доверия к ИИ постепенно расширяется. Раньше внимание было сосредоточено прежде всего на качестве алгоритмов, на количестве ошибок, на “галлюцинациях” моделей, на проблемах предвзятости и недостаточной прозрачности. Но теперь становится очевидно: этого уже недостаточно. Нужно смотреть не только на то, как работают модели, но и на то, кто ими владеет, кто ими распоряжается и в чьих интересах они развиваются.

Сэм Альтман — генеральный директор OpenAI, компании, создавшей ChatGPT. Но OpenAI начиналась вовсе не как типичный технологический гигант, ориентированный на рынок. Изначально проект задумывался как некоммерческая научно-исследовательская инициатива, цель которой состояла в разработке безопасного искусственного общего интеллекта — системы, способной воспроизводить человеческие когнитивные способности, не угрожая обществу.

Однако по мере того как OpenAI набирала влияние и коммерческий вес, вокруг Альтмана стали множиться обвинения. Еще на раннем этапе Илон Маск, который участвовал в истории компании, обвинял его в том, что тот фактически ввел его в заблуждение и использовал для финансирования проекта. Позднее, когда технологии OpenAI стали стремительно развиваться, уже коллеги Альтмана начали утверждать, что он обходил вопросы безопасности и ставил коммерческие интересы выше принципов, на которых изначально строилась организация.

Кульминацией этого конфликта стала попытка сместить Альтмана. После кратковременного увольнения в ноябре 2023 года он удалился в свой многомиллионный дом, откуда, как сообщалось, предупреждал критиков о возможных репутационных последствиях. Но очень быстро, при поддержке армии юристов, советников и Microsoft, он сумел вернуться. На это ушло меньше недели. Его противники были в значительной степени оттеснены, а вопросы о его добросовестности, казалось, так и остались без полноценного ответа.

Во всей этой истории особенно показательно то, как меняется сам Альтман — или, по крайней мере, как меняется его публичный образ. В одних случаях он выступает как “думер”, человек, считающий искусственный интеллект экзистенциальной угрозой человечеству. В других — как технооптимист, готовый двигаться вперед с максимальной скоростью, даже если цена этого движения до конца не ясна. Эта способность легко менять тональность и позицию производит впечатление не глубокой интеллектуальной гибкости, а скорее стратегической приспособляемости: Альтман словно выбирает ту риторику, которая в данный момент наиболее выгодна.

После своего возвращения в OpenAI он, похоже, продолжил уводить компанию все дальше от ее исходных принципов. Речь идет не только о стремительной коммерциализации, но и о сотрудничестве с военными структурами США. Все это усиливает ощущение, что некогда идеалистический проект окончательно встроился в логику большой власти, больших денег и большой геополитики.

И здесь дело уже не только в самом Альтмане. История OpenAI становится частью более широкой картины — картины, в которой индустрия искусственного интеллекта демонстрирует поразительное сочетание амбиций, самоуверенности и снисходительного отношения к последствиям собственной деятельности. Колоссальное энергопотребление дата-центров? Нарушение авторских прав на книги, музыку и другие произведения? Отвратительные продукты вроде приложений для “раздевания” людей на фотографиях? Лоббисты ИИ-индустрии готовы признавать такие проблемы, но делают это с холодной отстраненностью, как будто речь идет о незначительных издержках на пути к великому технологическому будущему.

Такую позу особенно легко занимать компаниям, которые слишком тесно сблизились с государственными лидерами и крупными медиа. Причем это заметно не только в Соединенных Штатах или странах Персидского залива, но и в Европе. Политическая власть и технологические корпорации все чаще оказываются переплетены. Достаточно взглянуть на то, как европейские политики и министры демонстрируют готовность работать с фигурами масштаба Илона Маска и Сэма Альтмана, передавая им все более чувствительные сферы влияния и публичного доверия.

Границы между государственными институтами и частными технологическими акторами постепенно размываются. Это преподносится как неизбежность, как естественный этап развития современного мира. Но цена такого сближения может оказаться чрезвычайно высокой — прежде всего для общественного блага.

Особенно тревожно это выглядит в тех сферах, которые исторически были зоной ответственности государства. Например, в области социальной поддержки. Именно государство, а не рынок, традиционно обеспечивало ту степень стабильности, которую конкурентная логика частного капитала дать не может.

И здесь взгляды Альтмана на будущее тоже вызывают серьезные вопросы. Еще несколько лет назад он поддерживал крупный эксперимент по безусловному базовому доходу. В рамках этой программы тысяча человек в американских штатах Иллинойс и Техас в период с 2020 по 2023 год ежемесячно получали по тысяче долларов без каких-либо обязательств. Идея заключалась в том, чтобы проверить, как работает регулярная денежная выплата, предоставляемая человеку независимо от его занятости, уровня дохода и соблюдения каких-либо условий.

Эксперимент дал некоторые позитивные результаты. На фоне растущих разговоров о массовой безработице, которую могут вызвать автоматизация и искусственный интеллект, сама постановка такого вопроса выглядела своевременной и даже ответственной. Более того, этот опыт укреплял позиции тех, кто давно выступает за базовый доход как инструмент, позволяющий людям принимать более свободные и рациональные решения о собственной жизни.

Но затем позиция Альтмана изменилась. Теперь он все чаще говорит не о Universal Basic Income, а о Universal Basic Wealth — не о базовом доходе в денежной форме, а о некоем всеобщем “богатстве”, основанном на токенах, генерируемых искусственным интеллектом и распределяемых между владельцами технологий и всеми остальными. По его словам, вместо обычного чека каждый человек на Земле сможет получить долю мировой ИИ-мощности, после чего распределенная человеческая изобретательность сама запустит новый экономический двигатель.

На первый взгляд такая идея может показаться смелой и даже демократичной. Но в действительности она подрывает саму логику базового дохода. Смысл базового дохода состоит в гарантированной, стабильной, универсальной и политически обеспеченной поддержке. А модель, в которой центральную роль играют частные компании, токены и технологическая инфраструктура, делает человека зависимым не от публичного механизма солидарности, а от рынка, платформ и корпоративных решений.

Именно поэтому критики вроде философа Филиппа Ван Парейса указывают на главную проблему такого поворота. Базовый доход требует публичной власти — локальной, национальной или даже глобальной. Он не может надежно существовать как побочный продукт частной технологической системы. Если же опереться на компании, часть из которых неизбежно будет разоряться, поглощаться или менять правила игры, результатом станет не большая свобода, а большая незащищенность.

Таким образом, переход Альтмана от идеи базового дохода к идее “базового богатства” выглядит не просто еще одним интеллектуальным зигзагом. Это симптом более глубокой проблемы: технологические лидеры все чаще предлагают человечеству будущее, в котором их собственные интересы совпадают с общественным благом — по определению, без права на сомнение и без полноценного демократического обсуждения.

Распространение искусственного интеллекта, возможно, действительно неизбежно. Но неизбежным не должно становиться другое: передача контроля над нашим будущим в руки узкого круга частных лиц, компаний и платформ. Сегодня главный вопрос уже не в том, насколько умны машины. Главный вопрос в том, кто именно направляет их развитие, кто получает выгоду от этого процесса и кто будет принимать решения, когда алгоритмы окончательно встроятся в саму ткань общественной жизни.

Потому что опасность может заключаться не только в том, что искусственный интеллект однажды станет слишком сильным. Она может заключаться и в том, что слишком много власти над ним — а значит, и над нами — уже сейчас сосредоточено в руках людей, которым у нас все меньше причин доверять.