Исследователь Anthropic вступает в жаркий спор с крупным медведем по ИИ с Уолл-стрит: ИИ слишком опасен, чтобы его децентрализовать, или слишком опасен, чтобы его централизовать?

14 августа противостояние в X вывело на поверхность глубочайшие философские разногласия в индустрии ИИ.

С одной стороны — Шолто Дуглас, исследователь пост-обучения в Anthropic, ключевая техническая фигура, отвечающая за обучение с подкреплением. С другой — Гэвин Бейкер, основатель Atreides Management, управляющий технологическим хедж-фондом с активами в миллиарды долларов, который в этом году в подкасте All-In Podcast последовательно излагал системную структуру инвестирования в инфраструктуру ИИ и считается одним из инвесторов Уолл-стрит, лучше всего понимающих ИИ.

Спусковым крючком стало выступление Бейкера в подкасте All-In Podcast. Он сказал, что слышал от нескольких доверенных источников, что генеральный директор Anthropic Дарио Амодей якобы заявил внутри компании, что Anthropic в конечном итоге может стать «единственной оставшейся частной компанией в мире». Оригинальная фраза Бейкера: «Если это правда, я настоятельно рекомендую Дарио больше никому не говорить таких вещей».

Дуглас прямо возразил в X: «Полная ложь (Completely false). Мне нравятся мнения Гэвина, но тот, кто сказал ему это, лжет, чтобы заставить вас поверить в нарратив, в который некоторые люди отчаянно хотят, чтобы вы поверили».

Затем он добавил: «Те же самые люди в одном предложении скажут вам, что у Anthropic нет рва, а в следующем — что она может стать опасно мощной. Эти два суждения не могут быть верны одновременно».

Бейкер не стал вступать в жесткую полемику. Он ответил, поблагодарив Шолто за прояснение фактов, но указал на более серьезную проблему: «Многие очень серьезные люди в Кремниевой долине действительно слышали какую-то версию подобных утверждений, и они верят в это, потому что это согласуется с публичными заявлениями Дарио».

Истинная ценность этого противостояния не в том, говорил ли Дарио эту фразу на самом деле. А в том, что оно обнажило более глубокое разногласие о том, должен ли ИИ быть централизован или децентрализован, и означает ли безопасность контроль или конкуренцию.

Концепция Бейкера: ИИ слишком опасен, поэтому не может быть централизован

Бейкер в подкасте All-In Podcast произвел самую четкую фразу за всю дискуссию:

«Люди из Anthropic и движения эффективного альтруизма считают, что эта технология слишком опасна, чтобы быть широко распространена. А Цукерберг, Илон и Дженсен считают, что эта технология слишком опасна, чтобы быть централизованно контролируема».

Логическая цепочка Бейкера такова: Anthropic считает, что ИИ может быть чрезвычайно мощным и опасным, поэтому требует осторожного регулирования и централизованного контроля, чтобы несколько «ответственных» лабораторий осуществляли надзор. Но Бейкер считает, что эта логика в конечном итоге приведет к следующему результату: через регулирование устанавливаются входные барьеры, несколько компаний получают фактическую монополию, open source ограничивается, конкуренция ослабляется. А история неоднократно доказывала, что централизованная абсолютная власть никогда не приводила к хорошим результатам.

Он проводит аналогию ИИ с правом на оружие: у американцев есть право носить оружие, несмотря на то, что оно может быть использовано во зло, потому что это право служит как для защиты, так и для противодействия тирании. Бейкер говорит, что хочет ИИ, который служит лично ему, ИИ, выровненный с его собственными ценностями, а не ИИ, выровненный с тем, что Дарио Амодей считает «лучшим для человечества».

Бейкер решительно поддерживает модели open source. Он цитирует мнение Дваркеша Пателя, указывая, что Claude от Anthropic, поскольку имеет встроенную «конституцию» и систему выравнивания, работает на базовой логике действий так, как Anthropic считает правильным. Он не считает людей из Anthropic плохими, но считает опасным позволять любой одной компании определять «что лучше для всего человечества».

Он даже сделал контринтуитивное инвестиционное суждение: подъем моделей open source не обязательно наносит ущерб ценности передовых лабораторий. Его аналогия — Манхэттенский проект. Оппенгеймеру и Фейнману требовались тысячи обычных ученых для выполнения работы, элита становилась еще более ценной, потому что у них было больше доступной «интеллектуальной рабочей силы». Аналогично, модели open source («150 IQ») могут оркестрироваться и планироваться передовыми моделями («250 IQ»), open source обеспечивает объем, передовые модели создают ценность.

Контрудар Дугласа: рынок решает все ваши опасения через конкуренцию

Опровержение Дугласа не увязло в конкретных сплетнях, а напрямую атаковало логическую основу нарратива Бейкера.

Он сослался на длинную статью Дарио Амодея, затем написал: «Рынок ИИ — это самый конкурентный рынок на Земле на данный момент, каждая крупнейшая компания в мире изо всех сил старается предоставить вам более умные и более дешевые модели. Если все пойдет хорошо, мы успешно снизим стоимость всего до стоимости энергии. Это великолепно, но это угрожает старым рвам многих людей. Они испугались».

Подтекст этих слов богат. Дуглас говорит: Бейкер и те, кто стоит за ним, распространяющие нарратив «Anthropic хочет монополизировать мир», во многом являются именно теми заинтересованными сторонами, чьи старые рвы находятся под угрозой со стороны ИИ. Они раздувают «амбиции» Anthropic и «регуляторный захват», истинная цель — создать ажиотаж вокруг open source, обслужить свои инвестиционные портфели или чисто из страха перед переменами.

Дуглас также указал на ключевое противоречие в аргументации Бейкера: если вы считаете, что у Anthropic нет рва и ее раздавит open source, то вы не должны одновременно беспокоиться, что она монополизирует мир. Если вы считаете, что она станет опасно мощной, то вы не можете сказать, что у нее нет конкурентоспособности. Эти два суждения взаимоисключающи.

В другом твите Дуглас написал: «Действительно, если AGI будет достигнута, капитализм станет очень странным, концепция «компания» может выглядеть совершенно иначе». Он сослался на статью Дваркеша Пателя о форме предприятий в эпоху ИИ, подразумевая, что эта проблема гораздо сложнее простой дихотомии «централизация vs децентрализация».

Истинный вопрос, который избежали

Прекрасность дебатов Бейкера и Дугласа в том, что оба на самом деле не допустили очевидных логических ошибок, их разногласия кроются в базовых предположениях.

Базовое предположение Бейкера: ИИ достаточно мощен, чтобы быть оружием, поэтому децентрализация власти безопаснее централизации власти, точно так же, как демократия безопаснее просвещенного абсолютизма. Он реалистично относится к человеческой природе: никто, каким бы доброжелательным он ни был, не должен обладать суперинтеллектом без сдержек и противовесов.

Базовое предположение Дугласа: интенсивность конкуренции на рынке ИИ сама по себе является лучшим механизмом сдержек и противовесов. Не нужно использовать политические нарративы для «децентрализации» власти ИИ, потому что рынок уже делает это. Google, Meta, xAI, OpenAI, DeepSeek, Kimi, GLM, крупнейшие компании мира и самые умные команды бегут в одном направлении. В такой конкурентной среде ни одна компания не может «стать единственной частной компанией в мире».

Оба избежали более острого вопроса: если ИИ действительно, как сказал Дарио, может привести к исчезновению 50% работ офисных сотрудников, то достаточно ли «конкуренции» и «децентрализации»? Конкуренция обеспечивает эффективность, но не гарантирует справедливость. Децентрализация гарантирует отсутствие единой точки отказа, но не гарантирует отсутствие системных рисков.

Бейкер сказал, что хочет ИИ, который «служит лично ему». Но что станет с миром, если у каждого будет суперинтеллект, служащий ему? Это больше не технический вопрос, даже не бизнес-вопрос, это вопрос политической философии.

И в этом вопросе разногласия между исследователем Anthropic и менеджером хедж-фонда, возможно, точно отражают фундаментальный раскол тревоги человечества перед лицом ИИ: чего человечество боится больше — слишком мощного привратника или мира без привратника?

У этих дебатов не будет победителя, но они по крайней мере сделали оба страха одновременно ясными.