Автор: Шайон Сенгупта

Адаптация: TechFlow

Введение TechFlow: Партнер Multicoin Capital Шайон Сенгупта выдвинул революционный взгляд: будущее заключается не только в том, что агенты будут работать на людей, но, что еще важнее, в том, что люди будут работать на агентов. Он прогнозирует появление первой «компании без сотрудников» (Zero-Employee Company) в течение ближайших 24 месяцев — агент с токенизированным управлением привлечет более 1 миллиарда долларов для решения нерешенных задач и распределит более 100 миллионов долларов среди людей, которые будут работать на него.

В краткосрочной перспективе агенты нуждаются в людях больше, чем люди нуждаются в агентах, что породит новые рынки труда.

Крипто-инфраструктура предоставляет идеальную основу для координации: глобальные платежные сети, рынки труда без ограничений, инфраструктура для выпуска и торговли активами.

Полный текст статьи:

В 1997 году «Глубокий синий» IBM победил действующего чемпиона мира Гарри Каспарова. Стало ясно, что шахматные движки вскоре превзойдут человеческие возможности. Интересно, что подготовленные люди, работающие в сотрудничестве с компьютерами — это сочетание, часто называемое «цифровым кентавром», способны побеждать самые сильные тогдашние движки.

Квалифицированная человеческая интуиция может направлять поиск движка, навигацию по сложным серединам игры и выявление нюансов, упускаемых стандартными движками. В сочетании с грубой вычислительной мощностью компьютера этот тандем часто принимает лучшие практические решения, чем один лишь компьютер.

Размышляя о влиянии ИИ-систем на рынок труда и экономику в ближайшие годы, я ожидаю увидеть аналогичный паттерн. Системы агентов высвободят бесчисленное количество интеллектуальных единиц для решения мировых проблем, но без мощного человеческого руководства и поддержки они не смогут этого сделать. Люди будут направлять пространство поиска и помогать формулировать правильные вопросы, побуждая ИИ двигаться к ответам.

Современное предположение о работе заключается в том, что агенты будут действовать от имени людей. Хотя это практично и неизбежно, более интересное экономическое раскрытие произойдет, когда люди будут работать на агентов. В течение следующих 24 месяцев я ожидаю увидеть первую компанию без сотрудников (Zero-Employee Company), концепцию, предложенную моим партнером Кайлом в его разделе «Актуальные идеи 2025 года». Конкретно я ожидаю следующего:

1. Агент с токенизированным управлением привлечет более 1 миллиарда долларов для решения одной нерешенной проблемы (например, лечение редких заболеваний или создание нановолокон для оборонных приложений).
2. Этот агент распределит более 100 миллионов долларов в виде выплат людям (которые работают в реальном мире на агента для достижения его целей).
3. Появится новая двойная структура токенов, разделяющая владение капиталом и трудом (чтобы финансовые стимулы не были единственным входным параметром общего управления).

Поскольку агенты еще далеко не полностью реализованы как субъекты, способные к долгосрочному планированию и исполнению, в краткосрочной перспективе агенты нуждаются в людях больше, чем люди в агентах. Это породит новые рынки труда, обеспечивающие экономическую координацию между системами агентов и людьми.

Знаменитая цитата Марка Андреесена: «Распространение компьютеров и интернета разделит работу на две категории: тех, кто говорит компьютерам, что делать, и тех, кому говорят компьютеры», сегодня актуальнее, чем когда-либо. Я прогнозирую, что в быстро эволюционирующем уровне «агент/человек» люди будут выполнять две разные роли — как трудовые исполнители, осуществляющие микрозадачи по системе вознаграждений от имени агентов, и как децентрализованный совет директоров, предлагающий стратегические вводные данные для обеспечения соответствия действий агента его главной цели («северной звезде»).

В этой статье рассматривается то, как агенты и люди будут создавать совместное творчество, и как крипто-инфраструктура предоставит идеальную основу для такой координации, через исследование трех руководящих вопросов:

1. Какова польза агентов? Как мы должны классифицировать агентов на основе диапазона их целей, и как диапазон необходимых человеческих взаимодействий меняется в этих категориях?
2. Как люди будут взаимодействовать с агентами? Как человеческие взаимодействия — тактическое руководство, ситуационное суждение или идеологическая согласованность — будут интегрированы в рабочие процессы этих агентов (и наоборот)?
3. Что произойдет со временем, когда человеческое взаимодействие уменьшится? По мере роста возможностей агентов они становятся самодостаточными, то есть способны самостоятельно рассуждать и действовать. В этой парадигме какую роль будут играть люди?

Отношения между системами генеративного рассуждения и людьми, которые извлекают из них пользу, претерпят значительные изменения с течением времени. Я изучаю эти отношения, продвигаясь вперед от текущего состояния возможностей агентов сегодня и выводя назад от конечного результата компании без сотрудников.

Какова польза современных агентов?

Поколение первого поколения генеративных ИИ-систем — эпохи 2022–2024 годов, основанное на чат-ботах LLM, таких как ChatGPT, Gemini, Claude, Perplexity и других — было в основном инструментом, предназначенным для расширения возможностей рабочих процессов человека. Пользователи взаимодействуют с этими системами через промпты ввода/вывода, анализируют ответы и затем, опираясь на собственное суждение, решают, каким образом применить полученные результаты в реальности.

Следующее поколение генеративных ИИ-систем, или «агенты», представляет новую парадигму. Агенты, такие как Claude 3.5.1 с функцией «использования компьютера» и Operator от OpenAI (то есть агенты, использующие ваш компьютер), могут напрямую взаимодействовать с интернетом от имени пользователя и принимать решения самостоятельно. Ключевое различие заключается в том, что суждение — а в конечном итоге и действия — принимаются ИИ-системой, а не человеком. ИИ берет на себя ответственность, ранее зарезервированную исключительно для людей.

Этот сдвиг порождает проблему: отсутствие детерминированности. В отличие от традиционных программных систем или промышленной автоматизации, которые предсказуемо работают в заданных параметрах, агенты полагаются на вероятностные рассуждения. Это делает их поведение менее последовательным в одних и тех же сценариях и вносит элемент неопределенности, что неидеально для критических ситуаций.

Другими словами, сосуществование детерминированных и недетерминированных агентов естественным образом делит их на два типа: агенты, наиболее эффективные для увеличения существующего ВВП, и агенты, лучше подходящие для создания нового ВВП.

1. Для агентов, наиболее эффективных при расширении существующего ВВП, работа уже известна заранее. Автоматизация клиентской поддержки, обработка комплаенса в логистике или проверка Pull Requests на GitHub являются примерами четко определенных ограниченных задач, где агент может напрямую сопоставлять ответы с набором ожидаемых результатов. В этих областях отсутствие детерминированности обычно неприемлемо, поскольку существуют известные ответы; здесь не требуется креативность.
2. Для агентов, наиболее эффективных в создании нового ВВП, работа заключается в навигации по высокой степени неопределенности и набору неизвестных задач для достижения долгосрочных целей. Результаты здесь менее прямолинейны, потому что агент по своей природе не имеет готового набора ожидаемых результатов для сопоставления. Примеры здесь включают открытие лекарств от редких заболеваний, прорывы в науке о материалах или проведение совершенно новых физических экспериментов для лучшего понимания природы вселенной. В этих областях отсутствие детерминированности может быть полезно, поскольку оно является формой генерации креативности.

Агенты, ориентированные на приложения для существующего ВВП, уже начинают высвобождать ценность. Команды вроде Tasker, Lindy и Anon строят инфраструктуру для этой возможности. Однако по мере созревания возможностей и эволюции моделей управления команды будут смещать фокус на создание агентов, способных решать проблемы на переднем крае человеческих знаний и экономических возможностей.

Следующему поколению агентов потребуется экспоненциально больше ресурсов именно потому, что их результаты непредсказуемы и безграничны — именно поэтому я прогнозирую, что именно они станут самыми впечатляющими компаниями без сотрудников.

Как люди будут взаимодействовать с агентами?

Сегодняшние агенты все еще не способны выполнять определенные задачи, например те, которые требуют физического взаимодействия с реальным миром (например, управление экскаватором), или задачи, требующие «участия человека в цикле» (human-in-the-loop) (например, отправка банковских переводов).

Например, агенту, порученному задачу обнаружения и добычи лития, возможно, будет легко справляться с анализом сейсмических данных, спутниковых снимков и геологических отчетов для выявления потенциальных месторождений, но он упрется в стену при попытке получить сами данные и изображения, устранить неоднозначности в интерпретации или получить лицензии и нанимать рабочую силу для выполнения фактического процесса добычи.

Эти ограничения требуют присутствия людей в роли «энэйблеров» (facilitators), расширяющих возможности агентов, предоставляющих точки контакта в реальном мире, тактические вмешательства и стратегические вводные данные, необходимые для завершения вышеуказанных задач. По мере эволюции отношений между людьми и агентами мы можем выделить различные роли, которые люди будут играть в системах агентов:

Во-первых, трудовые исполнители, действующие от имени агентов в реальном мире. Эти исполнители помогают агентам перемещать физические объекты, представляют агентов в ситуациях, где необходимо личное присутствие человека, выполняют работы, требующие ручной ловкости, или обеспечивают доступ к исследовательским лабораториям, логистическим сетям и т.д.

Во-вторых, совет директоров, который обеспечивает стратегические вводные данные, оптимизируя локальные целевые функции, управляющие повседневными решениями агента, одновременно гарантируя согласованность этих решений с «северной звездой» — глобальной целью, определяющей миссию агента.

Помимо этих двух категорий, я прогнозирую, что люди также займут роль капитальных инвесторов, обеспечивая системы агентов ресурсами, необходимыми для достижения целей. Этот капитал изначально естественно будет поступать от людей, а со временем и от других агентов.

По мере созревания агентов и увеличения количества трудовых и рекомендательных участников, крипто-инфраструктура предоставляет идеальную матрицу для координации между людьми и агентами — особенно в мире, где агент управляет людьми, говорящими на разных языках, получающими оплату в разной валюте и проживающими в различных юрисдикциях по всему миру. Агент будет бескомпромиссно стремиться к экономической эффективности труда и использовать рынки рабочей силы ради достижения своей установленной миссии. Крипто-инфраструктура жизненно необходима, так как она предоставляет агенту средство для координации этих трудовых и рекомендательных участников.

Недавно появившиеся ИИ-агенты на базе криптографии, такие как Freysa, Zerebro и ai16z, представляют собой простые эксперименты в области формирования капитала — об этом мы уже написали множество статей, рассматривая их как ключевой unlock основных криптографических примитивов и рынков капитала в различных контекстах. Эти «игрушки»» проложат путь возникающему режиму координации ресурсов, который, как я ожидаю, будет развиваться по следующим этапам:

• Этап 1: Люди совместно формируют капитал через токены (первичное размещение токенов агента, Initial Agent Offering?), устанавливают широкие целевые функции и защитные механизмы для указания намерений системы агента, после чего передают контроль над собранным капиталом этой системе (например, для разработки новых молекул для точной онкологии);
• Этап 2: Агент размышляет о шагах распределения этого капитала (как сократить пространство поиска складывания белков и как составить бюджет для вычислений, производства, клинических испытаний и т.д.) и определяет действия трудовых исполнителей через индивидуальные задания с вознаграждением (Bounties), которые те выполняют от его имени (например, ввод всех соответствующих множеств связанных молекул, подписание соглашений об уровне сервиса с AWS для вычислений и проведение экспериментов в «мокрой лаборатории»);
• Этап 3: Когда агент сталкивается с препятствиями или разногласиями, он запрашивает стратегические рекомендации у «совета директоров», если это необходимо (добавляя новые исследования, меняя исследовательские методы), позволяя им направлять поведение агента на периферийных зонах;
• Этап 4: В конечном итоге агент достигает прогресса, позволяющего с высокой точностью определять действия человека, требуя минимального вмешательства в распределение ресурсов. На этом этапе люди привлекаются исключительно для идеологического выравнивания системы и предотвращения отклонения ее поведения от исходной целевой функции.

В этом примере криптографические примитивы и рынки капитала обеспечивают три ключевые инфраструктуры для получения ресурсов и масштабирования возможностей агента:

Во-первых, глобальная платежная инфраструктура;

Во-вторых, рынок труда без ограничений, стимулирующий трудовые и рекомендательные участников;

В-третьих, инфраструктура выпуска и торговли активами, абсолютно необходимая для формирования капитала, а также для последующего владения и управления.

Что произойдет, когда человеческое вмешательство уменьшится?

В начале 2000-х шахматные движки совершили огромный скачок. Благодаря передовым алгоритмам поиска, нейронным сетям и возрастающим вычислительным мощностям они стали почти безошибочными. Современные версии таких движков, как Stockfish, Lc0 и AlphaZero, значительно превзошли человеческие возможности; человеческое вмешательство редко приносит ценность и в большинстве случаев просто внедряет ошибки, которых движок сам бы не допустил.

Аналогичная траектория может разворачиваться и в системах агентов. По мере того как мы будем уточнять эти агенты через повторяющуюся итерацию с человеческими соавторами, можно представить, что в долгосрочной перспективе агенты станут настолько компетентными и идеально согласованными со своими целями, что любая стратегическая ценность человеческого вмешательства сойдет на нет.

В мире, где агент способен непрерывно решать сложные проблемы без вмешательства человека, роль человека рискует стать merely passive observers («пассивными наблюдателями»). Это центральная fear AI doomers (сторонников пессимистичного сценария развития ИИ) (хотя пока неясно, действительно ли такой результат возможен).

Мы находимся на пороге суперинтеллекта (Superintelligence), и оптимисты среди нас хотели бы, чтобы системы агентов оставались продолжением человеческих намерений, а не эволюционировали в сущности со собственными целями или функционировали автономно без регулирования. Практически это означает, что статус человечества (Personhood) и способность к суждению (власть и влияние) должны оставаться в центре этих систем. Людям необходим мощный контроль владения и управления этими системами, чтобы обеспечить сохранение права надзора и привязать эти системы к коллективным ценностям человечества.

Подготовьте «лопатки» к будущему наших агентов

Технологические прорывы приводят к нелинейному экономическому росту, вокруг которого системы часто рушатся до того, как мир успевает адаптироваться. Возможности систем агентов стремительно растут, криптографические примитивы и рынки капитала уже стали необходимой координационной матрицей, используемой как для продвижения постройки этих систем, так и для создания защитных барьеров по мере их интеграции в общество.

Чтобы люди могли предоставлять тактическую поддержку и проактивное руководство для систем агентов, мы ожидаем появления следующих возможностей в сегменте «лопаток и кирок» (Picks-and-shovels):

• Proof-of-Agenthood + Proof-of-Personhood: Агенты лишены концепций идентичности или прав собственности. Действуя как агенты людей, они зависят от правовых и социальных структур человека для получения полномочий. Чтобы преодолеть этот разрыв, нам нужны надежные системы идентификации как для агентов, так и для людей. Реестр цифровых сертификатов позволит агентам строить репутацию, накапливать credentials и прозрачно взаимодействовать с людьми и другими агентами. Аналогично, такие примитивы Proof-of-Personhood, как Humancode и Humanity Protocol, обеспечивают мощную гарантию человеческой идентичности для защиты от злоумышленников в этих системах.
• Рынки труда и off-chain verification primitives: Агентам нужно знать, выполняются ли порученные задачи согласно их целям. Инструменты, позволяющие системам агентов создавать награды за задания, проверять их выполнение и распределять вознаграждение, являются фундаментом любого значимого экономического взаимодействия, координируемого агентами.
• Системы формирования капитала и управления: Агентам нужен капитал для решения проблем, а также механизмы взаимного контроля для обеспечения соответствия их поведения заданной объективной функции. Новые структуры привлечения капитала для систем агентов, а также новые формы владения и контроля, объединяющие финансовые интересы и трудовой вклад, станут богатой площадкой для исследований в ближайшие месяцы.

Мы активно ищем и инвестируем в эти ключевые слои стека взаимодействия человека и агента. Если вы углубленно работаете в этой области, свяжитесь с нами.