Виталик в новой публикации: открытый исходный код как третий путь смягчения технологической централизации недооценивается

Автор: Виталик Бутерин

Подготовка и перевод: Жанна, ChainCatcher

ChainCatcher подготовил и перевёл материал (с сокращениями).

Ключевые тезисы:

• Крайне радикальные технологии могут усугубить социальное неравенство, поскольку в первую очередь станут доступны богатым и элитам, что приведёт к разрыву между богатыми и бедными в продолжительности жизни и доступе к преимуществам, вплоть до формирования глобального андеркласса.

• Существует ещё одна форма злоупотребления технологиями: когда производители проецируют свою власть на пользователей через сбор данных, сокрытие информации и т.д. Это принципиально отличается от неравенства в доступе к технологиям.

• Открытый исходный код (open source) — это недооценённый третий путь, который может улучшить равенство доступа и равенство производителей, повысить проверяемость и устранить привязку к поставщику.

• Критики открытого исходного кода указывают на риски его злоупотребления, однако централизованный контроль ненадёжных «стражей» не оправдан, он уязвим для использования в военных целях и не гарантирует равенства между странами.

• Если технология несёт высокий риск злоупотреблений, более разумным решением может быть вообще её не разрабатывать. Если же беспокоят риски концентрации власти, следует применять открытый исходный код, чтобы сделать процесс более справедливым.

• Открытый исходный код не означает отсутствия регулирования. Его можно сочетать с законами и другими нормами; ключевая цель — демократизация технологий и обеспечение доступности информации.

Распространённое опасение заключается в том, что некоторые передовые технологии могут усугубить неравенство во власти, поскольку неизбежно окажутся в руках у богатых и элит.

Приведём цитату человека, обеспокоенного последствиями увеличения продолжительности жизни:

«Не останутся ли некоторые люди позади? Не сделаем ли мы общество ещё более неравным?» — спрашивает он. Тулжапуркар прогнозирует, что скачок продолжительности жизни ограничится развитыми странами, граждане которых смогут позволить себе антиэйджинговые технологии, а правительства — финансировать научные исследования. Эта разница усложняет текущие дебаты о доступности здравоохранения, поскольку разрыв между богатыми и бедными теперь проявляется не только в качестве жизни, но и в самой продолжительности жизни.

«У крупных фармацевтических компаний есть устойчивая практика крайне жёстких условий предоставления продуктов тем, кто не может за них платить», — отмечает Тулжапуркар.

Если антиэйджинговые технологии будут распространяться на нерегулируемом свободном рынке, «на мой взгляд, вполне возможно, что в итоге мы сформируем постоянный глобальный андеркласс. Страны, оказавшиеся за бортом, будут навсегда заблокированы в условиях современной им смертности», — говорит Тулжапуркар. «Если такое произойдёт, возникнет отрицательная обратная связь, порочный круг. Исключённые страны будут исключены навсегда».

Вот аналогично резкое высказывание из статьи, обсуждающей последствия генетического улучшения человека:

На прошлой неделе учёные объявили о редактировании генов в человеческих эмбрионах с целью устранения патогенной мутации. Эта работа поражает воображением и является ответом на молитвы многих родителей. Кто захочет упустить возможность предотвратить страдания детей, которых можно было бы сейчас избежать?

Но это не конечная точка. Многие родители希望通过 генетических улучшений обеспечить своим детям наилучшее преимущество. Те, у кого есть возможности, получат доступ к этим технологиям. По мере их развития этические вопросы выйдут далеко за рамки вопросов их окончательной безопасности. Высокая стоимость процедур создаст дефицит и усугубит уже растущее неравенство доходов.

Аналогичные точки зрения в других технологических областях:

• Цифровые технологии в целом: https://www.amnestyusa.org/issues/technology/technology-and-inequality/

• Космический туризм: https://oilprice.com/Energy/Energy-General/What-Does-Billionaires-Dominating-Space-Travel-Mean-for-the-World.html

• Солнечная геоинженерия: https://www.cambridge.org/core/journals/global-sustainability/article/hidden-injustices-of-advancing-solar-geoengineering-research/F61C5DCBCA02E18F66CAC7E45CC76C57

Эта тема прослеживается во многих критических выступлениях против новых технологий. Связанная, но по своей сути иная тема — использование технологических продуктов в качестве инструмента сбора данных, создания зависимости от поставщика, намеренного сокрытия побочных эффектов (как это ранее случалось с современными вакцинами) и иных форм злоупотреблений.

Новые технологии часто создают больше возможностей получить что-либо, не наделяя при этом пользователя правами на это или полной информацией. Поэтому с этой точки зрения старые технологии часто кажутся безопаснее. Это тоже форма усиления позиции элит за счёт остальных, но проблема здесь заключается не в неравенстве доступа, как в предыдущих примерах, а в проекции производителем своей власти на пользователя через технологию.

Лично я очень поддерживаю технологии. Если выбирать между «продолжать движение вперёд» и «сохранять статус-кво», то, несмотря на риски, я готов поддержать развитие практически всех проектов, за исключением немногих (таких как исследования с приобретением функциональности, оружие и сверхразумные ИИ).

Потому что в целом преимущества включают более долгую и здоровую жизнь, процветающее общество, сохранение большей релевантности человечества в эпоху быстрого прогресса ИИ и поддержание культурной преемственности благодаря старшему поколению как живым людям, а не просто воспоминаниям в исторических книгах.

Но если я постараюсь поставить себя на место тех, кто менее оптимистично смотрит на позитивные эффекты, или сильнее опасается, что элиты используют новые технологии для экономического доминирования и контроля, или оба фактора сразу? Например, я сам испытываю подобные чувства относительно продуктов умного дома. Польза от общения с лампочкой перекрывается моим беспокойством по поводу передачи личных данных в Google или Apple.

При более пессимистичных предположениях я могу представить, что буду испытывать схожие ощущения относительно некоторых медиа-технологий: если они позволят элитам эффективнее транслировать информацию другим людям, их можно будет использовать для оказания давления и подавления других. Для многих подобных технологий выигрыш от лучшей информации или развлечения не компенсирует способов перераспределения власти, которые они несут.

Открытый исходный код как третий путь

Я считаю, что в таких ситуациях сильно недооценивается следующая позиция: поддержка исключительно технологий, разрабатываемых с использованием принципов открытого исходного кода.

Аргумент о том, что открытый исходный код ускоряет прогресс, кажется весьма убедительным: он облегчает людям построение собственных инноваций на базе чужих разработок. В то же время аргумент о том, что требование открытых источников замедлит прогресс, также заслуживает внимания: он запрещает использование множества потенциально прибыльных бизнес-стратегий.

Но наиболее интересные последствия открытого исходного кода лежат в плоскости, не связанной со скоростью прогресса:

• Он улучшает равенство доступа. Если продукт имеет открытый исходный код, он естественно доступен любой стране и любому человеку. Для физических товаров и услуг людям всё равно придётся оплачивать предельные издержки, но во многих случаях высокие цены проприетарных продуктов связаны слишком высокими фиксированными затратами на изобретение, что не привлекает достаточной конкуренции, поэтому предельные издержки часто оказываются довольно низкими (яркий пример — фармацевтическая промышленность).

• Он улучшает равенство доступа к участию в производстве. Один из критиков указывает, что бесплатное предоставление пользователям готовых продуктов не помогает им приобрести навыки и опыт, необходимые для продвижения в глобальной экономике к процветанию и устойчивого обеспечения качественной жизни. В случае открытого исходного кода ситуация иная: он по замыслу даёт людям в любом месте мира возможность становиться производителями на всех этапах цепочки поставок, а не оставаться лишь потребителями.

• Он повышает проверяемость. Если что-то имеет открытый исходный код, то в идеале раскрываются не только выходные данные, но и процесс разработки, выбор параметров и т.д., что значительно упрощает проверку того, получаете ли вы именно то, что заявляет поставщик, и позволяет третьим сторонам выявлять скрытые недостатки.

• Он устраняет возможность привязки к поставщику. Если исходный код открыт, производитель не сможет сделать продукт бесполезным путём дистанционного отключения функций или просто обанкротившись, как это бывает с высококомпьютеризированными/сетевыми автомобилями после закрытия завода-производителя. Вы всегда имеете право отремонтировать его самостоятельно или обратиться к другим поставщикам.

Проанализируем это с точки зрения некоторых более радикальных технологий, упомянутых в начале статьи:

• Если у нас будет проприетарная технология увеличения продолжительности жизни, она может остаться в распоряжении миллиардеров и политических лидеров. Хотя лично я ожидаю быстрого снижения её цены, в случае открытого исходного кода любой человек сможет ею воспользоваться и предложить её другим по низкой стоимости.

• Если речь идёт о проприетарной технологии генетического улучшения человека, она тоже может достаться лишь миллиардерам и лидерам, создавая новый верхний класс. Опять же, я считаю, что такие технологии рано или поздно распространятся, но определённый разрыв между тем, что получают богатые, и тем, что доступно остальным, останется. Однако при открытом исходном коде этот разрыв между ресурсами и возможностями элиты и остального населения будет гораздо меньше.

• Что касается биотехнологий в целом, экосистема научных безопасных тестов с открытым исходным кодом может оказаться более эффективной и честной, чем компании, которые рекламируют свои собственные продукты и получают одобрение подчинённых регуляторов.

• Если в космос смогут отправиться лишь единицы, то в зависимости от политического контекста кто-то из них может попытаться монополизировать целую планету или луну. При более широком распространении технологий шансы на такую монополию снизятся.

• Если исходный код умных автомобилей будет открыт, вы сможете проверить, что производитель не следит за вами, и зависеть от него в дальнейшем использовании авто не придётся.

Мы можем обобщить аргументы в виде таблицы:

Обратите внимание, что пузырь «строить это только при условии открытого исходного кода» шире, что отражает большую неопределённость касательно того, насколько быстро он ускорит прогресс и насколько эффективно предотвратит риски концентрации власти. Тем не менее, даже учитывая это, во многих случаях в среднем это выгодная сделка.

Открытый исходный код и риски злоупотреблений

Один из основных аргументов против применения мощных технологий с открытым исходным кодом иногда формулируется следующим образом: существует риск использования в нецентрализованном формате и формах злоупотребления с нулевой суммой. Выдача каждому ядерного оружия действительно закончит ядерное неравенство. Это реальная проблема, и мы видим, как несколько великих держав используют асимметрию ядерного доступа для запугивания других. Но это почти наверняка приведёт к гибели миллиардов людей.

Как пример непреднамеренных негативных социальных последствий: предоставление всем возможности пластической хирургии может привести к игре с нулевой суммой, где каждый тратит огромные ресурсы и даже рискует здоровьем ради того, чтобы быть красивее других, но в конечном итоге все привыкают к повышенному стандарту красоты, и общество в целом не становится лучше. Некоторые формы биотехнологий могут дать подобный эффект в массовом масштабе. Многие технологии, включая множество биотехнологий, находятся где-то посередине между этими двумя крайностями.

«Я поддерживаю это только если оно находится под тщательным контролем доверенных „стражей“». Это весомый аргумент в пользу движения в противоположном направлении. Стражи могут разрешать позитивное применение технологий, одновременно блокируя негативное. Их даже можно наделить общественной миссией по обеспечению недискриминационного доступа для всех, кто не нарушает установленных правил.

Однако я по умолчанию сильно скептичен к этому подходу. Главная причина: я сомневаюсь, что в современном мире вообще существуют действительно доверенные стражи. Многие из самых играющих с нулевой суммой и рискованных вариантов применения — это военные задачи, а история показывает, что армии плохо справляются с самосдержанием.

Хорошим примером служит советская программа биологического оружия:

Гоффман отмечает, что сдержанность Горбачёва в отношении СОИ и ядерного оружия контрастировала с его действиями, связанными с нелегальной программой бактериологического оружия СССР. Когда Горбачёв пришёл к власти в 1985 году, несмотря на статус СССР как стороны Конвенции о биологическом оружии, уже существовала масштабная программа биологического оружия, начатая ещё при Брежневе. Помимо сибирской язвы, в СССР исследовались оспа, чума и туляремия, но предназначение и цели такого оружия оставались туманными.

«Документы Катяева показывают, что в середине и конце 80-х годов имелось несколько постановлений Центрального Комитета по программам биологической войны. Трудно поверить, что они принимались и публиковались без ведома Горбачёва», — говорит Гоффман.

«Существует даже меморандум от мая 1990 года, направленный Горбачёву по поводу программы биологического оружия — он всё ещё не раскрывает всей картины. Советский Союз ввёл в заблуждение весь мир и своих собственных лидеров».

The Russian Biological Weapons Program: Vanished or Disappeared? утверждает, что после распада СССР эта программа могла быть предоставлена другим государствам.

Другие страны также имеют серьёзные ошибки, которые им нужно объяснять самостоятельно. Мне не нужно приводить примеры всех стран, участвующих в исследованиях с приобретением функциональности и раскрывающих связанные с ними риски. В сфере цифрового программного обеспечения, например в финансовой, история военизированной взаимозависимости показывает, что меры, изначально задуманные для предотвращения злоупотреблений, легко скатываются к одностороннему проекционированию власти операторами.

Это ещё одна слабость «стражей»: по умолчанию они контролируются государственными правительствами, политические системы которых могут иметь стимулы обеспечивать равенство доступа внутри страны, но ни один мощный субъект не имеет миссии по обеспечению равенства доступа между странами.

Чтобы прояснить: я не утверждаю, что «стражи» плохи, поэтому давайте придерживаться политики невмешательства. По крайней мере, это не относится к исследованиям с приобретением функциональности. Вместо этого я говорю о двух вещах:

Если нечто несёт достаточный риск «злоупотребления по принципу „каждый против каждого“», настолько большой, что вы чувствуете себя комфортно лишь при наличии центрального контролёра с жёстким доступом, то правильным решением может быть полный отказ от разработки и инвестиции в альтернативные технологии с меньшим риском.

Если нечто несёт достаточный риск «дисбаланса власти», из-за которого вам категорически неприятно видеть его реализацию в закрытом формате, то правильным решением будет его разработка, но в формате открытого исходного кода, чтобы у каждого была справедливая возможность понять суть и принять участие.

Кроме того, стоит отметить, что открытый исходный код не означает полного laissez-faire. Например, я выступаю за проведение геоинженерных работ на принципах открытого исходного кода и открытой науки. Но это совершенно отличается от «любой может перенаправить реки и выбросить в атмосферу что угодно». На практике это так не произойдёт: существуют законы и международная дипломатия, подобные действия легко обнаруживаются, что делает любые соглашения достаточно исполнимыми.

Ценность открытости заключается в обеспечении демократизации технологий, чтобы ими могли пользоваться многие страны, а не одна; а также в повышении доступности информации, позволяющей людям эффективнее формировать собственное мнение о том, эффективны и безопасны ли предпринимаемые действия.

В самой фундаментальной форме я рассматриваю открытый исходный код как сильнейшую точку Шеллинга в вопросах достижения технологического прогресса с минимальным риском концентрации богатства, власти и информационной асимметрии. Возможно, мы сможем попытаться создать более хитроумные институты для разделения положительных и отрицательных эффектов технологий, но в хаотичном реальном мире метод, который с наибольшей вероятностью окажется устойчивым, — это гарантия права общественности на информацию: процессы происходят открыто, и каждый может изучить, что происходит, и принять в этом участие.

Во многих случаях огромная ценность ускоренного технологического развития значительно перевешивает эти опасения. В отдельных случаях критически важно максимально замедлить развитие технологий до тех пор, пока не появятся решения или альтернативные способы достижения тех же целей.

Однако в рамках существующих парадигм развития технологий выбор открытого исходного кода в качестве пути технического прогресса предлагает добавочные улучшения — это вариант третьего пути: уделять меньше внимания скорости прогресса и больше — его стилю, полагаясь на открытость как на более приемлемый рычаг для направления процессов в лучшую сторону. Это недооценённый подход.