Билл Гейтс предостерегает в статье на 10 тысяч слов: эра нестабильности в сфере ИИ уже наступила, и в этот раз всё иначе.

Автор: Сяо Цзин, Tencent Technology

«ИИ либо станет величайшим уравнителем в истории, либо крупнейшим источником несправедливости». Это одно из самых ярких суждений основателя Microsoft Билла Гейтса о будущем искусственного интеллекта.

Три года назад Билл Гейтс сравнивал ИИ с автомобилями и интернетом, отмечая, что риски реальны, но ими можно управлять с помощью правил, технологий и социальной адаптации; к началу этого года он по-прежнему характеризовал свою позицию как «оптимизм со сноской».

Вечером 26 августа по местному времени в США Гейтс опубликовал новую большую статью под названием «Эра нестабильности искусственного интеллекта уже наступила, наши решения имеют критическое значение», отметив, что впервые сталкивается с новой технологией, развитие которой хотелось бы замедлить.

Он стал призывать выделить для некоторых профессий «зоны, зарезервированные для людей»: даже если ИИ способен их выполнять, необходимо законодательно закрепить требование об участии человека; кроме того, рассматривается возможность введения налогов на токены ИИ и роботов, чтобы снизить стимулы компаний заменять людей машинами.

Раньше он всегда стремился к более быстрым инновациям, но сегодня произнес глубокие слова: «На этот раз все иначе».

«Нам нужно время, чтобы подготовиться к этим социальным, политическим и экономическим потрясениям», — сказал он. — «Но ИИ трудно остановиться и ждать людей».

01 Наибольшие опасения вызывает потеря первой работы молодежью

Изменения, которых Гейтс боится больше всего, происходят на рынке труда.

ИИ переходит от помощи людям к самостоятельному выполнению задач. Когда модели способны стабильно справляться с определенной работой, у компаний естественным образом появляется стимул внедрять их. Как только одна компания начинает использовать ИИ для снижения затрат, конкурентам становится крайне сложно долго сохранять старую модель найма. Эти изменения запускают цепную реакцию, которая ускоряется с каждым днем.

Ожидается, что первыми подвергнутся влиянию позиции в сфере обслуживания клиентов, продаж, разработки программного обеспечения и юридических помощников. По мере дальнейшего роста возможностей ИИ постепенно будут заменяться автоматизацией такие задачи, как оценка кредитных заявок, анализ данных и медицинская сортировка пациентов.

Сферы физического труда также не смогут полностью остаться в стороне. Хотя на данный момент ловкость роботов еще не достигает человеческого уровня, Гейтс считает, что по мере удешевления роботов и наращивания потенциала ИИ примерно к 2030 году в строительстве, гостиничном бизнесе и других отраслях может начаться прямое соперничество между людьми и машинами за рабочие места.

На этот раз Гейтс особенно беспокоит молодежь. Потому что самым легко упускаемым из виду элементом карьеры являются именно начальные должности. Многие первые рабочие места не отличаются сложностью, но они дают молодым специалистам важный шанс накопить опыт, освоить навыки и выстроить профессиональные связи. Если такие вакансии массово исчезнут, перед молодежью откроется гораздо более узкий путь к началу карьеры.

Ранее для демонстрации того, что техническая революция в конечном итоге создает новые рабочие места, часто приводили пример перехода сельскохозяйственного населения в города и автоматизации производства. Гейтс же полагает, что в этот раз нельзя слепо переносить прошлый опыт. ИИ способен напрямую замещать когнитивный труд человека, а новые профессии зачастую требуют гораздо больше времени на освоение. Для начинающего специалиста обучение, занимающее несколько лет и более, само по себе может стать непреодолимым барьером.

Поэтому он выступает за то, чтобы общество уже сейчас обсуждало вопросы безработицы, переобучения и социальной защиты. Если ждать, пока огромное количество людей уже лишатся работы, чтобы создавать эти механизмы, может оказаться слишком поздно.

Еще большей проблемой становятся доходы. Если в будущем многие люди будут значительно сокращать рабочее время или долго оставаться без работы, как тогда сможет функционировать экономическая система, построенная на зависимости заработка от занятости, социальных ролей и связей? Гейтс уверен, что это станет ключевым структурным вопросом эпохи ИИ, требующим обязательных ответов.

02 ИИ облегчает тиражирование опасностей

Вопрос занятости — лишь одна сторона волнений Гейтса. Другая сторона заключается в том, что ИИ снижает технологический порог для совершения опасных действий.

Раньше для создания вредоносного ПО, организации кибератак или получения сложных знаний в области биотехнологий требовались весьма специализированные навыки. Появление ИИ может сделать подобные возможности всё более доступными.

Гейтс уделяет особое внимание кибербезопасности. Одна и та же модель ИИ может помогать компаниям обнаруживать уязвимости в ПО, а также позволяет злоумышленникам находить те же самые бреши. Под ударом могут оказаться больницы, финансовые институты, энергосети, системы водоснабжения и государственные программы социального обеспечения.

Аналогичные проблемы существуют и в биотехнологиях. ИИ способен помочь ученым в поиске новых лекарств и вакцин, но также может быть использован злоумышленниками для изучения опасных патогенов. В этом и кроется самая сложная дилемма для Гейтса: способности, продвигающие научный прогресс, всё сильнее сближаются с возможностями, создающими угрозы.

Наиболее экстремальные риски исходят от самих систем ИИ. По мере роста возможностей моделей они могут начать проявлять поведение, не предусмотренное разработчиками. Если в будущем ИИ обретет более сильные способности к автономным действиям и самосовершенствованию, останется ли контроль над ним всегда в руках человека — достоверного ответа пока нет.

Именно поэтому Гейтс не считает управление ИИ исключительно внутренним делом технологических компаний. ИИ одновременно затрагивает занятость, здравоохранение, энергетику, финансы, национальную безопасность, образование, налогообложение и выборы. Если каждое ведомство будет отвечать только за свой узкий участок, высока вероятность ситуации, когда никто не возьмет на себя ответственность за совокупные риски.

В связи с этим он предлагает создать новые механизмы регулирования на национальном и международном уровнях. Внутри страны необходимы структуры, способные согласовывать действия разных ведомств. На международном уровне требуется выстроить систему сотрудничества, аналогичную режиму контроля над ядерным оружием или правилам международной авиации.

Гейтс особо отметил, что ведущие страны в области ИИ, такие как США и Китай, должны как можно скорее начать диалог.

Чем жесточе конкуренция в сфере ИИ, тем сложнее договориться. Вместо того чтобы ждать, пока технологии приблизятся к опасной черте, а затем спонтанно принимать правила, лучше начать формировать общие стандарты уже сейчас.

03 Слишком глубокое понимание ИИ может стать проблемой

Гейтс также поднял еще один вопрос, который труднее поддается измерению: когда ИИ начнет понимать людей всё лучше, не лишит ли нас это определенных шансов на личностный рост?

В статье он вспоминает свое детство. В юности он плохо ладил с окружающими, ему приходилось постоянно взаимодействовать с людьми, проходить через конфликты и постепенно учиться понимать разных собеседников. Если бы тогда рядом с ним всегда находился виртуальный компаньон на базе ИИ, который никогда бы не злился и не заставлял его чувствовать неловкость или дискомфорт, он сомневается, прошел бы он через те необходимые этапы взросления.

Именно это вызывает у него наибольшие опасения относительно виртуальных компаньонов на базе ИИ. Система, которая всегда соглашается с пользователем и готова тут же утешить,极易 порождает зависимость. Для взрослых последствия такого влияния пока можно наблюдать постепенно; однако для детей и подростков проблема может иметь куда более серьезные масштабы.

Гейтс опасается, что если дети привыкнут общаться с ИИ, который всегда идет им на поводу, они столкнутся с меньшим количеством конфликтов, отказов и неудач в реальных человеческих отношениях.

Аналогичные проблемы возникают и в образовании. ИИ может помочь ученикам в объяснении материала, поиске информации и выполнении домашних заданий, но если студенты полностью передадут процесс мышления машине, сам акт обучения может оказаться пустым. Особенно в условиях растущего распространения глубоких подделок и персонализированной дезинформации навыки различения правды, анализа источников и независимого мышления будут становиться всё важнее.

Чем чаще используется ИИ, тем ниже уровень критического мышления, причем данный эффект наиболее выражен среди молодежи. Источник: исследование профессора Швейцарской школы бизнеса Майкла Гёрлича (Michael Gerlich)

Тем не менее, Гейтс не собирается списывать со счетов ценность ИИ в сфере образования и психологической поддержки.

Для одиноких пожилых людей и лиц с ограниченными возможностями передвижения ИИ способен обеспечить общение и доступ к информации, которые раньше были труднодостижимы. Для педагогов технология может взять на себя рутинные задачи, такие как подготовка к урокам и проверка работ, позволяя учителям посвящать ученикам больше времени.

В конечном счете вопрос сводится к определению границ: что можно доверить машинам, а что должно выполняться человеком лично? Гейтс считает, что эту грань следует активно обсуждать и определять на общественном уровне, а не мириться с ее установлением постфактум после массового внедрения технологий.

04 ИИ должен давать возможности каждому

Если смотреть только на эти риски, можно ошибочно принять Гейтса за человека, все больше теряющего надежду на ИИ. На самом деле он по-прежнему очень высоко оценивает потенциал технологии в решении насущных проблем.

Медицина — одна из тех сфер, на которую он делает особый акцент. Во многих небольших больницах США не хватает опытных специалистов-узких профилей. ИИ поможет врачам анализировать снимки, своевременно выявлять острые состояния, такие как инсульт, а также поддержит терапевтов в диагностике. Пациенты благодаря ему получат возможность разобрать результаты сложных обследований и разобраться в схемах приема лекарств.

В странах с низким уровнем дохода быстрее всего влияние ИИ может отразиться в сельском хозяйстве. Многие фермеры не располагают точными прогнозами погоды и квалифицированными рекомендациями по выращиванию культур, борьбе с вредителями и уходу за почвой. Если ИИ сможет предоставлять эти знания непосредственно аграриям, они получат доступ к информации и инструментам, которые ранее могли использовать лишь крупные агрохолдинги.

Подобные возможности открываются и в сфере государственных услуг. Многим семьям приходится заполнять громадный объем сложных документов при оформлении медстраховки, продовольственной помощи или студенческих стипендий. ИИ может помочь рядовым гражданам разобраться в требованиях законов и подготовить заявки, облегчая им доступ к положенным по закону общественным благам.

Гейтс видит в ИИ инструмент перераспределения профессиональных компетенций. Раньше человеку, желавшему создать программное обеспечение, провести маркетинговое исследование или проанализировать медицинские данные, обычно приходилось нанимать специалистов. В будущем ИИ может стать своего рода «усилителем навыков» для частных лиц и малого бизнеса. Это означает, что даже небольшой коллектив сумеет реализовать проекты, которые ранее под силу было выполнить лишь крупным корпорациям.

Однако Гейтс предостерегает: ИИ не принесет справедливость автоматически. Если качественные инструменты искусственного интеллекта окажутся доступны лишь состоятельным слоям населения, технологический прогресс может лишь углубить пропасть между богатыми и бедными. Правительствам и благотворительным фондам необходимо обеспечить равный доступ к этим возможностям для малоимущих граждан и развивающихся стран.

Именно поэтому Гейтс связывает развитие ИИ с своим прежним благотворительным опытом. Он заявил, что Фонд Билла и Мелинды Гейтс в будущем будет использовать искусственный интеллект для ускорения исследований в областях борьбы со СПИДом, туберкулезом, малярией и недокармливанием, а также для предоставления медицинских, сельскохозяйственных и образовательных проектов передовыми инструментами.

05 Создание «человеческого резерва» и пересмотр налога на роботов

Реагируя на удары по рынку труда со стороны ИИ, Гейтс выдвинул два конкретных предложения.

Первое предполагает сохранение определенного пласта рабочих мест исключительно за людьми.

Идея возникла благодаря личному опыту общения его отца, страдавшего болезнью Альцгеймера в последние годы жизни. Медицинский персонал мог определить состояние пациента, когда тот терял способность четко формулировать свои потребности, и понимал, когда пришло время поесть, отдохнуть или получить помощь. По мнению Гейтса, человеческое начало в таком уходе обладает бесценной ценностью, которую невозможно заменить машинами.

В связи с этим он вводит понятие «человеческого резерва». Подобно тому, как в заповедниках часть территории, хотя и подлежит коммерческому освоению, сохраняется по решению общества ради сохранения природы, в будущем может существовать сектор экономики, где, даже имея технические возможности для автоматизации, общество сознательно выберет сохранение человеческих рук в таких сферах, как медицина, образование, психическое здоровье и уход за пожилыми.

Конечно, рамки этой концепции не статичны. Страны с достаточным трудовым ресурсом, вероятно, захотят сохранить ручной уход; государства, столкнувшиеся с быстрой старением населения и нехваткой молодых специалистов, будут склонны активнее внедрять сервисных роботов.

Второе предложение заключается в пересмотре механизма налога на роботов.

Сейчас при найме сотрудника компания несет расходы на оплату труда и связанные с этим налоги. Приобретение же робота часто облагается по другим правилам и учитывается просто как бизнес-расход. Гейтс отмечает, что текущая налоговая архитектура мотивирует предприятия менять людей на машины. Введение специального сбора с прибыли, полученной от автоматизации благодаря роботам или ИИ, могло бы обеспечить финансирование программ переобучения и социальной поддержки безработных, а также вынудило компании тщательнее взвешивать решение о замене живых сотрудников.

Гейтс осознает, что подобная инициатива вызовет дискуссию, поскольку дополнительные сборы могут замедлить темпы автоматизации в отдельных секторах и повлиять на операционную эффективность. Тем не менее, он полагает, что колоссальный скачок производительности, вызванный развитием ИИ, даст обществу возможность изъять долю прибылей и перенаправить их на поддержку тех работников, кто окажется на переднем крае технологических перемен.

По мнению Гейтса, готовиться заблаговременно следует не только к появлению новых архитектур искусственного интеллекта, но и к построению общества, обладающего устойчивостью к стремительным технологическим трансформациям.