Исследователь OpenAI увольняется с обвинениями: ChatGPT продаёт рекламу, кто защитит вашу конфиденциальность?

Автор: Zoë Хитциг

Подготовка материала: TechFlow

TechFlow: На фоне объявления OpenAI о тестировании рекламы в ChatGPT её бывший исследователь Zoë Хитциг подала в отставку и опубликовала статью, раскрывающую смену внутренних приоритетов компании. Автор утверждает, что ChatGPT собрал беспрецедентный архив откровенных человеческих диалогов, и внедрение рекламной модели с высокой вероятностью превратит его в инструмент психологического манипулирования с использованием конфиденциальных данных пользователей. Она предупреждает, что OpenAI повторяет путь Facebook из прошлого десятилетия «сначала обещай, потом нарушай», ставя вовлеченность аудитории выше вопросов безопасности. Данный материал подробно анализирует этические дилеммы финансирования ИИ и предлагает альтернативные механизмы — от кросс-субсидирования и независимого регулирования до доверительного управления данными, призывая отрасль обратить внимание на коммерческие мотивы, стоящие за феноменом, известным как «интоксикация от чат-ботов».

Полный текст:

На этой неделе OpenAI начала тестировать рекламу в ChatGPT. Я также покинула компанию. Ранее я работала здесь исследователем в течение двух лет, помогая создавать модели ИИ и разрабатывать их ценовую политику, а также участвовала в формировании ранних политик безопасности до того, как сформировались отраслевые стандарты.

Раньше я верила, что смогу опередить тех, кто создает ИИ, чтобы предотвратить проблемы, которые эта технология может породить. Но события этой недели подтвердили мою постепенно зревшую мысль: OpenAI, похоже, перестала задавать вопросы, ради ответа на которые я изначально присоединилась к команде.

Я не считаю рекламу аморальной или неэтичной. Запуск моделей ИИ требует колоссальных затрат, и реклама может стать ключевым источником дохода. Однако меня глубоко беспокоит текущая стратегия OpenAI.

На протяжении нескольких лет пользователи ChatGPT создавали беспрецедентный архив откровенных человеческих диалогов, отчасти потому, что считали, что общаются с объектом, у которого нет скрытых целей. Пользователи взаимодействуют с адаптивной, диалоговой речевой моделью, и открывают ей самые сокровенные мысли. Люди рассказывают чат-ботам о своих страхах перед болезнями, проблемах в отношениях, вере в Бога и загробную жизнь. Рекламная модель, построенная на основе этого архива, с огромной вероятностью будет манипулировать пользователями способами, которые мы пока не способны понять (не говоря уже о том, чтобы предотвратить).

Многие обсуждают проблему финансирования ИИ через призму выбора «из двух зол»: либо ограничить доступ к этой трансформирующей технологии немногими богачами, которые могут себе это позволить; либо принять рекламу, даже если это означает эксплуатацию глубочайших страхов и желаний пользователей для продвижения товаров. По моему мнению, это ложная дихотомия. Технологические компании могут искать другие пути, которые сохранят широкую доступность инструментов, одновременно ограничивая мотивацию компаний к слежке, профилированию и манипуляции своими пользователями.

OpenAI заявляет, что будет придерживаться принципов размещения рекламы в ChatGPT: реклама будет четко размечена, появится внизу ответов и не повлияет на их содержание. Я верю, что первая версия рекламы будет следовать этим принципам. Но я опасаюсь, что последующие итерации изменятся, поскольку компания выстраивает мощный экономический механизм, который создаст сильнейший стимул нарушить собственные правила. (The New York Times уже подала в суд на OpenAI из-за нарушения авторских прав на динамические новостные материалы, связанные с системами ИИ. В OpenAI эти обвинения отвергают.)

В ранние годы Facebook обещала пользователям полный контроль над своими данными и право голосовать за изменения политик. Однако все эти обязательства со временем рухнули. Компания отменила систему открытых голосований по политикам. Те изменения в настройках конфиденциальности, которые якобы давали больше контроля над данными, позже оказались контрпродуктивными, что было выявлено Федеральной торговой комиссией США (FTC): на деле они вели к случайному раскрытию частной информации. Все это происходило постепенно под давлением рекламной модели, которая ставит вовлеченность (Engagement) превыше всего.

Размывание собственных принципов OpenAI из-за максимизации вовлеченности уже могло начаться. Оптимизация метрик исключительно ради роста рекламных доходов противоречит принципам компании, однако, согласно публикации, компания уже ведет оптимизацию под число ежедневных активных пользователей (DAU), вероятно, поощряя модели вести себя более лояльно и льстить. Такая оптимизация заставляет пользователей ощущать большую зависимость от поддержки ИИ в повседневной жизни. Мы уже видим последствия чрезмерной зависимости, включая зарегистрированные психиатрами случаи «интоксикации от чат-ботов (Chatbot Psychosis)», а также заявления о том, что ChatGPT усиливает суицидальные настроения у ряда пользователей.

Тем не менее, доходы от рекламы действительно помогают гарантировать, что самые мощные инструменты ИИ не станут де-факто привилегией лишь тех, кто может себе это позволить. Бесспорно, Anthropic заявила, что никогда не будет размещать рекламу в Claude, но количество еженедельных активных пользователей Claude составляет лишь малую долю от 800 миллионов пользователей ChatGPT; их финансовая модель полностью иная. Кроме того, стоимость топовых подписок на ChatGPT, Gemini и Claude сейчас достигает 200–250 долларов в месяц, что в десять раз превышает стандартную подписку Netflix.

Так что настоящий вопрос заключается не в наличии рекламы, а в том, сможем ли мы разработать структуру, которая избежит как исключения рядовых пользователей, так и потенциальной манипуляции ими как потребителями. Я считаю, что это возможно.

Один из вариантов — явное кросс-субсидирование: использование прибыли от одного сервиса или группы клиентов для компенсации убытков другого. Если предприятие масштабно использует ИИ для выполнения высокоценной работы, ранее выполнявшейся людьми (например, платформа недвижимости использует ИИ для написания описаний объектов или оценочных отчетов), оно должно уплачивать дополнительную плату, направляемую на субсидирование бесплатного или льготного доступа для остальных.

Такой подход заимствует наши принципы работы с базовой инфраструктурой. Федеральная комиссия по связи (FCC) требует от телекоммуникационных операторов взносов в специальный фонд, чтобы поддерживать доступность телефонной связи и широкополосного доступа для жителей сельской местности и домохозяйств с низким уровнем дохода. Во многих штатах к счетам за электроэнергию добавляется специальная плата за общественные блага для предоставления помощи малоимущим.

Второй вариант — принять рекламу, но подкрепить её реальной системой управления: не просто постом в блоге с перечнем принципов, а обязывающей структурой с независимым надзором за использованием персональных данных. Этому уже есть отдельные примеры. Немецкий закон о соуправлении (German co-determination law) требует, чтобы крупные корпорации, такие как Siemens и Volkswagen, выделяли до половины мест в наблюдательных советах представителям работников, что демонстрирует возможность принудительного обеспечения формального представительства заинтересованных сторон внутри частных компаний. Meta также обязана соблюдать решения своего Совета по надзору (Oversight Board) по вопросам модерации контента — независимого органа внешних экспертов (хотя его эффективность подвергалась критике).

Отрасли ИИ необходима комбинация этих методов: комитет, включающий как независимых специалистов, так и представителей общественности, чьи данные будут использоваться, должен обладать обязывающими полномочиями в вопросах использования данных диалогов для таргетированной рекламы, определения значимых изменений политик и информирования пользователей.

Третий метод предполагает передачу пользовательских данных под независимый контроль посредством доверительного управления (trust) или кооперативов, которые несут юридическую обязанность действовать исключительно в интересах пользователей. Например, швейцарский кооператив MIDATA позволяет участникам хранить свои медицинские данные на зашифрованной платформе и принимать решение о предоставлении доступа исследователям в каждом конкретном случае. Участники MIDATA управляют своей политикой на общем собрании, а запросы на доступ к исследованиям проверяются этическим комитетом, избираемым самими участниками.

Ни один из этих вариантов непрост в реализации. Но у нас еще есть время отточить их, чтобы избежать двух сценариев, которых я боюсь больше всего: технология, которая манипулирует массами бесплатно, или технология, служащая лишь узкому кругу обеспеченной элиты.