Имитация человеческого текста искусственным интеллектом загрязняет интернет, поэтому Substack решил передать право оценки читателям.

Автор: Крис Бест

Адаптация: TechFlow

Тизер: До 40% контента в социальных сетях уже генерируется искусственным интеллектом, однако читатели об этом зачастую не подозревают. По мнению Substack, так называемый Claudefishing (имитация человеческого авторства) разрушает доверие между читателями и авторами, угрожая существованию создателей контента. Их подход заключается в следующем: предоставить право выбора самим читателям, а не решать за них.

В интернете всё труднее отличить реальное от ненастоящего

Сегодня становится всё сложнее определить, что из опубликованного в сети является подлинным контентом.

На Substack эта проблема пока стоит не так остро, и мы хотим сохранить такое положение дел. В качестве первого шага сегодня мы совместно с Pangram запускаем новую функцию в приложении Substack. Теперь вы сможете просканировать текст, чтобы увидеть, какая его часть, вероятно, написана вручную, а какая создана при помощи ИИ. Я расскажу об этом подробнее чуть позже, но сначала позвольте объяснить, почему это важно.

Море воды, но ни капли питьевой

По оценкам Pangram, доля текстов, сгенерированных ИИ, на некоторых платформах растет и достигает 40%. Это серьезный сдвиг. Многие жалуются, что их лента заполнена безликим информационным шумом. Некоторые же даже не осознают, что читают материалы, не имеющие человеческого автора.

Ключевая проблема не в том, что люди используют ИИ, и не в качестве выдаваемого им контента. Не все созданное с помощью ИИ является мусором, и не весь мусор сделан машинами. Проблема возникает, когда ожидания читателя расходятся с реальностью, особенно когда он невольно тратит свое внимание на контент, за которым не стоит человеческий разум. Именно это и есть Claudefishing.

Фредди деБоер написал об этом так:

Обращаясь к искусству, созданному людьми, я знаю, что за ним стоит живой человек — именно этого я и ищу, другого человека, который через творчество показывает мне то, что скрыто внутри него. Обмануть меня в этом процессе — значит просто нарушить доверие.

В Substack нас беспокоит эта проблема, потому что она затрагивает самую суть нашей работы: создание экономических механизмов для культуры. Это означает помощь реальным людям — тем, кто размышляет, чувствует, наблюдает, спорит, экспериментирует, анализирует, борется, советует и сопереживает — в возможности зарабатывать на том, во что они верят. Эта система работает именно благодаря доверию между людьми.

Когда контент, лишенный человеческого участия, захватывает те части интернета, которые предназначались для людей, он загрязняет публичное пространство и мешает находить и слышать человеческие голоса. Если читателям приходится сомневаться в подлинности того, что они читают, это подрывает доверие к авторству и угрожает средствам к существованию писателей — включая тех, кто осознанно использует инструменты ИИ для создания материалов, которые им действительно близки. Платформы, поощряющие подобный контент, спровоцируют гонку ко дну.

Что мы делаем

Мы стоим на пороге новой области и не берем на себя смелость утверждать, что у нас есть все ответы. Но нам точно известно одно: мы не хотим ждать, пока ваше приложение Substack превратится в аналог LinkedIn, прежде чем начать адаптироваться и двигаться вперед. Поэтому изначально мы внедрили ряд новых инструментов, призванных повысить прозрачность и заложить основу для сбора вашей обратной связи.

Мы сотрудничаем с ведущим инструментом выявления ИИ-контента — Pangram. Вы сможете сканировать заметки, ответы, комментарии и посты, чтобы увидеть оценку доли текста, написанного вручную или созданного с помощью ИИ. Эта функция будет работать для любого текста более 100 слов, опубликованного с сегодняшнего дня, и результаты анализа будут отображаться только по запросу.

Рис.: Интерфейс инструмента определения ИИ-контента, разработанного совместно Substack и Pangram, показывающего соотношение рукописного текста и текста, созданного с помощью ИИ. Источник: Substack

Обратите внимание: Pangram фиксирует лишь факт использования ИИ при создании текста, но не может оценить объем человеческих усилий, вложенных в процесс, или подтвердить использование ИИ-инструментов в качестве источников. Система не идеальна, однако независимые исследования показывают, что она с высокой точностью определяет контент, сгенерированный ИИ. Мы считаем, что использование таких инструментов помогает читателям формировать собственное мнение.

Мы также предоставляем авторам новые инструменты, включая возможность добавлять раздел «Как я создал это», где можно описать свой процесс и задать ожидания читателям. Вы можете проверить черновики через Pangram до публикации, а также подать жалобу или удалить результаты сканирования своих работ, если сочтете их некорректными.

Эти функции доступны на веб-странице и в версии iOS, а скоро появятся и на Android. Это лишь отправная точка. В зависимости от обратной связи и интереса сообщества, мы рассматриваем внедрение следующих возможностей:

- Настройки предпочтений относительно ИИ-контента в правилах ответов для вашего сообщества

- Более широкие способы для авторов заявить о своей личной ценности как при использовании ручного письма, так и при продуманном применении ИИ

- Инструменты для читателей, позволяющие настраивать рекомендации контента

- Дальнейшее совершенствование систем борьбы со спамом, ботами и мошенничеством по мере того, как развитие ИИ усугубляет эти проблемы

Мы не выступаем против использования ИИ для поддержки рабочей деятельности и полагаем, что каждый вправе самостоятельно выбирать инструменты для самовыражения. На нашей платформе есть сторонники исключительно человеческого письма, другие же открыто тестируют передовые методы применения ИИ, уделяя особое внимание деталям ради создания качественного продукта. Мы в Substack тоже используем ИИ для написания программного кода, исследований, а также разработки функций монтажа видео, перевода и других продуктовых задач.

Но люди должны четко понимать, что именно потребляют. Например, вас может вполне устраивать острый анализ, где автор активно опирается на ИИ для подачи исследовательских данных, но при этом вы хотите тратить время исключительно на взаимодействие с ответами, написанными человеком. Вне зависимости от ваших предпочтений, у вас всегда должно оставаться право выбора.

Что вы хотите видеть?

Мы вместе вступаем в этот непривычный новый мир, и не придумали лучшего способа определить необходимые новые инструменты и социальные нормы, чем открытый диалог. Нам важно ваше мнение: как Substack может помогать поддерживать качественный человеческий контент в эпоху ИИ? Когда использование ИИ переходит границы и становится Claudefishing, а когда оно оправдано?

Насколько бы мощными ни становились системы ИИ, человеческое восприятие останется фундаментальной составляющей культуры. Более того, чем больше вы ожидаете постоянного улучшения подобных инструментов, тем важнее понимать происхождение прочитанного вами материала. У Claude множество достоинств! Но когда мне нужен именно совет Claude, я задаю вопрос напрямую Claude.