Как протокол Mira с помощью механизма децентрализованного консенсуса делает ИИ более честным?

Автор: Messari

Подготовка: Elponcho, ChainNews

Сегодня, на фоне бурного развития генеративного ИИ, мы по-прежнему сталкиваемся с фундаментальной проблемой: иногда искусственный интеллект совершенно серьезно выдает бессмыслицу. В отрасли это явление известно как «галлюцинации» (hallucination). Протокол Mira, децентрализованная система, специально разработанная для проверки выводов ИИ, пытается добавить в работу искусственного интеллекта «фактологическую достоверность» с помощью механизма консенсуса нескольких моделей и криптографического аудита. Ниже мы рассмотрим, как работает Mira, почему она эффективнее традиционных методов и какие результаты уже показывает в реальных приложениях.

Материал подготовлен на основе исследовательского отчета, опубликованного компанией Messari.

Децентрализованный протокол верификации фактов: основные принципы работы Mira

Mira не является моделью ИИ; это встроенный слой верификации. Когда модель ИИ генерирует ответ (например, чат-бота, конспект или автоматизированный отчет), Mira разделяет вывод на ряд независимых фактических утверждений. Эти утверждения направляются в ее распределенную сеть верификации, где каждый узел (верификатор) запускает модели ИИ разных архитектур для оценки их истинности.

Каждый узел выносит вердикт «Верно», «Неверно» или «Неопределенно». В итоге система принимает окончательное решение на основе большинства голосов. Если большинство моделей признает утверждение истинным, оно проходит проверку; в противном случае оно маркируется, отклоняется или сопровождается предупреждением.

Этот процесс полностью прозрачен и поддается аудиту. Каждая проверка создает криптографический сертификат, содержащий данные об участвовавших моделях, результатах голосования, временных метках и т. д., что позволяет сторонним проверяющим осуществлять аудит.

Почему ИИ нуждается в системе верификации, подобной Mira?

Модели генеративного ИИ (такие как GPT, Claude) не являются детерминированными инструментами. Они прогнозируют следующий токен на основе вероятностей и не обладают встроенным «пониманием фактов». Такая архитектура позволяет им писать стихи и шутить, но также означает, что они могут совершенно серьезно генерировать ложную информацию.

Предлагаемый механизмом Mira метод верификации направлен на решение четырех ключевых проблем современного ИИ:

1. Массовые галлюцинации: Системы ИИ регулярно выдумывают политики, придумывают исторические события и приводят несуществующие источники.

2. Режим «черного ящика»: Пользователи не знают, откуда берутся ответы ИИ, и не могут проследить их происхождение.

3. Неконсистентные результаты: На один и тот же вопрос ИИ может выдавать разные ответы.

4. Централизованный контроль: Большинство моделей ИИ монополизированы несколькими компаниями, а пользователи не могут проверить логику работы или запросить альтернативное мнение.

Ограничения традиционных методов верификации

Существующие альтернативы, такие как проверка человеком (Human-in-the-loop), фильтры на основе правил или самопроверка моделей, имеют свои недостатки:

• Ручная проверка трудно масштабируется, отличается низкой скоростью и высокой стоимостью.

• Фильтры на основе правил ограничены заданными сценариями и беспомощны перед творческими ошибками.

• Самопроверка моделей неэффективна: ИИ часто проявляет излишнюю уверенность в своих ошибочных ответах.

• Централизованные ансамбли, хотя и обеспечивают перекрестную проверку, страдают от недостатка разнообразия моделей, что легко приводит к «коллективным слепым пятнам».

Инновационный механизм Mira: сочетание консенсусных алгоритмов и распределения задач между ИИ

Ключевой инновацией Mira является внедрение концепции блокчейн-консенсуса в процесс верификации ИИ. Любой вывод модели ИИ после прохождения через Mira разбивается на множество независимых фактических утверждений, которые затем подвергаются «голосованию» различными моделями ИИ. Материал считается достоверным только при достижении согласия между определенной долей моделей.

Ключевые преимущества архитектуры Mira:

• Разнообразие моделей: Использование моделей с разными архитектурами и наборами данных снижает риск систематических ошибок.

• Устойчивость к ошибкам: Даже при сбоях на отдельных узлах общий результат не страдает.

• Полная прозрачность: Записи о проверке размещаются в блокчейне для проведения аудита.

• Высокая масштабируемость: Система способна обрабатывать более 3 млрд токенов ежедневно (что эквивалентно миллионам текстовых фрагментов).

• Отсутствие необходимости ручного вмешательства: Процесс полностью автоматизирован и не требует участия человека.

Децентрализованная инфраструктура: кто предоставляет узлы и вычислительные ресурсы?

Узлы верификации Mira обслуживаются участниками глобальной сети децентрализованных вычислений. Эти участники называются Node Delegators (деlegates узлов). Они не управляют узлами напрямую, а сдают в аренду вычислительные мощности GPU сертифицированным операторам узлов. Модель «вычисления как услуга» (Compute-as-a-Service) значительно расширяет пропускную способность системы Mira.

Среди основных поставщиков узлов-партнеров:

• Io.Net: Предоставляет сеть GPU-вычислений на архитектуре DePIN.

• Aethir: Специализируется на распределенном облачном GPU для ИИ и игр.

• Hyperbolic, Exabits, Spheron: Ряд блокчейн-платформ для вычислений, предоставляющих инфраструктуру для узлов Mira.

Участники узлов проходят процедуру видеоверификации KYC, что гарантирует уникальность и безопасность сети.

Верификация Mira повышает точность ответов ИИ до 96%

Согласно данным команды Mira из отчета Messari, после фильтрации через ее слой верификации фактическая точность больших языковых моделей возрастает с 70% до 96%. В таких практических сферах, как образование, финансы и служба поддержки, частота появления галлюцинирующего контента снижается на 90%. Важно отметить, что эти улучшения достигаются без необходимости повторного обучения моделей ИИ — исключительно за счет механизма «фильтрации».

В настоящее время Mira интегрирована в несколько прикладных платформ, включая:

• Образовательные инструменты

• Продукты для финансового анализа

• Чат-боты на базе ИИ

• Сторонние сервисы API Verified Generate

Экосистема Mira охватывает более 4,5 млн пользователей, при этом ежедневно активных пользователей превышает 500 тысяч. Хотя большинство из них напрямую не взаимодействует с системой Mira, их ответы от ИИ уже давно проходят скрытую проверку посредством лежащей в ее основе инфраструктуры верификации.

Mira создает доверенный базовый слой для ИИ

Пока индустрия ИИ продолжает стремиться к масштабированию и повышению эффективности, Mira предлагает новое направление: вместо того чтобы полагаться на одну модель для принятия решений, опираться на группу независимых моделей для «голосования за истину». Подобная архитектура не только делает выходные данные более достоверными, но и формирует «поддающийся проверке механизм доверия», сохраняя при этом высокую масштабируемость.

По мере роста пользовательской базы и распространения аудита со стороны третьих лиц, Mira обладает потенциалом стать незаменимой инфраструктурой в экосистеме ИИ. Для любых разработчиков и компаний, стремящихся обеспечить работоспособность своих ИИ-решений в реальном мире, «распределенный слой верификации», который представляет собой Mira, возможно, станет ключевым элементом пазла.