Консенсус нескольких моделей + децентрализованная верификация: как Mira Network создает уровень доверия ИИ для борьбы с галлюцинациями и предвзятостью?

Вчера была запущена публичная тестовая сеть Mira. Она стремится создать уровень доверия для ИИ. Итак, почему ИИ нужно доверие? И как Mira решает эту проблему?

Когда люди обсуждают ИИ, они чаще обращают внимание на мощь его возможностей. Однако интересно то, что у ИИ существуют“галлюцинации” или предвзятость. Люди не уделяют этому много внимания. Что такое“галлюцинации”ИИ? Проще говоря, это когда ИИ иногда“выдумывает”, серьезно говоря чепуху. Например, вы спрашиваете ИИ, почему луна розовая? Он может серьезно дать вам множество выглядящих разумными объяснений.

Наличие“галлюцинаций”или предвзятости у ИИ связано с некоторыми текущими техническими путями развития ИИ. Например, генеративный ИИ выводит контент, предсказывая“наиболее вероятное”, чтобы обеспечить связность и разумность, но иногда это невозможно проверить на истинность. Кроме того, сами обучающие данные содержат ошибки, предвзятость и даже вымышленный контент, что также влияет на вывод ИИ. То есть сам ИИ изучает паттерны человеческого языка, а не сами факты.

Короче говоря, текущий механизм вероятностной генерации плюс модель, основанная на данных, почти неизбежно приводят к возможности галлюцинаций ИИ.

Если контент с такой предвзятостью или галлюцинациями является просто обычными знаниями или развлекательным контентом, прямых последствий пока не будет. Однако если это произойдет в таких строго регулируемых областях, как медицина, право, авиация, финансы, это приведет к серьезным последствиям. Поэтому решение проблемы галлюцинаций и предвзятости ИИ является одним из ключевых вопросов в процессе эволюции ИИ. Некоторые используют технологию генерации с усиленным поиском (в сочетании с базами данных в реальном времени, приоритетный вывод проверенных фактов), некоторые внедряют обратную связь от человека, исправляя ошибки модели через человеческую разметку и надзор и т. д.

Проект Mira также пытается решить проблему предвзятости и галлюцинаций ИИ. То есть Mira стремится создать уровень доверия для ИИ, уменьшить предвзятость и галлюцинации ИИ, повысить надежность ИИ. Итак, как с точки зрения общей архитектуры Mira уменьшает предвзятость и галлюцинации ИИ и в конечном итоге достигает доверенного ИИ?

Основой достижения этого для Mira является проверка вывода ИИ через консенсус нескольких моделей ИИ. То есть сама Mira является сетью верификации, она проверяет надежность вывода ИИ, используя консенсус нескольких моделей ИИ. Кроме того, есть еще один важный момент: использование децентрализованного консенсуса для верификации.

Таким образом, ключом сети Mira является децентрализованная консенсусная верификация. Децентрализованная консенсусная верификация — это то, в чем сильна крипто-сфера, и при этом она использует синергию нескольких моделей, уменьшая предвзятость и галлюцинации через режим коллективной верификации.

Что касается архитектуры верификации, необходимо наличие независимо верифицируемых утверждений. Протокол Mira поддерживает преобразование сложного контента в независимо верифицируемые утверждения. Эти утверждения требуют участия операторов узлов для верификации. Чтобы обеспечить честность операторов узлов, здесь используются криптоэкономические стимулы/наказания. Участие различных моделей ИИ плюс распределенные операторы узлов гарантирует надежность результатов верификации.

Сетевая архитектура Mira включает преобразование контента, распределенную верификацию и механизм консенсуса, чтобы обеспечить надежность верификации. В этой архитектуре преобразование контента является важным звеном. Сеть Mira сначала разбивает контент-кандидат (обычно предоставляемый клиентом) на различные верифицируемые утверждения (чтобы модели могли понимать их в одном контексте). Эти утверждения распределяются системой между узлами для верификации, чтобы определить действительность утверждений и обобщить результаты для достижения консенсуса. Эти результаты и консенсус возвращаются клиенту. Кроме того, для защиты конфиденциальности клиента контент-кандидат преобразуется и разбивается на пары утверждений, которые случайным образом распределяются по разным узлам, чтобы предотвратить утечку информации в процессе верификации.

Операторы узлов отвечают за запуск моделей верификаторов, обработку утверждений и предоставление результатов верификации. Почему операторы узлов готовы участвовать в верификации утверждений? Потому что они могут получить доход. Откуда поступает доход? Из ценности, созданной для клиентов. Цель сети Mira — снизить уровень ошибок ИИ (галлюцинации и предвзятость). Как только эта цель будет достигнута, это создаст ценность. Например, снижение уровня ошибок в таких областях, как медицина, право, авиация, финансы, создаст огромную ценность. Поэтому клиенты готовы платить. Конечно, устойчивость и масштаб платежей зависят от того, сможет ли сеть Mira постоянно приносить ценность клиентам (снижать уровень ошибок ИИ). Кроме того, чтобы предотвратить спекулятивное поведение узлов со случайными ответами, узлы, постоянно отклоняющиеся от консенсуса, будут подвергаться сокращению заложенных токенов. Короче говоря, это обеспечение честного участия операторов узлов в верификации через игру экономических механизмов.

В целом, Mira предлагает новое решение для обеспечения надежности ИИ: создание децентрализованной сети консенсусной верификации на основе нескольких моделей ИИ. Это приносит более высокую надежность для AI-сервисов клиентов, снижает предвзятость и галлюцинации ИИ, удовлетворяя потребности клиентов в более высокой точности и прецизионности. И на основе предоставления ценности клиентам, это приносит доход участникам сети Mira. Если обобщить одним предложением: Mira стремится создать уровень доверия для ИИ. Это способствует углублению применения ИИ.

В настоящее время фреймворки AI-агентов, сотрудничающие с Mira, включают ai16z, ARC и другие. Публичная тестовая сеть Mira была запущена вчера. Пользователи могут участвовать в публичной тестовой сети Mira, просто используя Klok. Это приложение для чата на основе LLM от Mira. Используя приложение Klok, можно опробовать проверенный вывод ИИ (можно сравнить, чем он отличается от непроверенного вывода ИИ), а также заработать очки Mira. Что касается будущего использования очков, пока не раскрывается.