Может ли Mira Network решить проблему «галлюцинаций» крупных моделей ИИ?

Автор: Haotian

Всем известно, что наибольшим препятствием для внедрения больших моделей ИИ в вертикальные сценарии использования, такие как финансы, медицина и право, является лишь одно: проблема «галлюцинаций» в результатах вывода ИИ не соответствует реальным сценариям применения, требующим точности. Как это решить? Недавно @Mira_Network запустила публичную тестовую сеть, предложив набор решений, расскажу, в чем дело:

Прежде всего, все могут заметить наличие «галлюцинаций» в инструментах больших моделей ИИ, основных причин этому две:

1. Данные для обучения AI LLMs недостаточно полны, несмотря на огромный объем существующих данных, они все еще не могут охватить информацию в некоторых нишевых или профессиональных областях, в этом случае ИИ склонен делать «креативное дополнение», что приводит к некоторым ошибкам в реальном времени;

2. Работа AI LLMs по сути зависит от «вероятностной выборки», она распознает статистические закономерности и корреляции в данных обучения, а не действительно «понимает», поэтому случайность вероятностной выборки, несоответствие между результатами обучения и вывода и т. д. могут привести к отклонениям ИИ при обработке высокоточных фактических вопросов;

Как решить эту проблему? На платформе ArXiv Корнельского университета был опубликован метод повышения надежности результатов LLMs путем совместной верификации несколькими моделями.

Проще говоря, сначала основная модель генерирует результат, затем интегрируются несколько моделей верификации для проведения «анализа большинства голосов» по этому вопросу, тем самым можно снизить «галлюцинации», генерируемые моделью.

В серии тестов было обнаружено, что этот метод может повысить точность вывода ИИ до 95,6%.

Если это так, то определенно нужна распределенная платформа верификации для управления и проверки процесса совместного взаимодействия основной модели и моделей верификации, Mira Network — это именно такая сеть промежуточного программного обеспечения, специально созданная для верификации AI LLMs, создающая надежный слой верификации между пользователями и базовыми моделями ИИ.

Благодаря существованию этой сети слоя верификации можно реализовать интегрированные сервисы, включая защиту конфиденциальности, гарантию точности, масштабируемый дизайн, стандартизированные интерфейсы API и т. д., можно за счет уменьшения галлюцинаций вывода AI LLMs расширить возможности внедрения ИИ в различных нишевых сценариях использования, это также является практикой применения распределенной сети верификации Crypto в процессе инженерной реализации AI LLMs.

Например, Mira Network поделилась несколькими кейсами в экосистемах финансов, образования и блокчейна, которые могут это подтвердить:

1) После интеграции Mira в торговую платформу Gigabrain система может добавить этап верификации точности рыночного анализа и прогнозов, отфильтровать ненадежные рекомендации, повысить точность торговых сигналов ИИ, сделать использование AI LLMs в сценариях DeFai более надежным;

2) Learnrite использует Mira для верификации стандартизированных экзаменационных вопросов, сгенерированных ИИ, позволяя образовательным учреждениям масштабировать использование контента, сгенерированного ИИ, одновременно не влияя на точность содержания образовательных тестов, чтобы поддерживать строгие образовательные стандарты;

3) Проект блокчейна Kernel использовал механизм консенсуса LLM от Mira, интегрировав его в экосистему BNB, создал децентрализованную сеть верификации DVN, что обеспечивает определенную степень гарантии точности и безопасности выполнения вычислений ИИ в блокчейне.

На этом все.

На самом деле, Mira Network предоставляет сервис сети консенсуса промежуточного программного обеспечения, это определенно не единственный путь для усиления возможностей применения ИИ, на самом деле, усиление обучения на стороне данных, усиление взаимодействия через мультимодальные большие модели, а также усиление приватных вычислений через потенциальные криптографические технологии, такие как ZKP, FHE, TEE и т. д., все являются возможными путями. Но по сравнению с этим, решение Mira ценно быстрым внедрением на практике и непосредственным эффектом.