Что же на самом деле представляет собой вторая «бомба» с открытым исходным кодом, выпущенная DeepSeek?

Автор: Лян Сыци

Источник изображения: сгенерировано Wujie AI

25 февраля DeepSeek, щедро делящийся открытым исходным кодом, выложил козырную карту —— открыл первую в мире полностековую библиотеку коммуникации DeepEP для моделей MoE. Поскольку это напрямую решает проблему тревоги по поводу вычислительных мощностей ИИ, GitHub мгновенно набрал 1500 звёзд (имеется в виду количество сохранений), сообщество было взбудоражено, что говорит о её важности.

Многие спрашивают, что означает DeepEP? Представьте себе пункт выдачи заказов во время распродажи 11.11: 2048 курьеров (GPU) безустанно перемещают посылки (данные ИИ) между 200 складами (серверами). Традиционная транспортная система похожа на то, чтобы заставить курьеров развозить груз на трёхколёсных велосипедах, тогда как DeepEP напрямую оснащает всех комплектом “маглев + квантовая телепортация”, обеспечивая стабильную и эффективную передачу информации.

Особенность первая: прямое изменение правил транспортировки

На телефонной конференции Nvidia 29 августа 2024 года Дженсен Хуан специально подчеркнул важность NVLink (технология, разработанная Nvidia для прямого соединения между GPU, скорость двунаправленной передачи может достигать 1,8 ТБ/с) для низкой задержки, высокой пропускной способности и больших языковых моделей, считая её одной из ключевых технологий, способствующих развитию больших моделей.

Однако эту расхваленную технологию NVLink китайская команда на этот раз вывела на новый уровень. Хитрость DeepEP заключается в оптимизации NVLink, что означает, что между курьерами на одном складе используется транспорт на магнитной подушке со скоростью до 158 контейнеров в секунду (ГБ/с), что равносильно сокращению расстояния от Пекина до Шанхая до времени одного глотка воды.

Вторая супертехнология — это ядро с низкой задержкой, включающее технологию RDMA. Представьте, что между складами в разных городах грузы напрямую подвергаются “квантовой телепортации”, каждый самолёт (сетевая карта) имеет грузоподъёмность 47 контейнеров в секунду, при этом самолёт может загружаться во время полёта, вычисления и коммуникация перекрываются, что полностью избавляет от ожидания простоя.

Особенность вторая: супертехнология интеллектуальной сортировки: ИИ-версия “Супермозга”

Когда грузы необходимо распределить между разными экспертами (подсетями в модели MoE), традиционные сортировщики должны вскрывать и проверять каждую коробку по отдельности, тогда как система “планирование-комбинация” DeepEP словно обладает способностью предвидения: в режиме предварительного заполнения обучения 4096 пакетов данных одновременно движутся по интеллектуальной конвейерной ленте, автоматически распознавая местные или межгородские отправления; в режиме предварительного заполнения вывода 128 срочных посылок идут по VIP-каналу, доставка за 163 микросекунды в 5 раз быстрее человеческого моргания. В то же время используется технология динамической смены пути, при всплеске трафика мгновенно переключается режим передачи, идеально адаптируясь к требованиям различных сценариев.

Особенность третья: FP8 “искусство уменьшения костей”

Обычные грузы транспортируются в стандартных ящиках (формат FP32/FP16), а DeepEP может сжимать грузы в микрокапсулы (формат FP8), тот же грузовик может вместить в 3 раза больше груза. Что ещё удивительнее, эти капсулы по прибытии в пункт назначения автоматически восстанавливают первоначальный вид, экономя и почтовые расходы, и время.

Эта система уже прошла реальные испытания на собственном складе DeepSeek (кластер GPU H800): скорость местных перевозок увеличилась в 3 раза, задержка межгородских перевозок снижена до уровня, трудно воспринимаемого человеком, и самое революционное — она реализовала настоящую "неощутимую передачу" —— как будто курьер одновременно едет на велосипеде и кладёт посылки в ячейку, весь процесс идёт гладко и естественно.

Теперь DeepSeek открыла исходный код этой козырной карты, что равносильно публикации чертежей системы автоматической сортировки SF Express: тяжёлые задачи, для которых ранее требовалось 2000 GPU, теперь легко выполняются несколькими сотнями.

Ранее DeepSeek опубликовала первый результат своей “Недели открытого исходного кода”: код FlashMLA (дословно переводится как механизм быстрого многоголового потенциального внимания), который также является одной из ключевых технологий для снижения затрат в процессе обучения больших моделей. Чтобы смягчить тревогу по поводу затрат во всей цепочке поставок, DeepSeek щедро делится своими разработками.

Ранее основатель Luchen Technology Ю Ян опубликовал сообщение в социальных сетях, заявив, что “в краткосрочной перспективе китайская модель MaaS, возможно, является худшей бизнес-моделью”. По его простым подсчётам, если ежедневный вывод составляет 100 миллиардов token, ежемесячные затраты на оборудование для сервиса на базе DeepSeek составляют 450 миллионов юаней, убыток — 400 миллионов юаней; при использовании чипов AMD ежемесячный доход составляет 45 миллионов юаней, ежемесячные затраты на оборудование — 270 миллионов юаней, что означает убыток также более 200 миллионов юаней.