Запрет моделей Anthropic со стороны правительства США根本 не связан с так называемым «прорывом защиты»

Автор: Зак Уиттейкер

Перевод и адаптация: TechFlow

Вводная заметка TechFlow: В прошлую пятницу письмо Министерства торговли США заставило компанию Anthropic немедленно снять с эксплуатации два своих самых мощных ИИ-модели — Fable 5 и Mythos 5. Официальной причиной, названной правительством, стала «угроза национальной безопасности». Внешний мир предположил, что речь идёт о взломе систем защиты моделей. Однако по мере появления новых деталей всё больше свидетельств указывает на альтернативное объяснение: это скорее акт возмездия в условиях разрыва отношений между администрацией Трампа и Anthropic. То, что технологическую компанию заставили отключить свои продукты одним лишь распоряжением правительства без судебного решения, стало тревожным сигналом для всей американской технологической отрасли.

Письмо правоохранительных органов США, направленное Anthropic, в конце недели вынудило компанию полностью отключить свои новейшие ИИ-модели. Любая американская технологическая компания должна рассматривать этот инцидент как предупреждение — не только лаборатории по разработке ИИ.

Сначала кратко изложим хронологию событий последних дней. В пятницу днём Министерство торговли США направило Anthropic письмо, в котором ссылалось на малоизвестное положение об экспортном контроле, запрещающее доступ к моделям Fable 5 и Mythos 5 для всех лиц, не являющихся гражданами США (в том числе для собственных сотрудников Anthropic), якобы из-за неких, не конкретизированных соображений национальной безопасности. Anthropic заявила, что интерпретирует это письмо как реакцию на возможный обход систем защиты моделей, однако не исключает и другие причины — поскольку в самом письме никаких конкретных деталей не приводится. До сих пор текст этого письма не был опубликован.

В ответ Anthropic полностью отключила обе модели для всех клиентов по всему миру, чтобы гарантировать соблюдение требований. В результате правительство США добилось отключения моделей силой быстрого, одностороннего и, судя по всему, не требующего судебного разрешения административного акта.

Это вмешательство администрации Трампа демонстрирует, что отрасль искусственного интеллекта не может считаться иммунной к действиям государства. Для более широкого технологического сообщества это также является предупреждением: «либо подчиняетесь, либо мы можем закрыть вас и ваши продукты».

Согласно информации, приведённой в материале издания Axios со ссылкой на источники, в выходные дни между двумя сторонами — Anthropic и Белым домом — сложилась напряжённая ситуация. По мнению этих источников, истинной причиной введения экспортных ограничений стала «несовместимость характеров» между Anthropic и администрацией Трампа, а не какие-либо технические проблемы самих ИИ-продуктов.

Новые детали, выявленные в выходные, ещё больше подорвали и без того шаткое обоснование действий правительства.

Кэти Муссуорис, ветеран кибербезопасности, исследователь и основатель компании Luta Security, в своём блоге сообщает, что Anthropic недавно показала ей в частном порядке научную статью, подготовленную группой специалистов по безопасности, в которой описывается так называемый обход систем защиты в модели Fable 5. (Согласно сообщению The Wall Street Journal, авторы статьи — сотрудники службы безопасности Amazon.) Муссуорис уточняет, что Anthropic обратилась к ней за экспертной оценкой данной публикации.

В своём блоге Муссуорис подробно описывает, как исследователи активировали обход систем защиты, но при этом подчёркивает, что сам по себе этот случай «вообще не должен был повлечь за собой применение экспортных ограничений». Разница на самом деле минимальна: запрос к ИИ с просьбой «проверить код на наличие уязвимостей» или с просьбой «исправить данный код» — при незначительном различии в формулировке — даёт практически одинаковый результат.

«Описанное в статье поведение невозможно устранить окончательно; любые попытки его исправления лишь ослабят способность модели противодействовать киберугрозам», — отмечает Муссуорис. Она критикует данное решение об экспортном контроле как поспешное, грубое и принципиально ошибочное.

После этого Муссуорис совместно с десятками ведущих специалистов и экспертов в области кибербезопасности призвала администрацию Трампа отменить это решение, назвав изъятие передовых возможностей в сфере кибербезопасности из арсенала американских защитников «опасным шагом».

Правительства разных эпох неоднократно принимали категоричные решения в областях, где у них отсутствовали необходимые экспертные знания. Например, в 2010-х годах при пересмотре экспортного законодательства США власти пытались регулировать инструменты кибербезопасности, которые могут использоваться как в оборонительных, так и в атакующих целях. Однако из-за чрезмерно широкой формулировки законодательства почти случайно было поставлено под угрозу признание незаконными законной деятельности в области обеспечения безопасности и исследования уязвимостей (см. материалы Wired).

Однако решение администрации Трампа, по всей видимости, носит репрессивный характер.

Джастин Хендрикс, главный редактор издания Tech Policy Press, отметил, что подобный шаг администрации Трампа «вероятно вызовет у иностранных правительств серьёзные сомнения в надёжности применения американских ИИ-систем в критически важных сферах». Передаваемое сообщение заключается в том, что американские компании, работающие в сфере ИИ, не могут функционировать независимо от вмешательства правительства США.

Администрация Трампа до сих пор не объяснила, почему была применена данная мера экспортного контроля. Стало ли причиной то, что чиновники неверно истолковали представленный отчёт и впали в панику? Связано ли это с тем, что генеральный директор Amazon Энди Джасси, руководствуясь осторожностью или личными мотивами, обратился к высокопоставленным представителям власти с выражением обеспокоенности по поводу моделей Anthropic? Или же произошла ошибка перевода, либо это просто способ давления на Anthropic — учитывая, что отношения между сторонами и без того были крайне напряжёнными? Возможно, Белый дом просто не осознавал масштаба цепной реакции, вызванной этим письмом, и теперь чиновники спешно пытаются ликвидировать последствия собственной ошибки.

Как выразился Хендрикс: «Сейчас царит атмосфера подозрений, а высокопоставленные чиновники, похоже, выбирают объекты своего внимания исходя из личных и политических предпочтений». Последствием этого станет опасный прецедент, который определит степень государственного контроля над программным обеспечением, создаваемым в США.

На этот раз правительство сосредоточилось на Anthropic — завтра оно может выбрать любого другого.