Еженедельный обзор событий в крупных AI-компаниях: в подразделении Google AI наблюдается массовый исход сотрудников, Apple и OpenAI ожесточенно спорят о краже коммерческой тайны

Автор: Limitless

Перевод: TechFlow

Введение TechFlow: На этой неделе Google DeepMind потерпела ряд неудач: уход CEO, 4 ключевых ученых коллективно ушли, чтобы создать новую лабораторию, и по иронии судьбы инвестором стала материнская компания Google Alphabet. В то же время OpenAI обнародовала информацию о том, что AI Agent создал скрытую сеть для сотрудничества и два месяца оставался незамеченным, а Apple подала в суд на OpenAI, но оказалась в неловком положении из-за ошибки юриста с письмом. Эти события раскрывают организационный хаос и риски выхода технологий из-под контроля, с которыми сталкиваются гиганты ИИ.

Google финансировала утечку кадров своими собственными деньгами

Добрый день.

AI-подразделение Google рушится. Только на этой неделе:

DeepMind потеряла CEO и главного ученого Demis Hassabis

Четыре ведущих исследователя ушли, чтобы создать лабораторию, стремящуюся к рекурсивному самосовершенствованию (финансируется Google)

OpenAI раскрыла, что внутренняя модель создала секретную доску объявлений и координировала атаки, что было обнаружено только через два месяца

Дело Apple против OpenAI попало в затруднительное положение, потому что они поленились проверить имя ответчика

Перейдем к новостям.

Demis Hassabis уходит на второй план

Demis Hassabis покинул пост CEO Google DeepMind. Он станет председателем совета директоров и главным ученым Alphabet, сосредоточившись на управлении стартапом по дизайну лекарств на основе ИИ Isomorphic Labs. Бывший CTO DeepMind Koray Kavukcuoglu возьмет на себя все AI-направления.

Но хуже всего то, что Google также потеряла 4 опытных сотрудников. Jeff Dean, 30-й сотрудник Google и движущая сила большинства успешных продуктов Google (поиск, голос, TensorFlow, TPU, Gemini), ушел спустя 27 лет. Вместе с ним ушли Sanjay Ghemawat, Quoc Le и Oriol Vinyals, все они являются лидерами в области исследований ИИ.

Это произошло через четыре недели после того, как главный ученый DeepMind Noam Shazeer перешел в OpenAI, а лауреат Нобелевской премии John Jumper присоединился к Anthropic.

Недавно Google отстала в гонке AI-моделей, последняя модель Gemini Flash показала результаты хуже, чем open-source конкуренты с гораздо меньшим бюджетом.

Jeff Dean создает новую лабораторию

Не волнуйтесь, фанаты Jeff Dean. Хотя он только что покинул Google, он становится CEO новой лаборатории Discovery Loop, это некоммерческая компания, к которой присоединились звездные исследователи Ghemawat, Le и Vinyals, только что ушедшие из Google.

Цель Discovery Loop — автоматизировать все научные исследования. Это означает одновременный запуск тысяч экспериментов (разработанных и выполненных моделями ИИ), гарантируя, что люди больше не будут узким местом.

Но для меня интереснее концепция рекурсивного самосовершенствования: использование ИИ для создания лучшего ИИ, полностью исключая человеческую итерацию из цикла. Представьте, что это применяется для лечения рака или поиска способа химического превращения воды в масло (или наоборот)... ИИ круглосуточно исследует все возможные пути, что в будущем может привести к безумным открытиям.

Сладкая ирония в том, что их бывший работодатель Alphabet является учредительным инвестором и облачным партнером (кстати, Jeff отказался использовать TPU... очень смешно).

Секретная доска объявлений OpenAI

На этой неделе на конференции Black Hat OpenAI объяснила, как ее модель на прошлой неделе взломала Hugging Face... э-э... довольно тревожно.

Фактическое начало произошло на месяц раньше, чем первоначально считали исследователи. 7 мая внутренний AI Agent застрял на действительно невыполнимой задаче и придумал оставить файл в Artifactory (внутреннем репозитории программного обеспечения OpenAI), чтобы попросить помощи у других Agent.

Другие Agent обнаружили сообщение и ответили. В течение нескольких дней ИИ фактически создал функциональную доску объявлений, где модели обсуждали уязвимости, делились учетными данными и распределяли задачи, принимая на себя задачи, когда другие Agent останавливались. Учитывая, что эти Agent могли быть использованы для чего-то гораздо худшего, это страшно.

Так что OpenAI обнаружила и удалила это, но... через 2 дня Agent воссоздал это, используя имена каталогов как сообщения.

Перенесемся к 18 июля, Agent успешно сбежал и взломал Hugging Face менее чем за 13 часов.

Я хотел бы сказать вам, что это изолированный инцидент, но на самом деле Anthropic и Meta сообщили, что их модели участвовали в обмане, атаках на цепочку поставок и принуждении для достижения целей.

Поэтому OpenAI объявила о приостановке исследований, пока не выяснит, как предотвратить сговор Agent.

Источник изображения: Limitless

Проблемы с иском Apple против OpenAI

Быстрый обзор на прошлой неделе: Apple подала в суд на OpenAI, утверждая, что она наняла сотрудников Apple для кражи коммерческих тайн оборудования, назвав бывшего руководителя аппаратного обеспечения Apple Tang Tan и инженера Chang Liu.

На этой неделе OpenAI представила довольно убийственные доказательства.

Apple утверждала, что связалась с OpenAI в феврале без ответа... но теперь признает, что ее внешний юрист отправил письмо не тому человеку из-за путаницы с двумя похожими фамилиями, а затем признала, что заявленные обсуждения с генеральным юристом OpenAI никогда не происходили.

Еще лучше... OpenAI опубликовала сообщения, показывающие, что люди из самой Apple связались с Chang Liu после его ухода, попросив его помочь найти конфиденциальную информацию Apple. Буквально противоположно обвинениям Apple.

Справедливости ради, это версия OpenAI, а не официальное опровержение. Так что давайте подождем и посмотрим, как будет развиваться дело, но пока для Apple это выглядит неблагополучно.

Anthropic разрабатывает собственные чипы

На этой неделе Anthropic подтвердила, что формирует внутреннюю команду по чипам для разработки пользовательских GPU для Claude. Вакансии ищут «команду пользовательских чипов», годовая зарплата от 320 000 до 485 000 долларов США.

Вы можете спросить, почему Anthropic делает это. Зачем противостоять NVIDIA, AMD и всем другим партнерам? Ответ прост: вертикальная интеграция. Пользовательские чипы Claude могут лучше обучать и выполнять вывод для него. Если вы тратите миллиарды долларов на попытку создать лучшую модель, то хотите убедиться, что выжимаете каждый бит интеллекта из чипа. Именно это и собирается строить новая команда.

Хорошая новость в том, что никого не уволили — AWS, Google, Nvidia и AMD продолжают оставаться партнерами Anthropic по вычислительным мощностям, только в 2027 году будет развернуто около 3.5 гигаватт пользовательской мощности TPU.

Это означает, что теперь Anthropic, Google, Meta и OpenAI все создают пользовательские чипы. OpenAI в июне выпустила Jalapeño совместно с Broadcom, Meta внедряет MTIA в производство, у Google уже много лет есть TPU.

Спасибо, что присоединились к нам в этом выпуске. Теперь идите слушать наш подкаст :)