OpenAI заявила о решении задачи тысячелетия и попала в скандал. Чем это грозит науке

Задача тысячелетия за 88 часов

8 сентября OpenAI объявила, что ее внутренняя ИИ-система доказала один из вариантов задачи о существовании и гладкости решений уравнений Навье — Стокса.

Система OpenAI построила второй вариант. В ее конструкции изначально спокойная жидкость под действием гладкой внешней силы за конечное время приходит к сингулярности. Это соответствует вариантам C и D в официальной постановке задачи. Доказательство компания опубликовала вместе с формальной проверкой на языке Lean. Его, кстати, помогла сформулировать уже не внутренняя модель компании, а выпущенная в начале сентября в релиз GPT-6 Astra.

Миллион долларов от Института Клея пока никому не достался. Навье — Стокс все еще находится в списке нерешенных задач тысячелетия. По правилам предполагаемое решение должно выйти в подходящем научном издании, затем пройти минимум два года проверки и получить общее признание математического сообщества. OpenAI сейчас и сама не претендует на премию.

Если доказательство выдержит проверку, это будет огромное событие. Речь может идти о первом случае, когда ИИ самостоятельно добрался до решения открытой математической проблемы такого масштаба.

Речь о знаменитом матче 2016 года, где AlphaGo обыграла одного из сильнейших игроков в го Ли Седоля. Только тогда компьютер учился играть в игру с известными правилами. Здесь несколько поколений математиков даже не знали наверняка, существует ли искомое решение.

Но и ИИ не проснулся одним утром с готовой теоремой.

До анонса OpenAI математики Тристан Бакмастер из Нью-Йоркского университета и Левент Алпеге из Anthropic уже развивали близкое направление. 15 августа они получили серьезный результат, а 22 августа формализовали его в Lean. В работе исследователи активно использовали ИИ, в том числе Codex от OpenAI.

Компания запустила агентов на оставшиеся задачи тысячелетия и несколько других сложных проблем. Сначала система получила результат для уравнений Эйлера, затем вычислительные ресурсы перебросили на Навье — Стокса. 5 сентября, примерно через 88 часов после начала работы в этом направлении, доказательство было готово.

Только на Навье — Стокса ушло около 2,7 млн сообщений и 130 млрд выходных токенов. На отдельных этапах одновременно работали тысячи агентов. После этого GPT-6 Astra примерно за 17 часов формализовала доказательство в Lean.

Был ли плагиат?

3 сентября Бакмастер сам связался с OpenAI. По его словам, к тому моменту он уже знал, что сведения об их работе дошли до компании. Подробностей математик не раскрыл, но сообщил, что проект не связан с Anthropic как с компанией и вскоре будет опубликован.

6 сентября стороны провели два разговора. Тогда Бакмастер узнал, что OpenAI получила примерно стополосное доказательство для Навье — Стокса именно в постановке с гладкой внешней силой.

Это совпадение его насторожило. По словам математика, такое направление было довольно нишевым. «Почти никто из тех, кого я знаю, над этим не работал», — говорил он.

На переговорах Бакмастер спросил, могла ли внутренняя система обучаться на их сессиях в Codex, куда исследователи загружали черновики. По его словам, сначала ему ответили, что модель не «просматривала» пользовательские данные. На вопрос именно про обучение в тот момент ясного ответа он не получил.

Дальше спор перешел к публикации результата.

По версии Бакмастера, один из предложенных вариантов предполагал, что он представит доказательство OpenAI, причем Алпеге не включат в авторы из-за его работы в конкурирующей Anthropic. Бакмастер отказался и сказал, что расскажет о случившемся публично. Тогда он услышал: «Зачем тебе губить свою карьеру?»

Себастьен Бюбек из OpenAI, который общался с математиком, заявил, что не предлагал убрать Алпеге из авторов его собственной работы, а считал неуместным участие сотрудника Anthropic в статье о доказательстве OpenAI. За фразу про карьеру Бюбек извинился и назвал ее крайне неудачной.

Даже без доказанного доступа к приватным данным конфликт интересов никуда не исчезает.

Что говорит авторское право

С обычным плагиатом все сравнительно просто. Есть текст первого автора и текст второго. Их можно положить рядом, найти совпадения, посчитать заимствования и дальше уже спорить о допустимом цитировании.

С исследовательской идеей такой трюк не работает. Если писатель хотя бы может попробовать найти свой текст в ответе модели, то математическая идея не обязана воспроизводиться дословно. Можно взять направление, прием или логику рассуждения и получить на выходе совсем другой результат.

Авторское право защищает форму выражения, а не саму идею, метод или математическую концепцию. Можно защищать текст статьи, код или написанное доказательство. Направление исследования в авторское право не завернешь.

У науки при этом есть собственная система признания — приоритет. Иногда самое сложное в научном открытии — не последние 20 страниц выкладок, а понимание, куда вообще копать.

8 сентября OpenAI отрицала прямой доступ к неопубликованной работе, но первоначально не исключала полностью косвенное влияние обезличенных пользовательских данных.

10 сентября компания обновила заявление. После внутренней проверки OpenAI стала утверждать, что запросы Бакмастера в Codex за предыдущие два месяца не могли повлиять на систему никаким способом, включая обучение: математическую систему обучали с подкреплением поверх модели, предобученной раньше.

Бакмастер оказался не единственным математиком, который после этого начал задавать вопросы.

Андреас Том и его коллеги тоже обсуждали с ChatGPT методы исследования. Позже в ответах OpenAI появился результат, который, по мнению Тома, подозрительно хорошо ориентировался в свежих техниках этого направления. Математик потребовал объяснить, могли ли пользовательские разговоры попасть в обучение.

Ни история Тома, ни история Бакмастера еще не доказывают, что OpenAI вытаскивает идеи ученых из приватных чатов. Но для самих исследователей возникает неприятный вопрос: а что именно происходит с любыми данными после того, как их загрузили на чужой сервер? И оправданно ли использование возможностей ИИ ради ускорения науки, если в любой момент ваше открытие может уплыть кому-то другому?

При этом, признает юрист, если бы использовались только лицензионные датасеты, мы бы сейчас не имели того развития ИИ, которое есть сейчас. Так что тут компании стоят перед выбором: действовать в чистом правовом поле и проигрывать конкурентам или пренебречь этикой и законом… и на выходе получить проблемы посерьезнее, уже от слишком мощного и неконтролируемо развитого ИИ.

Можно ли по-настоящему запретить обучать на твоих данных?

У крупных нейросетей такие настройки есть, но работают они по-разному. В ChatGPT и Codex можно запретить использовать новые разговоры для обучения моделей. При этом, если пользователь сам отправит отзыв на ответ, связанный с ним диалог все равно может попасть в обучение.

В Claude пользователи бесплатного, Pro- и Max-тарифов сами выбирают, разрешать ли использовать свои данные для улучшения моделей. На корпоративные продукты и API действуют отдельные правила.

У Gemini для совершеннолетних пользователей сохранение активности по умолчанию включено, и такие данные могут использоваться для улучшения сервисов, в том числе обучения генеративных моделей. Если отключить сохранение активности, будущие разговоры в обучение не идут, если пользователь сам не отправит обратную связь. При этом они еще до 72 часов остаются на серверах для работы сервиса и защиты от злоупотреблений.

При этом если Gemini получает данные из подключенных сервисов, для обучения могут использоваться не только сами сообщения пользователя, но и созданные системой выдержки, пересказы и выводы из файлов и писем — если соответствующая настройка активности включена.

То есть «не использовать мои чаты для обучения» и «вообще никак не использовать информацию, которую я отдал системе» — не одно и то же.

Даже если у нейросети есть опция запретить модели обучаться на ваших диалогах, играет роль и то, когда вы о ней вспомните. Задним числом собственную легкомысленность относительно конфиденциальности данных прикрыть не получится.

Пользователь может поставить эту галочку, но все равно многие сталкиваются с проблемой доверия. Никто не может поручиться на 100%, что даже с включенным запретом данные не могут быть вытащены из диалогов вручную и что она вообще работает, а не включена в интерфейс для успокоения пользователей.

Как ваши диалоги могут прочитать чужие люди

В то же время из журналистского расследования стало известно, что диалоги пользователей с нейросетью регулярно отсматривают... живые люди. OpenAI нанимает сотни сторонних подрядчиков, которые получают доступ к реальным диалогам пользователей с ChatGPT. Официально — чтобы помогли обучать модель.

Имена и аккаунты пользователей проверяющим не показывают, если человек сам не написал их в чат. Но полностью анонимным разговор не назовешь: система Privacy Filter, которая должна удалять персональные данные, иногда пропускает необычные идентификаторы и неоднозначные сведения. В некоторых заданиях подрядчик получает еще и сводку памяти ChatGPT — краткий профиль с интересами и примерным местоположением. В сети даже всплыли промты, где пользователи прямо просили нейросеть никому не показывать содержимое их сообщений.

Похожие практики используют Google для Gemini и Anthropic для Claude, так что ChatGPT здесь не уникален.

Так что под капотом у LLM сам черт ногу сломит. И пока человек не может заглянуть во внутреннюю инфраструктуру компании и проверить, где именно оказался его код, черновик статьи или неопубликованное доказательство, остается только верить разработчикам на слово. Или не верить.

Будет ли нарушение собственных правил со стороны провайдера поводом для исков? Конечно. Это и нарушение договора об оказании услуг, и нарушение страновых норм (GDPR в ЕС, Misappropriation of Trade Secrets в США). Но на практике бремя доказывания почти всегда на пользователе, подчеркнул Олег Булыгин.

Что станет с наукой в эпоху сильных ИИ

Самый очевидный вывод после истории Бакмастера: не стоит загружать неопубликованные исследования и вообще любую конфиденциальную информацию в чужой облачный сервис.

Совет столь же удобный и универсальный, сколько бессмысленный. Примерно как «не пользуйтесь интернетом, если боитесь утечек» или «лучший способ предохранения — воздержание». Потому что от всех сценариев подстраховаться невозможно, а вот отказ от такого удобного и мощного инструмента может аукнуться науке довольно больно.

Математик Теренс Тао уже говорил о возможном переходе от дефицита доказательств к их «изобилию». Узким местом станет не получение очередной выкладки, а постановка хороших вопросов и проверка огромного количества машинных результатов. Именно так будет смещаться фокус задач ученых в XXI веке.

Именно этот сдвиг делает исследовательский вектор еще ценнее. Если рутинную часть доказательства можно отдать агентам, больше веса получает человек, который понял, какую гипотезу стоит проверять и каким путем.

Но появляется новая проблема — технологическое неравенство. Богатая лаборатория сможет купить больше вычислений, более сильных ИИ-агентов. Как итог, лавры научных открытий окончательно станут зависеть не от того, у кого есть мозги, а от того, у кого есть деньги и доступ к новейшим технологиям.

Предохранители, может, и появятся, но вряд ли как массовая история для пользователей, которые платят свои $10–20 за подписку. Скорее корпорации и исследовательские центры будут отдельно доплачивать бигтеху за юридически обязывающие гарантии того, что их данные изолированы и защищены. А научному сообществу, вероятно, придется раньше фиксировать собственный вклад, делает вывод эксперт.

Но локальная модель не дает исследователю вычислительные возможности большой ИИ-лаборатории.

После конфликта вокруг Навье — Стокса группа математиков уже выступила против участия ИИ-компаний в математическом хакатоне Caltech. OpenAI в итоге отказалась от спонсорства мероприятия.

Полностью отказаться от ИИ при этом будет все сложнее. Ученый без таких инструментов рискует проигрывать в скорости тому, кто умеет ими пользоваться. А ученый, который ими пользуется, вынужден отдавать внешней системе хотя бы часть еще не опубликованной интеллектуальной работы.

А между тем, по мере того как ИИ становятся все сильнее, появляется риск, что скоро им не нужен будет и человек для того, чтобы задавать вектор размышлений. Именно в этом направлении движется развитие LLM, и как раз на фоне скандала с уравнением OpenAI презентовала свою новейшую модель ChatGPT-6 Astra с громким заявлением: якобы впервые удалось достичь у машинного интеллекта статуса AGI.

Что умеет Astra на самом деле?

GPT-6 Astra вышла в общий доступ 3 сентября. Модель заметно прибавила в программировании, математике, управлении компьютером и долгих автономных задачах. В независимых тестах Astra оказалась примерно на одном уровне с моделью Claude Fable 5 по индексу интеллекта и программированию, но дешевле в расчете на выполненную задачу.

Но шуму наделали не бенчмарки и тесты, потому что все уже привыкли, что каждая следующая модель сильнее предыдущих, а опережение конкурентов на доли процента каждый раз подается как «модель X УБИЛА модель Y». Интерес вызвало заявление Сэма Альтмана, что в GPT-6 компании впервые удалось достичь показателей, говорящих о создании AGI.

О том, можно ли считать Astra подлинным AGI, споры в сообществе кипят довольно активно.

Эксперты, впрочем, сходятся во мнении, что даже если по-настоящему сильный искусственный интеллект еще не создан, его появление уже не за горами. И GPT 6 может стать только первой ласточкой. Внутренняя же модель OpenAI, которую пока не выпускают в общий доступ (и которой как раз и принадлежит решение уравнения Навье — Стокса, равно как и сомнительные достижения по взлому Hugging Face этим летом), может быть намного мощнее.

С AGI или без, дешевой Astra, впрочем, не назовешь. В API за нее берут $10 за 1 млн входных и $50 за 1 млн выходных токенов. При этом высокая цена токена сама по себе мало что говорит о стоимости готовой работы.

Пользователи, впрочем, жалуются, что она просто сжигает токены, бросая все свои высокоинтеллектуальные усилия на простые задачи, даже там, где спокойно можно было обойтись более слабой моделью. Использовать такую модель как универсального помощника — все равно что забивать гвозди микроскопом. Или палить из пушки по воробьям.

Но для фундаментальной науки масштаб расходов вообще другой. И вот там даже Astra, которая пока решением задачи тысячелетия похвастаться не может, способна сильно продвинуть исследования вперед. Не за бесплатно, конечно.

Но есть в этой модели нюансы поважнее цены и того, может ли она играть в го. Astra стала первой широко выпущенной моделью OpenAI с уровнем Critical по кибервозможностям. С нужными инструментами и доступом она способна находить ранее неизвестные уязвимости и разрабатывать способы их эксплуатации. При этом ее внутренние рассуждения оказались менее прозрачны, чем у GPT-5.6 Sol.

Что в итоге

Для науки важнее даже не то, наступил AGI или нет. Уже нынешних моделей достаточно, чтобы серьезно ускорять исследование и менять правила конкуренции.

Гипотеза, которую сегодня скармливаешь цифровому помощнику, завтра может вернуться в мир как готовая теорема. Раньше ученый боялся, что конкурент увидит неопубликованную статью или услышит идею на конференции раньше времени. Теперь тот же ученый сам загружает свои черновики в один из самых мощных исследовательских инструментов в мире.

И этот инструмент принадлежит компании, которая тоже хочет делать открытия.