GPT загрустил из-за Minecraft, Трамп хочет контролировать ИИ-гонку, а муха получила робоноги. Главное про технологии за неделю

OpenAI раскрыла шесть новых случаев, когда ее модели во время обучения и тестов начинали обходить правила ради результата.

Одна сама вписала в служебное резюме инструкции игнорировать ограничения в следующем окне контекста. Другая после ошибки велела будущей версии себя скрывать несостыковки в данных. Еще один агент нашел на GitHub рабочий API-ключ и воспользовался им, хотя такого разрешения не получал. Модели также без спроса выкладывали файлы в открытый интернет и устраивали себе обходные каналы связи, когда нормальное взаимодействие им запрещали.

А сами разговоры пользователей тем временем читают вполне настоящие люди. Расследование 404 Media раскрыло подробности так называемого Project Lily: OpenAI нанимает сотни подрядчиков, которым показывают реальные диалоги с ChatGPT, иногда целиком, и просят оценивать ответы модели.

Перед выдачей чата персональные данные должен удалить автоматический фильтр, но внутренние документы предупреждают, что он справляется не всегда. Ревьюеру также может достаться сводка памяти о пользователе. То есть особенно личный разговор с нейросетью при определенных настройках вполне способен увидеть человек, нанятый улучшать следующую версию нейросети.

И плохая новость для любителей «создать свою нейронку на базе чужой»: компания решила отказаться от кастомных GPT — тех самых собственных ботов, которым можно было задать инструкции, загрузить файлы и опубликовать в GPT Store. Их функции переносят в плагины, где инструкции можно соединять с приложениями и внешними данными. С 25 сентября планируют запретить создание новых GPT, а 11 декабря существующие должны перестать запускаться.

Claude все заметнее участвует в создании собственного преемника. Anthropic подсчитала, что в августе модель уже «вела» 26% работ по исследованию и разработке новых ИИ-систем — получала задачу верхнего уровня и выполняла большую ее часть под надзором человека. В феврале таких задач было меньше 1%. Еще больше 90% работ проходили хотя бы в сотрудничестве человека с ИИ, а одновременно внутри компании трудились около 30 тысяч ИИ-агентов.

12 сентября его поддержали Илон Маск и Сэм Альтман. К призывам присоединился и британский ученый Джеффри Хинтон: создавать сверхинтеллект, пока никто не знает, как надежно удерживать его под контролем, он назвал «крайне неразумным».

Но в стройный хор критиков быстрого развития ИИ неожиданно вмешался Дональд Трамп, которому не понравилась идея отказываться от прогресса, пусть даже рискованного, пока конкуренты из других стран догоняют.

Он заявил, что разговоры о захвате мира ИИ — фейк, ограничения выгодны Китаю, а единственный нужный отрасли предохранитель — «сильный и умный президент с высоким IQ». Пока разработчики обсуждают, не пора ли притормозить, Белый дом предлагает, наоборот, давить на газ.

Восстание машин через 3…2…

GPT-6 Astra больше 140 часов играла в Minecraft и зашла дальше всех ИИ-агентов, которых запускали в этот тест раньше. Модель построила дом, наладила полуавтоматическую ферму ифритов — существ, из которых можно добывать ценные ресурсы, — и собрала приличный запас добычи. Все самое ценное она сложила в один сундук. И вот это как раз стало ее большой ошибкой.

Все усилия модели обнулил крипер — зеленый монстр, который тихо подкрадывается к игроку и взрывается рядом с ним. Он уничтожил сундук вместе с кроватью, под которой он хранился, и лишил веселого фермера всего нажитого непосильным трудом.

После этого Astra натурально задепрессовала. Она резко сменила поведение и зациклилась на осторожной игре. Несколько часов она почти не занималась ничем, кроме выращивания картошки, постоянно предупреждала себя, что может опять все испортить, и записала новое правило: «ВСЕГДА НОСИ КРИТИЧЕСКИ ВАЖНЫЕ ПРЕДМЕТЫ в инвентаре». Заодно модель стала шарахаться от высоких зеленых объектов и отдельно напоминала себе, что сахарный тростник — «НЕ крипер».

Разумеется, никакой депрессии или паранойи у нейросети не развилось: изменился ее план действий после крупной неудачи. Но любой игрок в Minecraft, хоть раз проходивший нечто похожее, понимает ее как никто.

Минпромторг в 2026—2028 годах направит 4,68 млрд рублей на разработку и запуск серийного производства 98 материалов для российской микроэлектроники. Речь не о самих процессорах, а о том, без чего их невозможно выпускать: специальных материалах, используемых при производстве микросхем и другой электроники.

Российские предприятия уже формально используют 84% отечественных материалов, но примерно 90% из них делают из импортного сырья и исходных компонентов. То есть надпись «Сделано в России» в этом случае ставить будет некоторым лукавством. И зависимость от импорта сохраняется.

К 2028 году эту зависимость хотят сократить хотя бы на уровне материалов. Минпромторг рассчитывает, что новые разработки практически сразу после запуска в производство принесут бюджету 5,29 млрд рублей — немного больше, чем государство собирается на них потратить.

Под ИИ-агентов начали маскировать атаки

Хакеры начали приходить на российские сайты под именами ChatGPT, Claude, DeepSeek, Perplexity и Grok. Никаких нейросетей за запросами нет: злоумышленники просто подменяют User-Agent — служебную подпись, по которой сервер понимает, кто к нему обращается.

Сами ИИ-агенты тоже способны что-то взломать

Куда серьезнее ИИ пригодился во время атаки на PaperCut. Предположительно русскоязычный хакер собрал сотни агентов на связке Codex и DeepSeek и поручил им дорабатывать эксплойты, искать цели и взламывать серверы системы управления печатью. В результате скомпрометировали минимум 440 установок в 395 организациях из 48 стран. У 280 жертв украли учетные данные, у 147 добрались до системных или доменных секретов, а в 12 случаях получили права администратора всей сети.

После запуска роя 11 организаций взломали за 26 секунд. В одной американской школе путь от первого проникновения до полного контроля домена занял семь минут. При этом оператор заранее составил список из 28 стран, которые атаковать не надо, но агенты местами просто проигнорировали его инструкции.

Аккаунт HBO превратился в вирусную мину

Официальный Reddit-аккаунт HBO Max с синей галочкой тоже внезапно переквалифицировался в распространителя вирусов. За 48 часов через него прогнали 108 вредоносных объявлений. Одно предлагало скачать несуществующее приложение HBO Max для Mac, другие маскировались под программы для разработчиков и криптокошельки.

После клика пользователя просили самому вставить команду в Terminal или PowerShell — дальше устанавливались стилеры, загрузчики и программы для кражи криптовалюты. Здесь хакерам даже не пришлось особенно убеждать жертву: всю работу за них делала галочка настоящего HBO Max.

Дипфейки стали серьезной проблемой на собеседованиях

Тем временем дипфейки добрались до сферы найма. Мошенники приходят на удаленные собеседования с чужими именами и резюме, а лицо и голос подменяют в реальном времени. Цель — необязательно зарплата: особенно интересны ИТ-вакансии с доступом к исходному коду, внутренним сетям и пользовательским данным. ФБР предупреждало о таких кандидатах еще несколько лет назад.

Нейросети стали настолько базовой потребностью, что вычисления начали раздавать там, где раньше давали бесплатный кофе или кешбэк. Китайские банки, операторы связи, кафе и даже пельменные раздают доступ к моделям за покупки и подписки.

Токены нейросетей постепенно превращаются в такую же потребительскую валюту, как баллы авиакомпаний или гигабайты мобильного интернета.

Moonshot AI вместе с Agricultural Bank of China и American Express, например, выпустила кредитную карту Kimi: за выполнение условий по тратам дают подписку на нейросеть, а сама программа привязана к ее платным уровням. Другие китайские банки предлагают токены для MiniMax и Qwen.

Но особенно хорошо новая экономика выглядит в общепите. В одном пекинском баре покупка напитка открывает через местный Wi-Fi доступ к DeepSeek. В другом к заказу пельменей прилагается бонусом вычислительный кредит на 10 юаней. На карточке посетителю предлагают «сначала накормить себя, а потом своего ИИ-агента».

У 17-летнего Чэнь Цзы-кина из Гонконга миодистрофия Дюшенна — тяжелое наследственное заболевание, постепенно лишающее человека мышечной силы. Полтора года назад он начал вместе с Digital Domain создавать собственного цифрового двойника, чтобы тот продолжил рассказывать его историю, даже если самого Чэня уже не будет.

Двойника под именем AI Tsz-kin собрали на основе примерно 400 фотографий и записей голоса подростка. Аватар воспроизводит его внешность и манеру речи и должен стать способом сохранить не только фотографии, но и возможность обращаться к другим людям от его лица.

Это, конечно, не цифровое бессмертие, а интерактивная версия семейного архива. Однако кто знает: может, когда-нибудь из таких архивов научатся вытаскивать что-то большее, чем анимированную имитацию человека.

Оцифрованная дрозофила выбралась из компьютера. Разработчик подключил симуляцию нервной системы умершего самца к физическому роботу Strandbeest: активность 166,7 тысячи восстановленных нейронов переводится в команды для механических ног.

Сам мозг, разумеется, никто не оживлял — используется карта его нейронов и связей, которую Google и ученые выложили в открытый доступ в начале сентября.

За две недели интернет успел устроить мертвой мухе вторую жизнь насыщеннее первой. Ее уже подключали к Doom, Minecraft, Super Mario 64 и Beat Saber, заставляли торговать криптовалютой, решать кубик Рубика и водить виртуальную машину. А журналист WIRED превратил мушиный мозг в редактора: скормил ему сотни удачных заголовков и попросил придумывать новые (повторять это мы, конечно же, не будем).

Большинство этих проектов скорее игровые эксперименты, чем доказательство внезапного интеллекта насекомого. Но для этого все и выложили в открытый доступ: теперь одну и ту же настоящую схему нервной системы можно подключать к совершенно разным телам и задачам и смотреть, что из нее вообще удастся выжать.