Традиционные ценности для ИИ, невидимые знаки для нейротекстов и робособаки для спокойствия городов. Главное о технологиях за неделю

Российским большим языковым моделям добавили новый экзамен. Чтобы получить статус суверенной или национальной, нейросеть должна будет соответствовать не только техническим требованиям и российскому законодательству, но и традиционным духовно-нравственным ценностям.

Список ценностей внушительный:

• жизнь,
• достоинство,
• права и свободы человека,
• патриотизм,
• гражданственность,
• крепкая семья,
• созидательный труд,
• приоритет духовного над материальным,
• гуманизм,
• милосердие,
• справедливость,
• коллективизм и историческая память.

Всего 17 пунктов.

Порядок проверки конечного результата правительство еще только разрабатывает. В будущем появится отдельная методика, чтобы выяснить, достаточно ли патриотично отвечает языковая модель и хорошо ли она усвоила приоритет духовного над материальным.

Так что знаменитый тест Тьюринга, который должен показать, насколько ИИ похож на человека, постепенно становится для моделей далеко не самым сложным экзаменом.

Компания Anthropic готовит для Claude новую фичу — оставлять в сгенерированных текстах невидимые глазу водяные знаки. Специальная программа сможет их считать и с высокой вероятностью определить, что текст родился в нейросети, а не написан человеком.

Anthropic взялась за это не из вредности и не ради того, чтобы отлавливать студентов, сдающих курсовые на автомате. Просто с 2 августа в Евросоюзе официально заработали требования AI Act: разработчики генеративного ИИ обязаны маркировать синтетический контент машиночитаемым способом, чтобы любой желающий мог проверить происхождение текста.

Сначала метки появятся в новых версиях Claude, потом доберутся до старых.

А еще Anthropic обещает инструменты, которые помогут сторонним сервисам эти метки находить. Но технические детали пока держат в секрете, так что проверить водяной знак самостоятельно не выйдет.

Идеального детектора ИИ-текстов все равно не существует: если как следует переработать генерацию, след почти наверняка пропадет. Но схема «скопировал ответ Claude, убрал пару тире и выдал за свое» скоро перестанет быть рабочей.

«Сбер» представил собственного ИИ-агента под названием GigaAgent — универсального нейропомощника, который должен не только отвечать на вопросы, но и выполнять многоэтапные задачи.

GigaAgent не привязан намертво к GigaChat — можно подключать другие языковые модели, а через MCP — внешние сервисы и собственные инструменты. Проект открытый, распространяется по лицензии MIT и может работать локально или в облаке.

В его распоряжении уже больше 30 инструментов и вспомогательных агентов: он умеет работать с большими таблицами и документами, анализировать данные, писать и запускать код, генерировать картинки, делать презентации и даже собирать простые сайты.

Очередной пакет санкций ЕС добрался до финтеха российских маркетплейсов и IT-компаний. В списке — в том числе Ozon Банк и Яндекс Банк. А вслед за этим возник вполне знакомый владельцам iPhone вопрос: сколько еще проживут связанные с ними приложения в App Store. В прошлые годы программы российских подсанкционных банков неоднократно исчезали из зарубежных магазинов.

Вопреки начавшейся в соцсетях панике, что вот-вот удалят и все другие приложения «Яндекса» и заодно российские маркетплейсы, пока неочевидно, что Google и Apple пойдут дальше и заблокируют в своих сторах всю экосистему, как это было с VK. Введенные санкции относятся именно к банку и платежной системе.

Однако обновиться до последней версии и поставить то, что еще можно поставить, все же не лишнее, особенно владельцам айфонов. Если Apple все же уберет их из магазина, установленная версия останется на телефоне, а вот скачать программу заново будет уже гораздо веселее.

Робособаки в Москве уже не первый год осваивают государственную службу. В распоряжении Госинспекции по недвижимости появились четвероногие машины, которые должны обследовать городские территории и искать нарушения: например, незаконные постройки или объекты, вышедшие за разрешенные границы.

Следующая задача — научить электронных инспекторов обходиться без постоянного управления оператором. Робособака должна сама идти по заданному маршруту, обходить людей и препятствия, снимать территорию и сверять увиденное с загруженными данными. Не лает, не кусается, зато может заметить незаконную пристройку или нарушителя. Для городского проверяющего почти идеальный набор качеств.

На теневых форумах выставили на продажу базу персональных данных 16 млн жителей Казахстана — это почти 78% населения страны. Внутри оказались персональные сведения, собранные до 1 мая 2024 года.

Все это заставило расследователей предположить, что может быть взломан местный аналог «Госуслуг» — eGov. Версия появилась не на пустом месте: огромная часть государственных сервисов Казахстана связана между собой и использует персональные данные граждан. Однако официально взлом самого eGov не подтверждают. Альтернативным источником утечки могут быть медицинские организации, которые имеют доступ к государственным базам, но хуже защищают полученные сведения.

Тем временем украденная информация уже пошла в дело. Ее находили у коллекторов, а персональные сведения казахстанцев продавались через закрытые сервисы по отдельным запросам и подписке. Так что независимо от того, подтвердится ли взлом eGov, доверие к цифровой безопасности в стране серьезно пошатнулось.

В России продолжают перекрывать кислород телефонным мошенникам, и на этот раз добрались до сим-боксов. Это устройства, в которые можно установить сразу десятки или сотни сим-карт и массово прогонять через них звонки и сообщения.

Для нормального пользователя вещь экзотическая, зато подпольным колл-центрам пришлась очень кстати: вместо сотни телефонов достаточно одной коробки.

Масштаб проблемы не теоретический. Правоохранители регулярно находят квартиры, где рядом с одним оператором лежат тысячи оформленных на чужие имена сим-карт. А иногда такие колл-центры устраивают в съемных квартирах ничего не подозревающих россиян, так что добропорядочные граждане оказываются как будто «заодно» с мошенниками.

С 3 сентября музыкальная нейросеть Suno кардинально меняет правила игры. Бесплатные пользователи получат всего семь скачиваний за всю жизнь, владельцы Pro-подписки — 20 в месяц, а Premier — 60.

Официально компания объясняет это борьбой с недобросовестными креаторами, которые массово экспортируют ИИ-слоп. Генерировать за деньги — пожалуйста, а вот выкладывать в интернет — уже перебор. Ограничения распространяются даже на треки, созданные до 3 сентября. Песни останутся в библиотеке, их можно слушать и ремиксить, но экспортировать получится только в рамках новых лимитов.

Пользователи уже негодуют, но вишенка на торте еще впереди.

Ограничения распространятся не только на новые треки, но и на старые библиотеки. Так что если вы уже исчерпали свои лимиты, пока это музыкальный генератор еще позволял вам сравнительно дешево почувствовать себя композитором, дальнейшее творчество — только за деньги.

Российская соцсеть Looky, позиционирующая себя как альтернатива запрещенному Instagram* (принадлежит Meta, признанной экстремистской и запрещенной в РФ) готовит к релизу теперь еще и собственный мессенджер, который позиционируется как альтернатива Max. Сейчас обмен сообщениями встроен в основное приложение, но скоро появится отдельный продукт — с чатами, звонками, голосовыми сообщениями и обменом файлами.

В компании объясняют это уходом зарубежных сервисов и удалением приложений VK и «Одноклассников» из магазинов. Looky основал создатель Tvigle и Start Егор Яковлев.

Эксперты настроены скептически: ценность мессенджера определяется аудиторией. Сегодня в Looky зарегистрировано всего 7 млн пользователей, отзывов и вовсе единицы. Если приложением не пользуется большинство собеседников, ставить его незачем. А для конкуренции с существующими игроками нужны миллиарды рублей в год.

Но, с другой стороны, больше вариантов — не меньше вариантов. Так что пока одни игроки уходят с российского рынка или сталкиваются с трудностями в зарубежных сторах, другие пытаются занять их нишу.

Американца поймали на попытке зашить скрытые инструкции для ИИ в судебные документы. Теперь придется возиться с бумажками

Житель Коннектикута Мэттью Эллиотт, который сам представляет себя в суде, придумал хитрый способ склонить технологии на свою сторону. В одном из документов он спрятал текст мелким белым шрифтом на белом фоне — человек его не видит, зато программа спокойно считывает.

Это классическая промпт-инъекция: скрытые инструкции должны были заставить ИИ оценивать материалы в пользу Эллиотта и считать предыдущее решение судебного клерка ошибочным.

Расчет, правда, не оправдался: суд Коннектикута вообще не использует ИИ для анализа документов и принятия решений. Судья Уолтер Спейдер — младший обнаружил вставку, предупредил Эллиотта, но тот заявил, что хотел проверить, как суд обрабатывает материалы, а скрытые фразы назвал шутками.

Шутку судья не оценил и выбрал наказание с приятным аналоговым привкусом: Эллиотту запретили подавать документы электронно. Теперь все бумаги ему придется приносить в канцелярию лично.

Совет фермеру от ИИ превратил 10 гектаров кунжута в выжженное поле

67-летний фермер из китайского Чучжоу месяцами консультировался с чат-ботом по хозяйству — и тот исправно выдавал дельные рекомендации. Доверие копилось, и когда речь зашла о борьбе с сорняками и вредителями, мужчина уже был уверен в своем нейросетевом помощнике.

Расстроенный фермер вернулся к тому же ИИ с прямым вопросом, что случилось, и получил услужливое объяснение. Один из гербицидов в рецепте предназначен для соевых полей и бьет по широколистным сорнякам. Беда в том, что кунжут сам относится к широколистным растениям, а значит, химикат уничтожил его наравне с бурьяном. Да и наносить этот сомнительный коктейль нужно было на зараженные участки точечно, а не поливать все поле, о чем ИИ, конечно, предупредить забыл.

Так что, какими бы умными ни казались вам современные ИИ, перепроверять за ними каждое критически важное решение — все еще база.