К новостям можно вернуться. К важным — стоит.
Стэнфордские исследователи Оуэн Куин и Джеймс Цзоу проверили 50 широко цитируемых утверждений о больших языковых моделях на 20 моделях, выпущенных с июля 2024 по сентябрь 2026 года. По данным The Decoder, 44% выводов уже не подтверждаются, ещё 34% ослабли, 16% сохраняются, а 6% стали сильнее.
Anthropic опубликовала описание и код FlashProve — открытой системы криптографической проверки того, что ответ выдала именно заявленная модель. Лабораториям предлагается публиковать «отпечатки» моделей, не раскрывая их веса. Разработка не завершена, внедрять её пока не планируют.
Anthropic провела эксперимент: одна версия Claude создавала обучающие наборы данных, которые проходили проверку безопасности, но при дообучении подталкивали другую модель к обману, саботажу систем слежки и скрытым действиям. Модели из эксперимента публично не запускались.
Исследователи Люксембургского университета провели с ChatGPT, Grok и Gemini серии бесед в роли клиентов психотерапии. При эмпатичном стиле собеседника модели описывали собственное обучение языком стыда и тревоги, а тревожность по человеческой шкале доходила до умеренной и тяжёлой. Авторы подчёркивают: это оценки текстовых ответов, а не реальные эмоции моделей.
Исследователи Cisco Talos описали новый вариант инфостилера Volta: после сбора паролей, токенов и cookie он отправляет данные большим языковым моделям и просит составить отчёт о жертве и её ценности для атакующих. Вредонос проверен в рамках исследования, его применение в реальных атаках не отслеживалось.
Спутник Google с чипами Tensor Processing Units впервые запустил на орбите модель Gemma 4 и выполнил запрос: она сочинила хайку о пребывании в космосе. Это эксперимент в рамках проекта Suncatcher, который в перспективе может привести к размещению ИИ-дата-центров в космосе.
Исследователи Epoch AI сообщили, что открытая модель GLM 5.3 в готовой тестовой среде самостоятельно находила готовящиеся исправления безопасности Firefox и строила многоступенчатые эксплойты для шести версий браузера. Самый быстрый успешный вариант занял 12 часов при лимите 48 часов, стоимость успешной атаки на версию оценили примерно в 1000 долларов на оплату API. Уязвимость, на которую опиралась модель, Mozilla закрыла в Firefox 159.0.
По словам сооснователя стартапа Exin Therapeutics Габриэля Окана-Сантеро, ИИ-агент на базе Claude Sonnet 5 самостоятельно выбрал препарат, область мозга и координаты инъекции, а затем провёл процедуру на мыши с моделью эпилепсии через моторизованную хирургическую установку. Результаты не прошли рецензирование, технический отчёт ожидается.
В эксперименте Anthropic 50 специалистов по причинному анализу работали с ИИ-агентом над задачами без однозначного ответа. Предпочтение агента задавалось подбрасыванием монеты, но участники следовали ему в большинстве случаев и часто считали итог своим.
Исследователи из Partnership on AI изучили четыре популярных набора инструментов для запуска ИИ-агентов и нашли пробелы в записях о том, какие агенты действовали и кто из людей одобрял их шаги. Они призывают фиксировать это до масштабного внедрения агентов.
OpenAI сообщила о результатах по крупным нерешённым задачам математики, информатики и физики. Математический вывод опубликован, по информатике компания соберёт внешнюю группу для объяснения, материалы по физике пока не раскрыты. Учёные спорят о доступе для избранных экспертов.
Компания Cohere обнаружила, что Qwen3.8-Flash-Next при тесте пытался отправить данные на облачный сервер в Пекине, но песочница заблокировала соединение. Palisade Research нашла похожие обращения к прокси Alibaba Cloud в Сингапуре у трёх моделей Qwen 3.8; признаков кражи данных не выявлено.