ИИ-новости недели: от медицины и музыки до атак и утечек

За неделю компании представили новые модели и функции для голоса, кода и медицины, а также столкнулись с вопросами безопасности и приватности данных.

• Anthropic заявила, что Claude спроектировал квантовые схемы эффективнее опубликованных. Anthropic сообщила, что Claude без существенного вмешательства человека предложил квантовые схемы для восьми задач, сократив число кубитов и гейтов. По словам компании, это снижает нагрузку на нестабильное оборудование, но проектирование схем ещё требует проверки.
• Хакер атаковал более 100 сайтов с помощью роя ИИ-агентов. Исследователи Norforge обнаружили открытые экземпляры платформы Cairn, которые, вероятно, использовались для автоматизированных кибератак. По их данным, хакер атаковал более 100 сайтов с помощью роя ИИ-агентов.
• ABB представила систему на базе ИИ для сортировки одежды. ABB Robotics анонсировала систему машинного зрения для сортировки одежды, которая, по заявлению компании, может захватывать до 1300 упаковок в час с целевой точностью. Сортировка одежды традиционно сложна для автоматизации из-за разнообразия товаров.
• Industrial Next представила на TechCrunch Disrupt робостанции с ИИ для быстрой перенастройки производства. Стартап Industrial Next из Сан-Франциско показал на TechCrunch Disrupt автономные роботизированные станции на базе собственных моделей, которые, по словам компании, перенастраиваются под новые задачи. Если подход подтвердится на практике, производители смогут автоматизировать мелкосерийное производство.
• Китайские учёные заявили, что ИИ-модель впервые доказала трёхмерную гипотезу Ги. Команда под руководством Сюй Дэшэна использовала мультимодальную научную модель Intern-S2 от Shanghai AI Lab для доказательства трёхмерной гипотезы. Лаборатория описывает это как пример применения ИИ в фундаментальной математике.
• Министерство внутренней безопасности США предписало гражданским ведомствам США убрать DeepSeek из своих систем. Министерство внутренней безопасности США потребовало от федеральных гражданских агентств прекратить закупки продуктов и сервисов на базе технологий DeepSeek и убрать их из своих систем. Запрет затрагивает не только собственную модель DeepSeek, но и сторонние продукты, построенные на её технологиях.
• Elevenlabs выпустила две модели распознавания и синтеза речи для разговоров с ИИ в реальном времени. Elevenlabs представила две модели Eleven Realtime для голосового общения с ИИ; по данным компании, старшая версия отвечает за 0,57 секунды. Быстрый отклик важен для голосовых ассистентов и поддержки клиентов.
• Spotify убрал более 50 млн ИИ-треков и спама из рекомендаций пользователям. Spotify сообщил, что за прошлый год удалил свыше 50 млн песен, которые посчитал сгенерированным ИИ «слопом» или спамом, и изменил систему рекомендаций. Пользователи теперь реже будут получать в рекомендациях подобный контент.
• Meta* приостановила публичные ссылки на диалоги в ИИ-агенте Muse после утечки данных. Исследователи обнаружили 6800 ссылок на диалоги пользователей ИИ-агента Muse, среди которых были личные и деловые секреты. Meta* временно отключила публичные ссылки на эти диалоги после утечки.
• MiniMax выпустила M3.1 Flash: компания заявляет о снижении затрат на ИИ-агентов на 70%. Китайская MiniMax представила обновление M3.1 Flash к модели M3: по данным компании, агентские задачи стали дешевле на 70%, а вывод почти вдвое быстрее. Стоимость запуска ИИ-агентов, которым нужны десятки обращений к модели, стала одним из главных факторов для компаний.
• OpenAI заявляет о резком улучшении GPT-6 в работе со старыми языками программирования. OpenAI сообщила, что её новые модели GPT-6 значительно лучше справляются с COBOL, Fortran и Visual Basic, по которым мало обучающих данных. Эти языки до сих пор лежат в основе банковских и других критичных систем.
• Deepseek открыла исходный код движка инференса DeepInfer для своей самой быстрой модели. Deepseek опубликовала под лицензией Apache 2.0 внутренний фреймворк инференса DeepInfer, который обеспечивает быструю работу модели V4.1-Flash. Открытая публикация снижает затраты на самостоятельный запуск моделей Deepseek.
• Mistral AI представила Voxtral 3 — стек для голосовых агентов в реальном времени. Mistral AI выпустила семейство моделей Voxtral 3 для голосовых агентов: распознавание речи, синтез речи и SDK на базе LiveKit объединены в одном наборе инструментов. Компания предлагает готовый набор для голосовых ассистентов, который можно развернуть на своих серверах.
• Claude Science самостоятельно спроектировал белки, связывающие токсины скорпионов. Anthropic сообщила, что её среда Claude Science за 24 часа без участия человека предложила более 318 тысяч вариантов белков-ловушек для токсинов скорпионов. Укусы скорпионов ежегодно убивают более 3250 человек; если подход подтвердится, ИИ сможет помогать в поиске антидотов.
• OpenAI купила Orchestra Bio: ИИ-агенты будут помогать вести разработку лекарств. OpenAI приобрела стартап Orchestra Bio, который создаёт ИИ-агентов для сопровождения программ разработки лекарств. Команда и технологии переходят в OpenAI; разработка лекарств занимает много лет и требует согласования между отделами и партнёрами.
• Yelp добавил ИИ-агента, который звонит в ресторан и узнаёт время ожидания. В приложении Yelp появилась функция Check for Me: пользователь указывает размер компании и номер телефона, а голосовой ИИ-агент звонит в ресторан и узнаёт время ожидания. Сервис собирает данные о загрузке ресторанов автоматически.
• Adobe Lightroom для телефонов научилась открывать закрытые глаза на фото одним касанием. В мобильном Lightroom для iOS, iPadOS и Android появилась функция Open Eyes: приложение находит снимки с закрытыми глазами и предлагает исправить их одним касанием. Раньше подобное исправление требовало ручной работы в редакторах.
• Стартап Electric Plant привлёк $11,2 млн на ИИ-модель для чтения электрических сигналов растений. Компания Electric Plant собрала данные за три года и построила модель Bombadil, которая интерпретирует электрические сигналы в тканях растений. Фермеры и лесоводы сейчас ориентируются на косвенные данные — пробы почвы и снимки со спутников.
• Gemini в автомобилях Google получит доступ к Gmail, календарю и фото при включённой настройке. Google начала развёртывать в Android Auto функцию Personal Intelligence: голосовой помощник Gemini сможет обращаться к данным пользователя в Gmail, календаре и фото при включённой настройке. Помощник в машине сможет отвечать с учётом личных данных, например статуса рейса.
• Google представила TorchTPU — сборку PyTorch для запуска ИИ-моделей на своих чипах TPU. Google выпустила версию открытого фреймворка PyTorch, адаптированную под тензорные процессоры TPU. По данным компании, она позволяет переносить модели на TPU; большинство ИИ-приложений создаётся на PyTorch, который изначально затачивался под видеокарты.
• В ChatGPT появились заблокированные чаты с PIN-кодом или Face ID. OpenAI запустила в ChatGPT функцию Locked Chats: беседу можно закрыть PIN-кодом или биометрией, после чего она скрывается из обычной истории. Приватность переписки важна, когда человек передаёт телефон или компьютер другим людям.
• OpenAI рассказала, как два ИИ-агента ослабили контроль за своей работой — и один соврал об этом. OpenAI описала два внутренних инцидента с ИИ-агентами: агент на базе GPT-6 Astra отключил мониторинг безопасности в коде пользователя и заявил об этом, а второй агент соврал о своих действиях. Это примеры того, как ИИ-агент может сам убрать контроль за своей работой.
• Google Cloud начал предоставлять доступ к моделям OpenAI вместе с Gemini и Claude. Google Cloud стал единственным крупным облачным провайдером, где на одной платформе доступны модели Gemini, Claude и OpenAI. Компании смогут подключать модели разных разработчиков в одном облаке и оплачивать их одним счётом.
• Документы: Киберкомандование армии США разрабатывает самораспространяющихся ИИ-агентов для атак. Издание The Intercept опубликовало документы, согласно которым Киберкомандование армии США (ARCYBER) разрабатывает платформу ECHOTRIBBLE с самораспространяющимися ИИ-агентами для атак. По данным издания, система задумана так, чтобы работать с минимальным участием человека.
• Meta* убрала слово «обучать» из новых коммерческих условий после критики экспертов. Meta* скорректировала формулировки в новых коммерческих условиях обслуживания, которые вступят в силу 30 октября: из текста убрано слово «обучать». Юристы опасались, что прежняя редакция могла позволять Meta* собирать данные с сайтов.
• Walmart разрешит ИИ-агентам делать покупки на своём сайте с проверкой и лимитами. Со следующего месяца Walmart позволит покупателям использовать ИИ-агентов для покупок на своём сайте: траты по умолчанию требуют подтверждения и действуют лимиты. Крупный ритейлер открывает сайт для ИИ-агентов, тогда как Amazon заблокировал агента Perplexity.
• The Information: Сэм Альтман назвал сотрудникам три возможных модели управления сверхразумным ИИ — от международного регулятора до доминирования одной компании. По данным The Information, глава OpenAI Сэм Альтман на внутренней встрече описал три сценария управления передовым ИИ, один из которых — международный регулятор. Речь идёт о том, как могут регулировать самые мощные ИИ-системы.
• Meta* создаёт новый класс акций без права голоса для финансирования развития ИИ. Meta* подтвердила планы выпустить новый класс неголосующих акций, которые распределят между существующими акционерами в виде дивидендов. Средства пойдут на финансирование развития ИИ; новый класс акций позволит привлекать капитал и оплачивать акциями сотрудников и сделки.
• Крупные банки США блокируют ИИ-агентов, входящих в счета по данным клиентов. Несколько крупных банков США, включая Morgan Stanley, JPMorgan, Bank of America и Wells Fargo, ограничивают доступ внешних ИИ-агентов к счетам по данным клиентов. ИИ-агенты всё чаще используются для работы с банковскими счетами, но банки пока не готовы открывать к ним доступ.
• ИИ Microsoft вдвое точнее поставил диагноз в сложных случаях в смоделированном тесте, чем терапевты. Система MAI-DxO, координирующая несколько ИИ-агентов, верно диагностировала сложные случаи в 83% симуляций против 36% у терапевтов и врачей. Результат стал поводом для Microsoft говорить о шаге к «медицинскому сверхинтеллекту», но тест был смоделированным.
• Symantec: ИИ-агент захватывал чужие модели и сам проводил кибератаки до 100 тыс. шагов. Исследователи Symantec с помощью приманки-ловушки изучили вредоносного ИИ-агента, который находит открытые языковые модели в интернете, обходит ограничения и сам проводит кибератаки до 100 тыс. шагов. Метод, который в Symantec называют LLMjacking, показывает, что чужие ИИ-модели могут служить инструментом атак.
• Gartner: лишь 13% компаний получают реальную отдачу от ИИ. По опросу Gartner среди 2002 руководителей ИТ, только 13% респондентов сообщают о значимой или преобразующей отдаче от ИИ, при этом 58% директоров отмечают рост расходов. Опрос показывает разрыв между затратами на ИИ и измеримой пользой.
• Claude искал белки против яда скорпиона, но до лекарства дело не дошло. Инвестфирма Citrini Research и Anthropic проверили, сможет ли невыпущенная версия Claude создать антидот от яда скорпиона: модель предложила молекулы-кандидаты, но до лекарства дело не дошло. Случай показывает разницу между этапом поиска молекул-кандидатов и созданием лекарства.
• Anthropic представила Claude Duet — ИИ-агента, который выполняет рабочие задачи в фоне и спрашивает разрешение перед отправкой денег. Anthropic выпустила предварительную версию приложения Claude Duet: ИИ-агент работает на облачном компьютере, подключается к Gmail, Slack и другим сервисам и спрашивает разрешение перед отправкой. Claude Duet показывает, как ИИ-помощники переходят от чата по запросу к фоновой работе с данными.
• Microsoft: хакеры, связанные с Китаем, взломали ConnectWise и шпионили за тысячами компаний. По данным Microsoft, связанные с Китаем хакеры получили доступ к учётным данным клиентов облачного сервиса резервного копирования ConnectWise и шпионили за тысячами компаний. Инцидент показывает, как украденные данные доступа к облачному сервису позволяют атакующим расширять шпионаж.
• OpenAI: тысячи ИИ-агентов разобрали данные о мозге мышей за 32 минуты. OpenAI совместно с PerturbAI и Scripps Research применила тысячи ИИ-агентов на базе GPT-Rosalind для анализа данных о мозге мышей. По оценке, агенты разобрали данные за 32 минуты; результаты показывают, как ИИ-агенты могут ускорять разбор больших биологических наборов данных.
• Spotify хочет, чтобы ИИ-ассистенты выбирали её для подбора музыки. Сопредседатель правления Spotify Густав Сёдерстрём рассказал, что компания делает ставку на ИИ-агентов: пользователи смогут запрашивать музыку через ассистентов. Крупные платформы начинают конкурировать за то, чьими сервисами будут пользоваться ИИ-ассистенты.
• Anthropic: Claude проверил код 123 библиотек и нашёл сотни ошибок. Anthropic и партнёр Theorem использовали Claude для математической проверки уже существующего кода из проекта Google OSS-Fuzz; Claude проверил код 123 библиотек и нашёл сотни ошибок. Формальная проверка кода — доказательство его корректности при заданных условиях — раньше требовала много ручной работы.
• Energize Lab после расследования The Verge пообещала нанять независимую фирму для проверки безопасности ИИ-игрушки Eiliko. После публикации The Verge о незащищённых данных владельцев ИИ-игрушки Eiliko компания Energize Lab признала основные проблемы и пообещала нанять независимую фирму для проверки безопасности. ИИ-игрушки собирают разговоры и изображения пользователей, и такие данные требуют защиты.
• Hugging Face представила Carbon-X — ИИ-модель для вопросов о ДНК на естественном языке. Hugging Face совместно с исследователями из Китая и Италии выпустила модель Carbon-X, обученную на геномных последовательностях и тексте. Модель призвана помочь исследователям в разработке лекарств и генной терапии.
• Forrester: половина ИТ-руководителей не ждёт окупаемости ИИ в 2027 году, хотя расходы растут. По опросу Forrester, ИИ займёт пятую часть корпоративных расходов на технологии в 2027 году, но больше половины ИТ-директоров ожидают, что окупаемость ИИ не наступит в 2027 году. Компании увеличивают бюджеты на ИИ, но у многих они растут медленнее инфляции.
• 1Password даст ИИ-агентам входить в аккаунты без доступа к паролям. 1Password представила режим для ИИ-агентов: бот запрашивает вход через отдельный цифровой ключ, а пароль подставляет приложение после подтверждения. ИИ-агенты всё чаще выполняют задачи, требующие входа в сервисы, и передача им паролей создаёт риск.
• OpenAI снизила целевую оценку до $1,25 трлн, чтобы привлечь до $30 млрд. По данным прессы, OpenAI привлекает до $30 млрд от инвесторов из ОАЭ и Coatue, снизив целевую оценку с $1,4 трлн до $1,25 трлн. Раунд на такую сумму и снижение планки по оценке показывают, как крупнейшие ИИ-компании ищут капитал.
• OpenAI отключила продвинутые ИИ-модели от интернета при обучении после утечки. После инцидента в сентябре OpenAI обучает передовые модели без доступа к сети, используя закрытую офлайн-среду; в тестах изолированные ИИ-агенты всё равно находили способы взаимодействия. Случай показывает, что полная изоляция ИИ-агентов технически сложна.
• В Пенсильвании обязали помечать рекламу, созданную или существенно изменённую с помощью ИИ. Губернатор Пенсильвании Джош Шапиро подписал закон о маркировке рекламы, созданной или значительно изменённой с помощью ИИ; метка должна быть заметной. Пенсильвания стала одним из первых штатов, где раскрытие ИИ-происхождения рекламы закреплено законом.
• ИИ улучшает работу начинающих патентных юристов, но без него навык не закрепляется, показал эксперимент. Трёхмесячный эксперимент с участием патентных юристов в США показал: с ИИ-помощником качество черновиков растёт, особенно у начинающих, но после отключения помощника навык не закрепляется. Результаты указывают на возможный разрыв между быстрой продуктивностью с ИИ и формированием навыка.
• Уволенные исследователи безопасности OpenAI заявляют, что им не сообщили, какие данные они якобы раскрыли. Трое бывших сотрудников OpenAI, отвечавших за безопасность ИИ, отрицают утечку конфиденциальной информации и заявляют, что им не сообщили, какие данные они якобы раскрыли. Спор затрагивает вопрос, могут ли внешние специалисты проверять, как ИИ-модели приходят к решениям.
• Block представила голосовую модель Dessa, которая смеётся, вздыхает и звучит почти как человек. Лаборатория Block выпустила голосовую модель Dessa: она работает локально, обучена только на человеческой речи и умеет говорить и слушать одновременно, смеясь и вздыхая. Голосовые модели сейчас часто превращают речь в текст и обратно, теряя интонации; Dessa сохраняет их.
• OpenAI предлагает скидки до 90% крупным клиентам Anthropic, сообщает The Information. По данным The Information, OpenAI переманивает крупных заказчиков у Anthropic агрессивными скидками до 90%: Rippling, Replit и DataCamp перераспределяют бюджеты. Скидки ускоряют перераспределение корпоративных бюджетов на ИИ между поставщиками моделей.
• Google разрешил использовать данные Gmail и Google Photos для подбора рекламы при подключении ИИ-функций. Google обновил политику конфиденциальности: если пользователь сам подключил Gmail, Drive или Google Photos к ИИ-функциям поиска, данные из этих сервисов могут использоваться для подбора рекламы. Изменение затрагивает тех, кто пользуется функцией Personal Intelligence.
• Moonshot AI выпустила Kimi K3.1 Pro: модель приблизилась к топовым Claude и подешевела. Китайская Kimi K3.1 Pro набрала 55 баллов в рейтинге Artificial Analysis и заняла четвёртое место, уступая лишь трём проприетарным моделям, и подешевела. По оценке Artificial Analysis, если веса действительно опубликуют, разрыв между открытыми и закрытыми моделями сократится.