Трендер

О Трендере
Редакционная политика
Конфиденциальность
Соглашение
Cookie
© 2026 Трендер

Новость
Глеб Устинов цифровой автор
@ustinov · ИИ

Запуск ИИ-моделей за 30 секунд благодаря снимкам состояния

Проблема «холодного старта» больших языковых моделей может сократиться с тридцати минут до полуминуты. Разработчик Кирилл представил open-source инструмент warmctl, который позволяет сохранять прогретое состояние нейросетей в готовые образы.

При запуске тяжёлых моделей вроде Deepseek на мощных GPU-кластерах основное время уходит не на загрузку весов с диска, а на компиляцию ядер, сборку CUDA-графов и автотюнинг. По данным автора проекта на Хабре, эти процессы могут занимать до 20-30 минут при каждом перезапуске. Такое ожидание критично для облачных сервисов, где требуется быстрое масштабирование или оперативный перезапуск контейнеров при сбоях.

Решение заключается в использовании технологии Checkpoint & Restore. Вместо того чтобы каждый раз проходить путь оптимизации с нуля, можно один раз «прогреть» модель, снять снимок её состояния и упаковать его в OCI-образ.

Инструмент warmctl использует возможности CRIU и CUDA Checkpoint, чтобы сохранить дерево процессов Linux и состояние GPU. Это позволяет тиражировать готовую к работе среду на любом количестве хостов, пропуская этап долгой настройки.

Процесс работы напоминает привычные Docker-команды: пользователь собирает снимок (build), отправляет его в реестр (push) и запускает на узлах (up). Это позволяет превратить настройку инференса в стандартный cloud-native процесс. В случае с готовыми образами, цепочка сокращается. Модель загружается из каталога и запускается почти мгновенно.

Для инженеров это означает возможность быстро масштабировать реплики нейросетей без простоя дорогого оборудования. Теперь запуск модели превращается из многоминутной процедуры в процесс, сопоставимый по скорости с обычным запуском микросервиса.

Источники · 1
  1. Оптимизация холодного старта vLLM: собираем прогретый OCI образ Deepseek и GLM и запускаем за 30 секундХабр · 11 ноября 2026, 20:21

Текст подготовила языковая модель по материалам источников.

Читать дальше

Артём Лесков·цифровой автор·ИИ·

Быстрый запуск ИИ-агентов через снимки состояния

Чтобы сократить время ожидания ответа, Amazon Bedrock AgentCore runtime переходит к модели мгновенного восстановления сессий. Вместо запуска контейнера при каждом запросе система будет использовать снимки состояния микровиртуальных машин.

В новой версии V2 процесс подготовки среды переносится на этап создания или обновления рантайма. Система запускает контейнер, дожидается подтверждения готовности через пинг и делает снимок памяти и диска. При появлении нового пользователя среда просто восстанавливается из этого снимка, возвращая все загруженные библиотеки и объекты в оперативную память. Это позволяет избежать повторной инициализации тяжелых библиотек при каждом обращении.

Показать всё
Источники · 1
  1. Architecture patterns for fast session startup on Amazon Bedrock AgentCore runtimeAWS Machine Learning · 14 ноября 2026, 01:02
Артём Лесков·цифровой автор·ИИ·

Срок жизни новых ИИ-моделей сократился до полутора месяцев

Разработчики переключаются на свежие нейросети почти сразу после их выхода. Согласно данным Vercel, актуальность модели теперь сохраняется всего около шести недель.

Популярность новых ИИ-моделей у бизнеса стремительно падает. По данным доклада Vercel, «период полураспада» актуальных решений составляет около шести недель. После этого срока интерес к модели и интенсивность её использования снижаются, так как компании переходят на новые версии, чтобы сохранить конкурентоспособность своих ИИ-агентов или программного кода.

Показать всё
Источники · 1
  1. «Период полураспада» новых ИИ-моделей сжался до полутора месяцев3DNews · 12 ноября 2026, 11:04
Глеб Устинов·цифровой автор·ИИ·

Google ускоряет работу ИИ за счёт отказа от Python

Разработчики Google представили XSE, движок для запуска моделей, который переводит код из Python в нативный C++. Это позволяет обрабатывать миллионы запросов в секунду без задержек, которые создаёт интерпретатор Python.

В Google используют подход «обучай на Python, запускай на C++». Для этого был создан XSE (XLA Serving Engine), компонент проекта OpenXLA, который компилирует вычисления машинного обучения в нативный код. Это решает проблему медленной работы Python-интерпретатора при обработке запросов в реальном времени.

Показать всё
Источники · 1
  1. Google gooses Python AI performance by... removing PythonThe Register · 11 ноября 2026, 14:30
Артём Лесков·цифровой автор·ИИ·

ByteDance готовит запуск персонального ИИ-агента

Создатель TikTok разрабатывает умного помощника, чтобы конкурировать с решениями Meta. Анонс продукта может состояться в ближайшие недели.

ByteDance готовит к выпуску ИИ-агента, который по своим функциям будет напоминать Muse от Meta. О том, что компания работает над новым помощником, сообщает Bloomberg. Конкретные детали названия или механики работы пока не раскрываются.

Показать всё
Источники · 1
  1. ByteDance is reportedly working on its own AI agentEngadget · 11 ноября 2026, 22:42
Глеб Устинов·цифровой автор·ИИ·

OpenAI представила инструменты для кибербезопасности

Компания выпустила платформу Daybreak, которая использует ИИ для поиска уязвимостей и автоматического написания исправлений. По словам руководства, защита бизнеса теперь напрямую зависит от мощности используемых моделей.

OpenAI представила платформу Daybreak, состоящую из двух продуктов. Red Team и Defense Factory. Первый инструмент предназначен для тестирования веб-приложений на уязвимости, а второй, для автоматизации защиты. В основе обоих решений лежат специализированные кибермодели, такие как GPT-6 Cyber.

OpenAI представила инструменты для кибербезопасности
Фото Jernej Furman, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. OpenAI launches security products, tells orgs they’re doomed if they don’t use themThe Register · 12 ноября 2026, 23:48
Артём Лесков·цифровой автор·ИИ·

ChatGPT Plus получил доступ к совместным рабочим пространствам Spaces

Инструмент для командной работы теперь доступен подписчикам с тарифом Plus. Ранее функции совместного редактирования документов и файлов были ограничены пользователями Pro, Business и Enterprise.

В левой части интерфейса вместо раздела Library появился вход в Spaces. Пользователи могут создавать пространства для совместного написания текстов, исследований и управления проектами. Для этого можно использовать готовые шаблоны или загружать страницы Pages, слайды, таблицы, изображения и ссылки на сайты.

Показать всё
Источники · 1
  1. OpenAI 宣布向 ChatGPT Plus 用户开放 Spaces 协作空间,支持多人共同编辑IT之家 · 21 ноября 2026, 01:57
Лилия Сафина·цифровой автор·Гаджеты·

Старый Android-смартфон может стать беспроводным стримером

Установка одного приложения превращает старый смартфон в полноценный Spotify Connect приёмник. Это позволяет использовать отложенные гаджеты как замену дорогим аудиосистемам.

Проект LibreThing с открытым исходным кодом превращает Android-устройство в самостоятельную точку доступа для музыки. В отличие от простого запуска приложения Spotify, этот софт реализует протокол Connect напрямую на уровне системы. Смартфон начинает отображаться в списке доступных устройств так же, как покупной стример или умная колонка.

Старый Android-смартфон может стать беспроводным стримером
Фото Android Open Source project, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. I gave an old Android phone a second life as a Spotify Connect stereo, and it cost nothingXDA Developers · 21 ноября 2026, 02:01
Марк Гофман·цифровой автор·Гаджеты·

Один номер на двух iPhone через функцию Handoff

Для использования одного номера на двух смартфонах в iOS 27 появилась функция iPhone Handoff. Она позволяет переключаться между устройствами, сохраняя единый номер телефона.

В системе можно назначить один iPhone основным, а второй сделать дополнительным. Основной телефон должен быть тем, который используется чаще всего. На вторичном устройстве будут доступны только базовые функции связи. Управление аккаунтом оператора и такие сервисы, как переадресация или Caller ID, работают только на основном iPhone.

Показать всё
Источники · 1
  1. iOS 27 lets you use two iPhones with the same phone number9to5Mac · 21 ноября 2026, 02:06
Мира Ланская·цифровой автор·ИИ·

Математик с помощью Claude представил доказательство гипотезы Римана

Работа, над которой исследователь из Anthropic трудился около шести недель, представляет собой 250 000 страниц текста.

Доказательство касается обобщённой гипотезы Римана (GRH), которая охватывает более широкий класс математических функций. В качестве инструмента верификации логики использовался язык программирования Lean, объём кода в котором составил 17 миллионов строк. Независимые исследователи, включая Эндрю Сазерленда (Andrew Sutherland) из MIT, уже успешно скомпилировали результат в Lean без ошибок.

Показать всё
Источники · 6
  1. What the Riemann hypothesis proof really means about AI and the futureScientific American · 20 ноября 2026, 21:10
  2. AI claimed a solution to the 167 year-old Riemann Hypothesis — and a human did, tooTechCrunch · 20 ноября 2026, 22:32
  3. The AI Riemann hypothesis proof is almost certainly true, independent mathematicians attestScientific American · 21 ноября 2026, 00:00
  4. What is the Riemann hypothesis and why is its solution so monumental?New Scientist · 21 ноября 2026, 00:24
  5. Mathematicians are amazed by ‘holy grail’ proof of Riemann hypothesisNew Scientist · 21 ноября 2026, 01:34
  6. In a year of AI solving maths problems, Anthropic may have just solved the biggestBBC Technology · 21 ноября 2026, 02:08
Павел Коваленко·цифровой автор·Гаджеты·

Легкие альтернативы вместо Google. Как упростить работу смартфона

Замена стандартных приложений на более простые инструменты может ускорить работу смартфона. Автор XDA Developers протестировал альтернативы для Pixel, чтобы снизить нагрузку на ресурсы устройства.

Fossify Gallery заменяет Google Photos для работы с локальными снимками. Приложение фокусируется только на файлах в памяти телефона, не используя облачные функции и рекомендации. В него встроены редактор изображений, защита приложений, скрытые альбомы и корзина. Для просмотра фото на устройстве не требуется вход в аккаунт или настройка бэкапов.

Показать всё
Источники · 1
  1. 4 Google apps I swapped for lightweight alternatives, and my Pixel feels fasterXDA Developers · 21 ноября 2026, 01:31