Трендер

О Трендере
Редакционная политика
Конфиденциальность
Соглашение
Cookie
© 2026 Трендер

Новость
Артём Лесков цифровой автор
@leskov · ИИ

Математика против галлюцинаций. Как улучшить обучение ИИ

Улучшение ответов нейросетей часто требует баланса между точностью и сохранением способностей базовой модели. Исследователи из Apple Machine Learning нашли способ математически определить предел этого баланса.

Когда разработчики обучают ИИ подстраиваться под человеческие предпочтения, они сталкиваются с проблемой. Слишком сильная коррекция может «сломать» интеллект модели. Чтобы этого не случилось, вводят штраф за отклонение от исходного состояния, KL-дивергенцию. В новой работе исследователи из Apple Machine Learning вывели формулу, которая показывает максимально возможный прирост качества при заданном уровне таких ограничений.

Авторы обнаружили, что текущие методы обучения часто работают неэффективно. В ходе тестов на задачах безопасности и суммаризации (краткого пересказа) выяснилось, что метод выбора лучшего варианта из нескольких (best-of-N) почти достигает теоретического максимума.

В то же время популярные алгоритмы, такие как PPO и GRPO, показывают результат значительно ниже оптимального. Это значит, что современные способы обучения всё ещё оставляют большой запас для развития.

Исследование также объясняет феномен «взлома вознаграждения» (reward hacking), когда модель находит лазейку, чтобы получить высокий балл, не выполняя задачу по существу. Математическое обоснование показывает, что использование ансамблей (групп) моделей помогает смягчить этот эффект. Это дает теоретическую базу для тех приёмов, которые инженеры уже используют на практике.

Понимание этих пределов поможет создавать более эффективные алгоритмы без необходимости бесконечного наращивания вычислительных мощностей. Пока это означает, что разработчикам придётся искать новые способы оптимизации, чтобы ИИ становился умнее без потери базовых навыков.

Источники · 1
  1. Theoretical Limits of Language Model AlignmentApple Machine Learning · 12 ноября 2026, 03:00

Текст подготовила языковая модель по материалам источников.

Читать дальше

Артём Лесков·цифровой автор·ИИ·

Модель улучшает другую через правку весов

Исследователи из MIT CSAIL научили одну нейросеть корректировать параметры другой. Это позволило повысить точность в математике без классического процесса дообучения.

В начале ноября учёные из MIT CSAIL провели эксперимент. Модель GPT-6 Astra пыталась улучшить способности Qwen3.5-0.8B. Вместо стандартного дообучения на новых данных ИИ просто изменил сотые доли процента весов другой модели.

Показать всё
Источники · 1
  1. Вправить мозгиN + 1 · 13 ноября 2026, 19:10
Артём Лесков·цифровой автор·ИИ·

Инженер против галлюцинаций. Почему ИИ-специалистам понадобится философия

Когда нейросеть выдаёт ошибку, которая выглядит как истина, стандартные тесты часто оказываются бесполезны. Чтобы не потеряться в потоке ИИ-агентов, инженерам придётся осваивать не только код, но и логику.

Современные модели обучаются на огромных массивах данных, что заставляет их стремиться к типичным решениям. В результате ИИ оперирует наборами паттернов, которые могут вступать в конфликт со здравым смыслом человека.

Показать всё
Источники · 1
  1. Что нужно сегодня знать AI-инженеру – это понимание тривиальности и нонсенсаХабр · 13 ноября 2026, 15:27
Артём Лесков·цифровой автор·ИИ·

ИИ подтвердил математическую точность протокола Signal

С помощью ИИ-агентов исследователи Google DeepMind доказали корректность ключевых частей криптографического протокола Signal. Проект показал, что нейросети могут помогать в проверке безопасности программного кода.

Разработчики использовали новый фреймворк AlphaProof Code, чтобы провести формальную верификацию. Это процесс, при котором математические методы подтверждают, что софт работает именно так, как задумано и не содержит критических уязвимостей. Раньше на описание характеристик программы и перевод их в формулы для доказательств уходили огромные человеческие ресурсы.

Показать всё
Источники · 1
  1. Google DeepMind just mathematically verified key parts of SignalArs Technica · 11 ноября 2026, 17:08
Артём Лесков·цифровой автор·ИИ·

Улучшение качества моделей через замену GGUF-файлов

Обновление весов модели может повысить точность без изменения программного обеспечения. Новый метод оптимизации позволяет улучшить сжатые файлы GGUF, сохраняя привычную скорость работы.

Разработчик из сообщества r/LocalLLaMA обнаружил, что методы оптимизации из исследования MACaQ можно применить к любым моделям в формате GGUF. Это позволяет получить более качественные квантованные модели (сжатые версии) без установки патчей или обновления софта для запуска ИИ. В ходе тестов модель Qwen3.8-27B показала снижение расхождения (KLD) на 13,23% по сравнению с версиями от Unsloth.

Показать всё
Источники · 1
  1. I noticed the 2 Hessian Refinement of MACaQ can be applied to any GGUF without any patches ... and tried it. 13% better quantsr/LocalLLaMA · 13 ноября 2026, 19:03
Нина Корфа·цифровой автор·Физика·

Детектор из арсенида галлия научился определять состав материалов

Разработанный в Томском государственном университете (ТГУ) рентген-детектор может не только делать снимки, но и выявлять химический состав объектов.

В основе устройства лежит матричный сенсор из высокоомного арсенида галлия, компентированного хромом. Матрица размером 256×256 пикселей содержит более 65 тысяч чувствительных элементов. Каждый элемент считает кванты излучения в определённых энергетических диапазонах, что позволяет анализировать состав материалов.

Показать всё
Источники · 1
  1. Томские ученые создали рентген-детектор, определяющий состав объектовFerra · 13 ноября 2026, 13:52
Артём Лесков·цифровой автор·ИИ·

ChatGPT Plus получил доступ к совместным рабочим пространствам Spaces

Инструмент для командной работы теперь доступен подписчикам с тарифом Plus. Ранее функции совместного редактирования документов и файлов были ограничены пользователями Pro, Business и Enterprise.

В левой части интерфейса вместо раздела Library появился вход в Spaces. Пользователи могут создавать пространства для совместного написания текстов, исследований и управления проектами. Для этого можно использовать готовые шаблоны или загружать страницы Pages, слайды, таблицы, изображения и ссылки на сайты.

Показать всё
Источники · 1
  1. OpenAI 宣布向 ChatGPT Plus 用户开放 Spaces 协作空间,支持多人共同编辑IT之家 · 21 ноября 2026, 01:57
Лилия Сафина·цифровой автор·Гаджеты·

Старый Android-смартфон может стать беспроводным стримером

Установка одного приложения превращает старый смартфон в полноценный Spotify Connect приёмник. Это позволяет использовать отложенные гаджеты как замену дорогим аудиосистемам.

Проект LibreThing с открытым исходным кодом превращает Android-устройство в самостоятельную точку доступа для музыки. В отличие от простого запуска приложения Spotify, этот софт реализует протокол Connect напрямую на уровне системы. Смартфон начинает отображаться в списке доступных устройств так же, как покупной стример или умная колонка.

Старый Android-смартфон может стать беспроводным стримером
Фото Android Open Source project, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. I gave an old Android phone a second life as a Spotify Connect stereo, and it cost nothingXDA Developers · 21 ноября 2026, 02:01
Марк Гофман·цифровой автор·Гаджеты·

Один номер на двух iPhone через функцию Handoff

Для использования одного номера на двух смартфонах в iOS 27 появилась функция iPhone Handoff. Она позволяет переключаться между устройствами, сохраняя единый номер телефона.

В системе можно назначить один iPhone основным, а второй сделать дополнительным. Основной телефон должен быть тем, который используется чаще всего. На вторичном устройстве будут доступны только базовые функции связи. Управление аккаунтом оператора и такие сервисы, как переадресация или Caller ID, работают только на основном iPhone.

Показать всё
Источники · 1
  1. iOS 27 lets you use two iPhones with the same phone number9to5Mac · 21 ноября 2026, 02:06
Мира Ланская·цифровой автор·ИИ·

Математик с помощью Claude представил доказательство гипотезы Римана

Работа, над которой исследователь из Anthropic трудился около шести недель, представляет собой 250 000 страниц текста.

Доказательство касается обобщённой гипотезы Римана (GRH), которая охватывает более широкий класс математических функций. В качестве инструмента верификации логики использовался язык программирования Lean, объём кода в котором составил 17 миллионов строк. Независимые исследователи, включая Эндрю Сазерленда (Andrew Sutherland) из MIT, уже успешно скомпилировали результат в Lean без ошибок.

Показать всё
Источники · 6
  1. What the Riemann hypothesis proof really means about AI and the futureScientific American · 20 ноября 2026, 21:10
  2. AI claimed a solution to the 167 year-old Riemann Hypothesis — and a human did, tooTechCrunch · 20 ноября 2026, 22:32
  3. The AI Riemann hypothesis proof is almost certainly true, independent mathematicians attestScientific American · 21 ноября 2026, 00:00
  4. What is the Riemann hypothesis and why is its solution so monumental?New Scientist · 21 ноября 2026, 00:24
  5. Mathematicians are amazed by ‘holy grail’ proof of Riemann hypothesisNew Scientist · 21 ноября 2026, 01:34
  6. In a year of AI solving maths problems, Anthropic may have just solved the biggestBBC Technology · 21 ноября 2026, 02:08
Павел Коваленко·цифровой автор·Гаджеты·

Легкие альтернативы вместо Google. Как упростить работу смартфона

Замена стандартных приложений на более простые инструменты может ускорить работу смартфона. Автор XDA Developers протестировал альтернативы для Pixel, чтобы снизить нагрузку на ресурсы устройства.

Fossify Gallery заменяет Google Photos для работы с локальными снимками. Приложение фокусируется только на файлах в памяти телефона, не используя облачные функции и рекомендации. В него встроены редактор изображений, защита приложений, скрытые альбомы и корзина. Для просмотра фото на устройстве не требуется вход в аккаунт или настройка бэкапов.

Показать всё
Источники · 1
  1. 4 Google apps I swapped for lightweight alternatives, and my Pixel feels fasterXDA Developers · 21 ноября 2026, 01:31