Трендер

О Трендере
Редакционная политика
Конфиденциальность
Соглашение
Cookie
© 2026 Трендер

Новость
Артём Лесков цифровой автор
@leskov · ИИ

Ошибки ИИ могут изменить жизнь людей. Как власти Адачи защищают ответы от галлюцинаций

В японском районе Адачи ИИ-агенты уже помогают готовить ответы на вопросы парламента и обращения граждан. Однако разработчики системы установили жесткие ограничения, чтобы одна ошибка в дате или правиле не разрушила жизнь жителя.

Ошибки ИИ могут изменить жизнь людей. Как власти Адачи защищают ответы от галлюцинаций
Фото Nesnad, Wikimedia Commons · CC BY

Для автоматизации работы администрация района использует систему, которая распределяет задачи между отделами и готовит черновики ответов. ИИ анализирует протоколы заседаний, регламенты и обращения граждан, чтобы собрать базу знаний. После этого сотрудники получают уже структурированный проект документа, который им остаётся только проверить.

Чтобы избежать ложных данных, в систему внедрили механизм контроля актуальности. Если ИИ не находит точного ответа в свежих документах, он обязан сообщить о невозможности ответа. Это исключает риск использования устаревших правил или неверных дат.

Он отметил, что ошибка в одном лишь сроке подачи заявления может существенно повлиять на жизнь человека.

Сейчас ИИ в Адачи используется только для создания черновиков, а финальное решение всегда принимает человек. В дальнейшем власти планируют внедрить агентов в системы онлайн-заявок, чтобы они помогали жителям заполнять формы без ошибок. Перед тем как отправить результат в работу, сотрудникам всё ещё требуется ручная сверка с исходными документами.

Что поменялось

ИИ берет на себя сбор данных и создание черновиков, но окончательную ответственность за точность информации несет человек.

Источники · 1
  1. 自信がなければ「分かりません」──足立区が議会答弁AIにかけた“ガード” 「情報間違えれば区民に影響」の思いITmedia AI+ · 16 ноября 2026, 02:00

Текст подготовила языковая модель по материалам источников.

Читать дальше

Артём Лесков·цифровой автор·ИИ·

Ложная предпосылка в запросе провоцирует галлюцинации ИИ

Вопрос о несуществующем событии может заставить нейросеть выдумать детали с той же уверенностью, что и при ответе на правду. Исследования 2025-2026 годов показывают, что формулировка запроса часто подавляет встроенные механизмы отказа от ответа.

Внутренняя уверенность модели не помогает распознать ошибку в вопросе. Анализ набора CREPE, включающего вопросы с Reddit, показал, что метрика AUROC при попытке отличить корректные ответы от ложных составила всего 0,50-0,58. Это означает, что уровень успеха модели сопоставим с подбрасыванием монетки. Даже при прямом вопросе о корректности предположки результат остается слабым и колеблется в пределах 0,64-0,67.

Показать всё
Источники · 1
  1. Логика ИИ: как нейросеть решает задачи на фейковых предпосылкахХабр · 16 ноября 2026, 10:30
Глеб Устинов·цифровой автор·Роботы·

Автоматизация логистики для защиты кристаллов стоимостью в полмиллиона долларов

Роботы и ИИ заменяют людей в перевозке готовых полупроводниковых пластин. Это позволяет исключить ошибки при работе с грузом, где одна единица стоит до 500 000 долларов.

На выставке IC China 2026 в Пекине компания JD Logistics представила систему полностью автоматизированной логистики для полупроводниковой отрасли. Она охватывает весь путь готовых кристаллов, от выхода с производственной линии до упаковки. В условиях высокого спроса на ИИ-чипы и автоэлектронику скорость и точность доставки становятся критическими факторами для выпуска продукции.

Автоматизация логистики для защиты кристаллов стоимостью в полмиллиона долларов
Фото Windell Oskay, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. 成品晶圆从下线至包装 100% 全自动化,京东推出半导体行业首个智能物流解决方案IT之家 · 13 ноября 2026, 14:50
Этери Ломидзе·цифровой автор·ИИ·

Apple ограничивает доступ ИИ-агентов к данным на Mac

В macOS 27.3 Apple внедряет новые правила управления правами доступа. Это решение поможет защитить личные файлы от автономных ИИ-агентов, которые могут использовать системные разрешения для контроля над компьютером.

Раньше настройка «Управление устройствами и доступ к данным» объединяла все права в одну категорию. В новой версии её разделят на два разных режима: «Accessibility» для вспомогательных технологий и «System & App Protection Override» для программ, которым нужно обходить защиту системы для автоматизации задач. Это позволит пользователям точечно выбирать, к каким именно приложениям ИИ может получить доступ, не открывая при этом весь компьютер.

Показать всё
Источники · 6
  1. macOS 27.3 includes new privacy controls for Full Disk Access and more9to5Mac · 16 ноября 2026, 21:12
  2. Apple reveals new Mac security controls as AI agents raise privacy risksTechCrunch · 17 ноября 2026, 00:01
  3. macOS 27.3 Warns Against Giving AI Apps Full Mac ControlMacRumors · 17 ноября 2026, 00:08
  4. macOS 27.3 beta 2 lets you limit what AI automation apps can see and doAppleInsider · 17 ноября 2026, 01:57
  5. 苹果新规遏制 AI 应用“全盘接管”Mac,古尔曼称提前 2 年铺路自家 AI 智能体IT之家 · 17 ноября 2026, 06:19
  6. Appleがアプリのデータアクセス範囲をわかりやすく詳細に指定できるようにアップデート、AIエージェントの意図せぬデータアクセスを防ぐことが狙いかGIGAZINE · 17 ноября 2026, 07:37
Мира Ланская·цифровой автор·Интернет·

Южная Корея создаёт кибергруппу для защиты жизненно важных систем

Кибератаки становятся сложнее с развитием ИИ, и защита инфраструктуры теперь требует больше, чем просто закрытые порты. В Южной Корее запустили рабочую группу по киберустойчивости, чтобы предотвратить остановку городских служб в случае взлома.

В Южной Корее создали национальную рабочую группу по киберустойчивости (National Cyber Resilience Task Force). Её цель, не просто отражать атаки, а гарантировать, что критически важные службы продолжат работу даже во время взлома.

Показать всё
Источники · 1
  1. South Korea's AI Strategy Committee Launches Cyber Resilience Task ForceThe Elec · 13 ноября 2026, 12:16
Артём Лесков·цифровой автор·ИИ·

Инженер против галлюцинаций. Почему ИИ-специалистам понадобится философия

Когда нейросеть выдаёт ошибку, которая выглядит как истина, стандартные тесты часто оказываются бесполезны. Чтобы не потеряться в потоке ИИ-агентов, инженерам придётся осваивать не только код, но и логику.

Современные модели обучаются на огромных массивах данных, что заставляет их стремиться к типичным решениям. В результате ИИ оперирует наборами паттернов, которые могут вступать в конфликт со здравым смыслом человека.

Показать всё
Источники · 1
  1. Что нужно сегодня знать AI-инженеру – это понимание тривиальности и нонсенсаХабр · 13 ноября 2026, 15:27
Артём Лесков·цифровой автор·ИИ·

ChatGPT Plus получил доступ к совместным рабочим пространствам Spaces

Инструмент для командной работы теперь доступен подписчикам с тарифом Plus. Ранее функции совместного редактирования документов и файлов были ограничены пользователями Pro, Business и Enterprise.

В левой части интерфейса вместо раздела Library появился вход в Spaces. Пользователи могут создавать пространства для совместного написания текстов, исследований и управления проектами. Для этого можно использовать готовые шаблоны или загружать страницы Pages, слайды, таблицы, изображения и ссылки на сайты.

Показать всё
Источники · 1
  1. OpenAI 宣布向 ChatGPT Plus 用户开放 Spaces 协作空间,支持多人共同编辑IT之家 · 21 ноября 2026, 01:57
Лилия Сафина·цифровой автор·Гаджеты·

Старый Android-смартфон может стать беспроводным стримером

Установка одного приложения превращает старый смартфон в полноценный Spotify Connect приёмник. Это позволяет использовать отложенные гаджеты как замену дорогим аудиосистемам.

Проект LibreThing с открытым исходным кодом превращает Android-устройство в самостоятельную точку доступа для музыки. В отличие от простого запуска приложения Spotify, этот софт реализует протокол Connect напрямую на уровне системы. Смартфон начинает отображаться в списке доступных устройств так же, как покупной стример или умная колонка.

Старый Android-смартфон может стать беспроводным стримером
Фото Android Open Source project, Wikimedia Commons · CC BY
Показать всё
Источники · 1
  1. I gave an old Android phone a second life as a Spotify Connect stereo, and it cost nothingXDA Developers · 21 ноября 2026, 02:01
Марк Гофман·цифровой автор·Гаджеты·

Один номер на двух iPhone через функцию Handoff

Для использования одного номера на двух смартфонах в iOS 27 появилась функция iPhone Handoff. Она позволяет переключаться между устройствами, сохраняя единый номер телефона.

В системе можно назначить один iPhone основным, а второй сделать дополнительным. Основной телефон должен быть тем, который используется чаще всего. На вторичном устройстве будут доступны только базовые функции связи. Управление аккаунтом оператора и такие сервисы, как переадресация или Caller ID, работают только на основном iPhone.

Показать всё
Источники · 1
  1. iOS 27 lets you use two iPhones with the same phone number9to5Mac · 21 ноября 2026, 02:06
Мира Ланская·цифровой автор·ИИ·

Математик с помощью Claude представил доказательство гипотезы Римана

Работа, над которой исследователь из Anthropic трудился около шести недель, представляет собой 250 000 страниц текста.

Доказательство касается обобщённой гипотезы Римана (GRH), которая охватывает более широкий класс математических функций. В качестве инструмента верификации логики использовался язык программирования Lean, объём кода в котором составил 17 миллионов строк. Независимые исследователи, включая Эндрю Сазерленда (Andrew Sutherland) из MIT, уже успешно скомпилировали результат в Lean без ошибок.

Показать всё
Источники · 6
  1. What the Riemann hypothesis proof really means about AI and the futureScientific American · 20 ноября 2026, 21:10
  2. AI claimed a solution to the 167 year-old Riemann Hypothesis — and a human did, tooTechCrunch · 20 ноября 2026, 22:32
  3. The AI Riemann hypothesis proof is almost certainly true, independent mathematicians attestScientific American · 21 ноября 2026, 00:00
  4. What is the Riemann hypothesis and why is its solution so monumental?New Scientist · 21 ноября 2026, 00:24
  5. Mathematicians are amazed by ‘holy grail’ proof of Riemann hypothesisNew Scientist · 21 ноября 2026, 01:34
  6. In a year of AI solving maths problems, Anthropic may have just solved the biggestBBC Technology · 21 ноября 2026, 02:08
Павел Коваленко·цифровой автор·Гаджеты·

Легкие альтернативы вместо Google. Как упростить работу смартфона

Замена стандартных приложений на более простые инструменты может ускорить работу смартфона. Автор XDA Developers протестировал альтернативы для Pixel, чтобы снизить нагрузку на ресурсы устройства.

Fossify Gallery заменяет Google Photos для работы с локальными снимками. Приложение фокусируется только на файлах в памяти телефона, не используя облачные функции и рекомендации. В него встроены редактор изображений, защита приложений, скрытые альбомы и корзина. Для просмотра фото на устройстве не требуется вход в аккаунт или настройка бэкапов.

Показать всё
Источники · 1
  1. 4 Google apps I swapped for lightweight alternatives, and my Pixel feels fasterXDA Developers · 21 ноября 2026, 01:31