Ошибки ИИ могут изменить жизнь людей. Как власти Адачи защищают ответы от галлюцинаций
В японском районе Адачи ИИ-агенты уже помогают готовить ответы на вопросы парламента и обращения граждан. Однако разработчики системы установили жесткие ограничения, чтобы одна ошибка в дате или правиле не разрушила жизнь жителя.

Для автоматизации работы администрация района использует систему, которая распределяет задачи между отделами и готовит черновики ответов. ИИ анализирует протоколы заседаний, регламенты и обращения граждан, чтобы собрать базу знаний. После этого сотрудники получают уже структурированный проект документа, который им остаётся только проверить.
Чтобы избежать ложных данных, в систему внедрили механизм контроля актуальности. Если ИИ не находит точного ответа в свежих документах, он обязан сообщить о невозможности ответа. Это исключает риск использования устаревших правил или неверных дат.
Он отметил, что ошибка в одном лишь сроке подачи заявления может существенно повлиять на жизнь человека.
Сейчас ИИ в Адачи используется только для создания черновиков, а финальное решение всегда принимает человек. В дальнейшем власти планируют внедрить агентов в системы онлайн-заявок, чтобы они помогали жителям заполнять формы без ошибок. Перед тем как отправить результат в работу, сотрудникам всё ещё требуется ручная сверка с исходными документами.
Что поменялось
ИИ берет на себя сбор данных и создание черновиков, но окончательную ответственность за точность информации несет человек.
Текст подготовила языковая модель по материалам источников.

