Параллельный опрос источников может замедлить систему
Вместо последовательного обхода сервисы используют паттерн Scatter/Gather, чтобы забирать данные из нескольких источников одновременно. Это сокращает время ожидания пользователя, но делает скорость всей системы зависимой от самого медленного узла.
Паттерн работает по принципу рассылки запросов всем источникам сразу с последующей сборкой ответов в один результат. Если пять источников отвечают по 300 мс, то при параллельном опросе пользователь получит ответ через 300 мс вместо полутора секунд. В отличие от репликации или шардирования, этот метод не увеличивает пропускную способность и не помогает хранить больше данных, а лишь ускоряет обработку конкретного запроса.
Параллельность создаёт риск зависимости от отстающего источника. Если один узел из пяти отвечает медленно, вся система будет ждать его завершения. При росте числа источников вероятность задержки растёт.
Если каждый источник тормозит лишь в 1% случаев, то при запросе к пяти узлам задержка случится уже в 5% случаев. При сотне источников медленный ответ станет регулярным событием, даже если вероятность сбоя одного узла крайне мала.
Добавление новых узлов требует ресурсов на сетевой обмен и сборку данных. В какой-то момент рост числа источников перестаёт приносить пользу и начинает работать против системы из-за накладных расходов. Это превращает редкие задержки в постоянную проблему для пользователя.
Для проектирования сложных интеграций важно учитывать вероятность задержек на каждом узле, так как именно самый медленный источник определит итоговое время ответа.
Что поменялось
Скорость системы при параллельном опросе становится равной скорости самого медленного источника.
Источники · 1
Текст подготовила языковая модель по материалам источников.
