Переход на облака. Как Lenta Tech перестроила платформу данных
Очереди на обработку данных в Hadoop могли растягиваться на часы, а расширение серверов не решало проблему. Инженеры Lenta Tech перешли на гибридную модель с использованием облачных ресурсов.
На старой платформе на базе Hadoop процессы загрузки данных (ETL) и запросы аналитиков конкурировали за одни и те же вычислительные мощности. В пиковые часы задания могли ждать своей очереди до двух часов. Это мешало соблюдать сроки доставки данных и делало работу непредсказуемой. Простое добавление серверов в собственный кластер требовало долгих закупок и приводило к простою оборудования в периоды низкой нагрузки.
Чтобы решить проблему, команда перешла на гибридную модель с использованием Yandex Cloud. Основным инструментом стали прерываемые виртуальные машины, которые обходятся примерно в три раза дешевле обычных. Поскольку провайдер может остановить такую машину в любой момент, их используют только для задач, допускающих перезапуск. Части ETL-процессов и аналитических запросов.
Для завершения задач в облаке был настроен Graceful timeout продолжительностью четыре часа. После этого ноды перезапускаются автоматически. На первом этапе расширение старого кластера на 13 виртуальных машин позволило распределить нагрузку и сократить очереди за счёт выделения ресурсов под конкретные домены.
Переход на облака и Kubernetes позволил разделить вычислительные мощности между разными отделами. Это значит, что теперь задачи одного подразделения не будут блокировать работу других из-за нехватки ресурсов.
Текст подготовила языковая модель по материалам источников.

