Технология MEXT позволит заменить часть оперативной памяти на SSD
Серверы могут стать в разы дешевле за счёт замены дорогих модулей памяти на обычные накопители. AMD тестирует решение MEXT, которое использует ИИ для управления данными между DRAM и флеш-памятью.

Стоимость оперативной памяти может составлять до 90% от цены сервера. Чтобы решить проблему дороговизны, AMD приобрела технологию MEXT. Она позволяет выгружать редко используемые страницы памяти на быстрые NVMe-накопители. По данным исследования Meta, от 50% до 80% страниц памяти остаются невостребованными по несколько минут.
Для современных процессоров это слишком долгий простой. MEXT переносит данные на флеш-память, которая в 50 раз дешевле и потребляет в 30 раз меньше энергии.
Главная проблема флеш-памяти, она в 500 раз медленнее оперативной. Чтобы система не тормозила, используется ИИ-модель на базе архитектуры трансформеров. Она предсказывает, какие данные понадобятся системе в следующую секунду, и заранее возвращает их в DRAM.
Обучение модели происходит на ядрах процессора Epyc менее чем за одну секунду. Это позволяет системе подстраиваться под конкретные задачи на лету. В виртуальных средах для работы ПО нужно выделять одно ядро на каждую виртуальную машину.
Результаты тестов показывают разную эффективность. При использовании только 25% объема DRAM и 75% флеш-памяти производительность сохраняется на уровне 80%. В задачах вроде Apache Spark потери составляют всего 1%.
Для инженерного ПО (EDA) при переносе половины данных на флеш-память система сохраняет 95% скорости. В реальности это значит, что можно собирать мощные серверы с меньшим количеством дорогостоящих модулей памяти без критической потери мощности.
Что поменялось
Технология позволяет заменить часть дорогой оперативной памяти на более дешевые NVMe-накопители с помощью ИИ-прогнозирования без катастрофической потери скорости.
· обновлено, версия 7
Текст подготовила языковая модель по материалам источников.


