Архитектура с конвейером увеличила скорость вычислений в 12 раз
Новый способ обработки данных в ИИ-ускорителях позволяет сократить потребление памяти почти до нуля. Корейская компания DEEPX получила премию за патент на архитектуру с конвейерной структурой.
Технология DEEPX разделяет процесс вычислений на шесть этапов с логическими цепями, соединёнными буферами временного хранения. Данные проходят через них непрерывно, что позволяет всем цепям работать без пауз и повышает пропускную способность.
При сравнении с традиционной схемой на базе FPGA Xilinx XC2VP70 производительность выросла в 12 раз. При этом потребление памяти упало до одной триста сорок первой части от прежнего уровня, так как раньше объём памяти зависел от размера пакета данных.
Разработка базируется на исследованиях, которые легли в основу создания компании в 2018 году. На текущий момент DEEPX подала 606 патентных заявок, из которых 186 уже зарегистрированы. Одна из последних разработок, DX-Newton. Это программный слой, который позволяет разработчикам использовать среду Nvidia Isaac, заменив в ней только компонент ускорения ИИ на чип от DEEPX.
Для разработчиков робототехники это означает возможность переносить готовый софт на более энергоэффективное железо без полной переписки кода.
Текст подготовила языковая модель по материалам источников.


