Microchip выпустила VectorBlox 3.0 для локального ИИ на FPGA
Microchip обновила набор VectorBlox для запуска нейросетей на FPGA и SoC PolarFire. Версия 3.0 использует разреженность моделей, чтобы пропускать лишние вычисления и уменьшать расход памяти.
Большинство нейросетей выполняют огромное количество операций, часть которых фактически не влияет на результат. После оптимизации многие веса модели становятся равны нулю, но обычный ускоритель всё равно может продолжать тратить на них время и энергию.
VectorBlox 3.0 умеет распознавать такие участки и пропускать операции с нулевыми значениями. Microchip называет этот подход поддержкой разреженных нейронных сетей.
В результате уменьшаются:
- количество выполняемых вычислений;
- объём передаваемых данных;
- требования к памяти;
- энергопотребление при постоянной работе нейросети.
SDK предназначен для FPGA и SoC семейства PolarFire. На одном устройстве можно разместить несколько задач, например распознавание объектов, анализ изображения и обработку данных от датчиков.
VectorBlox включает инструменты оптимизации, компиляции и развёртывания свёрточных нейронных сетей. Комплект работает совместно с CoreVectorBlox IP и средой Libero SoC Design Suite.
Microchip ориентирует платформу на устройства, где облачная обработка невозможна или нежелательна: промышленное оборудование, камеры, автономные системы, спутники и аппаратуру с ограниченным питанием.
Компания приводит примеры использования PolarFire для обработки спутниковых снимков непосредственно на орбите. Система может обнаруживать объекты, анализировать облачность и выбирать полезные данные до их передачи на Землю.
VectorBlox SDK 3.0 и CoreVectorBlox IP доступны разработчикам бесплатно.
Комментарии (0)