Intel movidius myriad linux driver

Basic Installation and Configuration

This page provides guidance for installing the Intel® Movidius™ Neural Compute SDK (Intel® Movidius™ NCSDK).

Prerequisites

• Compatible neural compute device (like the Intel® Movidius™ Neural Compute Stick)
• Git
• Development computer with a supported OS:
  • x86-64 with Ubuntu (64 bit) 16.04 Desktop
  • Raspberry Pi 3 with Raspbian Stretch (starting with SDK 1.09.xx)
    • Upgrade Raspbian Jessie to Stretch
  • Other operating environments (with supported OS):
    • Virtual Machine
    • Docker
    • Python virtualenv
  • Internet connection
  • USB camera (optional, needed for some examples)

Installation

To perform the typical installation of the NCSDK, use the following command on your host machine:

The -b ncsdk2 option checks out the latest version of NCSDK 2 from the ncsdk2 branch. If you omit this option you will install the NCSDK version on the master branch, which is currently NCSDK 1.x.

Warning: Upgrading from NCSDK 1.x to NCSDK 2.x If you currently have NCSDK 1.x installed and you are installing NCSDK 2.x, the Neural Compute API (NCAPI) will be upgraded from v1 to v2. NCAPI v2 is not backwards-compatible with NCAPI v1 (i.e. programs written with NCAPI v1 will not compile or run with NCAPI v2). However, all of your NCAPI v1 files will be moved to /opt/movidius/ncsdk1.

For more information about NCAPI changes, see the Neural Compute API overview.

Raspberry Pi Installation

We recommend a 16GB SD card for a full NCSDK installation.

You will likely need to increase the swapfile size on the Raspberry Pi in order to successfully complete NCSDK and/or OpenCV installation. To increase the swapfile size, edit the value of CONF_SWAPSIZE in /etc/dphys-swapfile:

The default value is 100 (MB). We recommend that you change this to 1024 (MB) or greater.

Then restart the swapfile service:

Proceed with installation as shown above. After you have installed the NCSDK (and optionally OpenCV), you should change the swapfile size back to 100 MB.

Uninstallation

To uninstall the NCSDK, type the following command:

Источник

Использование Intel Movidius для нейронных сетей

Введение

Мы занимаемся разработкой глубоких нейронных сетей для анализа фото, видео и текстов. В прошлом месяце мы купили для одного из проектов очень интересную штуковину:
Intel Movidius Neural Compute Stick.

Это специализированное устройство для нейросетевых вычислений. По сути, внешняя видеокарточка, заточенная под нейронные сети, очень компактная и недорогая (

$83). Первыми впечатлениями от работы с Movidius’ом мы и хотим поделиться. Всех заинтересовавшихся прошу под кат.

Вычислительные мощности устройства

В плане вычислений нейронки чрезвычайно прожорливы: для их обучения нужны GPU, а для использования в реальных задачах – тоже GPU или мощные CPU. Movidius NCS позволяет использовать глубокие нейросети на устройствах, которые были первоначально на это не рассчитаны, например: Raspberry Pi, DJI Phantom 4, DJI Spark. Речь идёт только про этап предсказания (inference заранее обученной сети): обучение нейросетей на Movidius пока что не поддерживается.

Производительность чипа – около 100 гигафлопс, 10^9 FLOPS, (это примерно соответствует уровню топовых суперкомпьютеров начала 90ых, сейчас это порядка сотен петафлопс, 10^15).

Для справки: FLOPS – это количество вычислительных операций или инструкций, выполняемых над операндами с плавающей точкой (FP) в секунду. Для углубления в тему советую интеловскую статью.

Железка построена на базе чипа Myriad 2. В конфигурацию Myriad 2 входит 12 специализированных программируемых векторных процессоров. Компоненты SoC подключены к высокоскоростному внутреннему соединению, работающему с минимальными задержками. Myriad 2 позиционируется как сопроцессор совместно с процессором приложений в мобильных устройствах, или как автономный процессор в устройствах носимой или встраиваемой электроники.

Сам процессор Myriad 2

Ну а в форм-факторе флешки (Neural Compute Stick) его можно использовать для встраивания нейросетей в беспилотники, например, вместе с Raspberry Pi.

Приступим к установке и запуску первой программы на NCS

Что нам понадобится

Подготовка

Подключаем Movidius в разъем USB 3.0. Далее пишем в консоли:

Эти команды установят:

• NCS Libraries → /usr/local/lib
• NCS Toolkit binaries → /usr/local/bin
• NCS Include files → /usr/local/include
• NCS Python API → /opt/movidius

А также добавят путь к python-либе Мовидиуса в PYTHONPATH.

Запустим пример

В той же папке выполним команду для построения примеров:

Чтобы подготовить стандартный пример – обученную на ImageNet реализацию inception_v1 – выполним следующие команды:

Последняя команда использует описание сетки и уже обученные веса и компилирует бинарный граф, который мы можем потом уже запустить на Myriad 2 VPU.

Теперь мы запустим тестовый скрипт run.py. Коротко расскажу, что происходит в скрипте в целом (некоторые части скрипта опущены):

Когда мы собирали пример, мы вводили в консоль команду make all, после которой в консоль выводилась полезная информация, например, можно увидеть, как быстро данные проходят через каждый слой сети с помощью Detailed Per Layer Profile. Полезная для отладки и оптимизации штука.

Тестовая картинка загрузится на NCS, пройдёт через Inception, и в консоли отобразится результат распознавания (вероятностное распределение по 1000+1 категории датасета ImageNet).

99% уверенностью полагает, что на картинке компьютерная мышь (благодаря нашей подсказке 🙂 ), на втором месте с близкой к 0% уверенности – модем, и так далее. Сетка права, так что поздравляем вас с первой нейронкой, успешно запущенной на этом устройстве!

Заключение

В конце хотелось бы перечислить главные достоинства и недостатки устройства.

Сперва плохие новости:

• Устройство официально поддерживает работу только с Raspbian OS или Ubuntu 16.04 LTS.
• Устройство и его SDK на данный момент поддерживают только файлы с весами нейросетей в формате Caffe и Tensorflow.
• На устройстве можно делать только предсказания (inference), а обучать модели нельзя.

Хорошие новости:

• Вы можете запускать нейронки на Raspberry Pi!
• Очень простой API на python/C.
• Низкая потребляемая мощность (1 Вт), устройство питается от USB.
• Очень быстрый для такого компактного устройства: например, препроцессинг фотографии

800х800 и прогон её через Inception_v1 занимают

120-130 миллисекунд.

Есть коллекция уже готовых для запуска open-source моделей (так называемый Model Zoo).

Интересно, что вы можете подключить сразу несколько NCS, которые прямо из коробки будут работать в параллельном режиме. Впрочем, мы это пока не тестировали.

Так Intel предлагает использовать Мовидиусы для ускорения вычислений

Само собой, у данного устройства есть аналоги.

Один из них – и пока самый многообещающий – это Gyrfalcon Technology Laceli, имеющий производительность в 28 раз больше, а энергетическую эффективность в 90 раз выше. Единственное препятствие для покупки – это то, что устройство ещё не вышло на рынок.

Еще один конкурент, который давно присутствует на рынке – это NVIDIA Jetson TX2. Отличия:

• Очень разные ценовые категории (559$ против 83$)
• Разные мощности (два ядра CPU на архитектуре Denver 2, четыре ядра ARM Cortex A57 и 256-ядерный Pascal GPU против одного Myriad 2)
• Разный форм-фактор: Jetson гораздо больше, NCS компактный
• Оба устройства решают одну и ту же задачу – задачу внедрения нейронок на борт чего-либо: автомобиля, беспилотника и пр.

Если интересно, напишем в ближайшем будущем еще одну статью про использование Jetson TX2 для нейронных сетей. Спасибо за внимание и хорошего дня)

P. S. Intel объявил о старте конкурса по оптимизации нейросетей для Intel Movidius Neural Compute Stick. Регистрация до 26 января, окончание конкурса – 15 марта.

Источник

Intel movidius myriad linux driver

Intel® Movidius™ Neural Compute SDK

This Intel® Movidius™ Neural Compute software developer kit (NCSDK) is the legacy SDK provided for users of the Intel® Movidius™ Neural Compute Stick (Intel® Movidius™ NCS). New users of this device as well as all users of the newer Intel® Neural Compute Stick 2 should install the OpenVINO™ Toolkit as described in the Getting Started Guide

Intel® Neural Compute Stick 2 (Intel® NCS 2)

Users of the Intel® NCS 2 device cannot use the NCSDK and must use the OpenVINO™ Toolkit as described in the Getting Started Guide

For legacy users of the original Intel® Movidius™ Neural Compute Sticke that want to continue with the NCSDK, read on.

Neural Compute SDK2

NCSDK v2 releases are now available.

All documentation in the docs directory is now in HTML format which is best viewed from the documentation site: https://movidius.github.io/ncsdk/

With this release the existing NCAPI v1 has been rearchitected into NCAPI v2 which will pave the way for future enhancements and capabilities, as well add some now! While users are transitioning to this new NCAPI v2 the legacy NCSDK v1.x release will stay on the master branch and NCSDK2 will be on the ncsdk2 branch. At some point in the not too distant future, NCSDK2 will move to the master.

To help you get ready for NCSDK2 you can take a look at some of the changes in NCAPI v2 as well as the NCSDK2 Release Notes.

To install NCSDK 2.x you can use the following command to clone the ncsdk2 branch

Or if you would rather install the legacy NCSDK 1.x you can use the following command to clone as has always been the case

The provided Makefile helps with installation. Clone this repository and then run the following command to install the NCSDK:

The Neural Compute SDK also includes examples. After cloning and running ‘make install,’ run the following command to install the examples:

For additional examples, please see the Neural Compute App Zoo available at http://www.github.com/movidius/ncappzoo. The ncappzoo is a valuable resource for NCS users and includes community developed applications and neural networks for the NCS.

The complete Intel Movidius Neural Compute SDK documentation can be viewed at https://movidius.github.io/ncsdk/

Getting Started Video

For installation and general instructions to get started with the NCSDK, take a look at this video

Troubleshooting and Tech Support

Be sure to check the NCS Troubleshooting Guide if you run into any issues with the NCS or NCSDK.

Also for general tech support issues the NCS User Forum is recommended and contains community discussions on many issues and resolutions.

About

Software Development Kit for the Neural Compute Stick

Источник

Intel® Movidius™ Myriad™ X Vision Processing Unit 0GB

Warranty

Most Intel® Boxed Processors and their thermal solution are eligible for a three-year limited warranty.

Support Community

Find solutions, view comments and engage with other Intel® users around the world.

Additional Resources

Explore additional Intel® support resources.

Identify My Product

Product Codes & Spare Parts

Product Information & Documentation

No results found for

All Article Categories

Compatibility

Error Messages

Product Information & Documentation

Identify My Product

Install & Setup

Maintenance & Performance

Product Comparison

Troubleshooting

Warranty & RMA

• Popularity
• Last Reviewed
• Category

Intel technologies may require enabled hardware, software or service activation. // No product or component can be absolutely secure. // Your costs and results may vary. // Performance varies by use, configuration and other factors. // See our complete legal Notices and Disclaimers. // Intel is committed to respecting human rights and avoiding complicity in human rights abuses. See Intel’s Global Human Rights Principles. Intel’s products and software are intended only to be used in applications that do not cause or contribute to a violation of an internationally recognized human right.

Источник

Визуальные процессоры Intel® Movidius™

Визуальные процессоры Intel® Movidius™ обеспечивают эффективность ресурсоемких рабочих нагрузок компьютерного зрения и периферийных рабочих нагрузок искусственного интеллекта. Благодаря сочетанию большого количества параллельных программируемых потоков вычислений с аппаратным ускорением для конкретных рабочих нагрузок в уникальной архитектуре, когда необходимость перемещения данных сводится к минимуму, визуальные процессоры Movidius обеспечивают баланс энергоэффективности и вычислительной производительности. Технология визуальных процессоров позволяет использовать интеллектуальные камеры, периферийные серверы и устройства искусственного интеллекта благодаря приложениям на базе глубинных нейронных сетей и компьютерного зрения в таких сферах, как визуализация розничной торговли, обеспечение защиты и безопасности и автоматизация промышленных систем.

Визуальные процессоры Intel® Movidius™

Intel® Movidius™ Myriad™ X Vision Processing Units

Intel® Movidius™ Myriad™ X Vision Processing Units Визуальный процессор Intel® Movidius™ Myriad™ X: спецификации, технологии, конфигурации, характеристики и преимущества, начало работы и покупка.

Функции и преимущества визуальных процессоров Intel® Movidius™

Высокая производительность, глубинное обучение

Визуальный процессор Movidius обеспечивает формирование логических выводов глубинного обучения с отличной производительностью в расчете на ватт.

Техническая поддержка

Поддержка обработки данных камер (ISP), компьютерного зрения и формирования выводов глубинного обучения.

Создана для большего

Поддержка интеллектуальных камер и плат расширения ускорителей периферийного ИИ.

Совместимость датчика

Совместимость с различными датчиками для разностороннего обнаружения.

Источник