www.machinelearningmastery.ru

Машинное обучение, нейронные сети, искусственный интеллект
Header decor

Home

Начало работы со стеком глубокого обучения

Дата публикации May 25, 2017

Этот пост является выдержкой из предстоящего курса. Если вам это нравится, проверьтекраудфандинговый проект,

Глубокое обучение обычно имеет дело с многомерными данными, то есть векторами более 100 измерений. Очень простой трехуровневый коннетет, примененный к изображению 128x128, будет содержать около 200 000 нейронов. Это уже ~ 400 тыс. Поплавков!

К счастью, большинство операций по обучению нейронной сети довольно просты. Обновление нейрона - это вопрос сложения и умножения. Поскольку глубокое обучение включает в себя огромное количество небольших вычислений, имеет смысл делать вещи параллельно.

Введите графический процессор. Первоначально предназначенный для высокооктановой графики, которая используется в компьютерных видеоиграх, графический процессор идеально подходит для крупномасштабных параллельных задач этого типа.

Как мы справляемся со всеми этими числами

Типичная среда глубокого обучения написана на языке низкого уровня, таком как C ++, связана с языком сценариев, таким как Python, и использует платформу параллельных вычислений, такую ​​как CUDA.

Многие из известных статей глубокого обучения используют массивные кластеры суперкомпьютеров для обработки всех этих нейронов. AlphaGo DeepMind использовал до 1920 процессоров и 280 графических процессоров, чтобы победить человека на Go. Довольно часто можно прочитать статью с отличными результатами, чтобы понять, что они достигли стека из 20 графических процессоров.

Каркасы

Самым популярным фреймворком является Google Tensorflow. Это довольно низкоуровневый фреймворк, который можно использовать с Python и C ++.

Другие популярные фреймворки:

  • Theano - еще один низкоуровневый фреймворк, сфокусированный на численных вычислениях, в котором отсутствует поддержка GPU.
  • Caffe - ориентированная на компьютерное зрение основа. Не очень гибкий или хорошо документированный, но имеет значительное преимущество в производительности.
  • Torch - использует язык программирования Lua вместо Python. Поддерживает вычисления на GPU.

Назначение: настройка Tensorflow

минимальная: Этот класс будет использовать Tensorflow и Python для всех примеров. Вы можете установить Tensorflow самостоятельно, используя инструкции здесь.

Необязательный: Версия Tensorflow с поддержкой графического процессора требует CUDA и cuDNN и, конечно, достаточно хорошего графического процессора NVIDIA. Вам нужно запросить пароль у NVIDIA, чтобы установить cuDNN, что занимает пару рабочих дней.

Дорогой ярлык (рекомендуется, если это возможно): Арендуйте действительно хороший компьютер для глубокого обучения (известный как «экземпляр») на час в Amazon Web Services. Настройте экземпляр, используя этот образ машины Amazon, который поставляется со всем предварительно установленным программным обеспечением для глубокого обучения. Вы можете арендовать 8х видеокартуg2.8xlargeза $ 2,60 в час или чуть дешевле 2х GPUg2.2xlarge, Вы можете узнать больше о начале работы с экземпляром Amazon здесь.

Оригинальная статья

Footer decor

© www.machinelearningmastery.ru | Ссылки на оригиналы и авторов сохранены. | map