Облачные решения vs on-prem в пилотных проектах по компьютерному зрению

Сергей Кравченко, Старший аналитик данных, Beltel Datanomics

Задачи компьютерного зрения требуют высокой производительности вычислительных ресурсов. Одна из самых ресурсоемких задач с точки зрения вычислительных операций – детектирование объектов на изображении. Лучшим математическим инструментарием для решения этой задачи являются нейронные сети. Однако из-за большого числа параметров в нейронных сетях и, как следствие, большого количества элементарных операций, необходимых для обработки, скорость на обычном железе становится неприемлемой, особенно, когда речь идет о фото или видеопотоке.

Вычислительные операции, проводимые в нейронных сетях, можно осуществлять параллельно и лучшим решением для этой задачи являются графические процессорные устройства (GPU). GPU изначально разрабатывались для конвейерных и многопоточных вычислений, их архитектура позволяет существенным образом ускорить расчеты на нейронных сетях.

Мы сравнили время обработки изображений на среднем по производительности ноутбуке с процессором Intel® Core™ i5-8300H и графической картой GeForce GTX 1060. Для чистоты эксперимента была взята одна и та же нейронная сеть. Скорость детектирования на GPU оказалась примерно в 30 раз выше, чем на CPU и составила около 25 кадров в секунду. При этом цены на устройства сопоставимы.

Для профессионалов, работающих в области компьютерного зрения, преимущество GPU в производительности на нейронных сетях давно не является секретом. Также известно, что данные устройства требуют особого ухода в плане соблюдения температурного режима и простая игровая карта не пригодна для промышленной эксплуатации. Производительность современных графических ускорителей, используемых в датацентрах, значительно выше, чем на той же GeForce GTX 1060, но и стоят они на порядок дороже. Поэтому проекты компьютерного зрения имеют дополнительные издержки, связанные с приобретением необходимых аппаратных ресурсов.

Согласно текущей практике, внедрение инновационных решений начинается с пилотных проектов, позволяющих подтвердить или опровергнуть предполагаемую бизнес-ценность решения. Построение собственной инфраструктуры на этапе пилотирования несет дополнительный риск потерь, особенно в проектах компьютерного зрения, требующих больших вычислительных ресурсов. Если в ходе тестирования выяснится несостоятельность решения, то вложения в инфраструктуру станут бессмысленной инвестицией. Поэтому мы предлагаем нашим клиентам воспользоваться облачными вычислительными ресурсами. Облако позволяет легко экспериментировать с железом и программным обеспечением, дает возможность строить как простые, так сложные сервисные решения. При успешности проекта производится расчет издержек переноса решения on-prem с аналогичным железом и, как выясняется, далеко не всегда такой перенос является оправданным.

Желание заказчика перенести успешное решение из облака в on-prem может быть экономически оправданным, если у него есть для этого готовая инфраструктура, но дополнительные затраты все же потребуются. Как было показано на примере выше, использование графических карт ускоряет процесс вычисления в несколько десятков раз. Поэтому, каким бы современным не было оборудование на серверах, если на них нет GPU, они будут уступать в производительности обычным игровым ноутбукам.

Подводя итог, выделим основные преимущества облачного решения над on-prem:

  1. Время пилотирования. Как правило, в разы меньше из-за простой настройки вычислительных ресурсов
  2. Отсутствие администрирования как такового
  3. Стоимость аренды вычислительных ресурсов на стадии пилотирования значительно ниже их покупки
  4. Богатая экспериментальная база из-за широкого выбора как железа, так и программного обеспечения
  5. Отказоустойчивость
  6. Быстрое масштабирование
  7. Неограниченные объемы хранилищ, оптимизированных для распределенных вычислений
  8. Четкое понимание стоимости решения
  9. Нет необходимости арендовать серверные помещения, нанимать специалистов для поддержки

Отметим, что пока в нашей практике нет ни одного случая, когда на пилотной стадии проекта on-prem решение оказывалось выгоднее облачного. Однако выбор возможен только тогда, когда нет законодательных ограничений, связанных с обработкой и хранением информации.

Оставьте заявку и получите бюджет и план внедрения наших решений в ваш бизнес

Заполняя форму, Вы соглашаетесь с правилами обработки персональных данных.

Мы используем файлы cookies, чтобы получать статистику и делать наш сайт и другие сервисы удобными для вас. Продолжая дальнейшее использование сайта и/или его сервисов, вы соглашаетесь с этим. Более подробную информацию можно прочитать в «Политика обработки персональных данных» и в «Политика Cookies»