Введение
В настоящее время для многих организаций разработка модели недостаточна, и они требуют, чтобы разработчики понимали процесс развертывания, чтобы улучшать свои продукты. Модели машинного обучения должны быть запущены в производство, чтобы предприятия могли использовать их для принятия полезных решений. Это максимизирует их ценность. Одна из самых сложных частей эффективного использования машинного обучения — развертывание модели. В развертывании модели участвуют несколько отделов, таких как специалисты по данным, MLOps, разработчики программного обеспечения и бизнес-аналитики, чтобы гарантировать, что модель работает согласованно в производственной среде организации.
Способы развертывания модели
Мы можем добиться развертывания модели четырьмя способами.
- Развертывание с помощью веб-сервиса
- Служба прогнозирования по запросу
- Пакетный прогноз
- Развертывание для пограничных устройств
Развертывание с помощью веб-сервиса
Самый простой подход представляет модель как веб-службу путем создания REST API. Ключевым преимуществом развертывания в качестве веб-сервисов для команд машинного обучения является доступ к различным интерфейсам, включая веб-интерфейсы, мобильные устройства и настольные компьютеры. Модели прогнозирования веб-служб обычно включают контейнеры Docker, PaaS, облачные функции, а также блокноты, такие как Databricks.
Служба прогнозирования по запросу
Службы прогнозирования по запросу предпочтительнее, когда дело доходит до Интернета. В этом варианте развертывания пользователи могут вводить данные в модель и получать взамен прогнозы в реальном времени. Модель, указывающая выходную скорость, важна для прогнозирования в реальном времени. Он также будет использовать контейнеры, PaaS и облачные функции.
Пакетный прогноз
Развертывание пакетного прогнозирования используется для автономного развертывания. Пакетное прогнозирование полезно, когда вы хотите создать прогнозы для набора наблюдений сразу, а затем выполнить действие с определенным процентом или количеством наблюдений. Это особенно относится к типам задач классификации и регрессии.
Развертывание для пограничных устройств
На периферийных устройствах, таких как мобильные устройства с ограниченной вычислительной мощностью, памятью и хранилищем, эти сокращенные модели могут быть эффективно развернуты. Чтобы упростить модели для успешного развертывания на периферийных устройствах и устройствах IoT, мы используем TensorFlow Lite.
Контрольный список для развертывания модели машинного обучения
- Проблемы с качеством данных
- Изменения в распределении данных
- Автоматическое масштабирование
- Модель и дрейф данных
- Контроль версий
- Автоматизированное переобучение
- Проблемы со здоровьем трубопровода
Для получения дополнительной информации о приведенном выше контрольном списке нажмите здесь.
Инструменты для развертывания моделей машинного обучения
- Обслуживание TensorFlow
- AWS SageMaker
- Млфлоу
- Кубефлоу
- МЛбокс
- кора
- РапидМайнер
Конечная нота
Мы обсудили четыре метода развертывания. Возможно, вам придется выбрать один из вариантов в зависимости от вашего проекта. Развертывание займет больше времени, чем разработка модели, и для этого потребуется больше знаний о конвейере или архитектуре.
Спасибо, что читаете мой блог, вы можете проверить другие мои блоги…
Есть сомнения? Нужна помощь? Свяжитесь со мной!
