AI Hero всегда был полностью контейнерным приложением. Однако он был развернут в основном поверх инстансов EC2. С нашим переходом на Kubernetes AI Hero стал намного мощнее — мы повысили скорость наших сервисов, наша платформа стала сверхмасштабируемой, у нас более быстрый цикл выпуска, и она стала готовой для предприятий, поскольку ее легко развертываемый локально.
Обновление: декларативные MLOps — оптимизация обслуживания моделей в Kubernetes: вот запись моего выступления, в которой резюмируется эта статья, а также включаются другие передовые практики для…
