1. Установка mlflow и других пакетов

pip install mlflow==1.25.1 psycopg2 protobuf==3.20.* boto3

2. Развертывание postgres для сохранения метаданных mlflow

docker run -d --rm \
	--name psql-for-ml \
	-e POSTGRES_PASSWORD=mlflow \
	-e POSTGRES_USER=mlflow \
	-e POSTGRES_DB=mlflow \
	-e PGDATA=/var/lib/postgresql/data/pgdata \
	-v ./psql-data:/var/lib/postgresql/data \
	-p 5432:5432 \
	postgres:15

psql --host 127.0.0.1 -U mlflow -d mlflow -p 5432

3. Запускаем хранилище артефактов MinIO

docker run -d --rm \
  --name minio-container \
  -p 9000:9000 \
  -p 9001:9001 \
  -v ./minio-data:/data \
  minio/minio server /data --console-address ":9001"

4. Запуск локального mlflow-сервера.

export MLFLOW_S3_ENDPOINT_URL=http://127.0.0.1:9000
export MLFLOW_S3_IGNORE_TLS=true
export BACKEND_URI=postgresql://mlflow:[email protected]:5432/mlflow
export ARTIFACT_ROOT=s3://mlflow/mlartifacts  
export AWS_ACCESS_KEY_ID=minioadmin
export AWS_SECRET_ACCESS_KEY=minioadmin

mlflow server \
  --backend-store-uri ${BACKEND_URI} \
  --artifacts-destination ${ARTIFACT_ROOT} \
  --serve-artifacts \
  --host 0.0.0.0

Веб-интерфейс доступен по адресу http://127.0.0.1:5000

5. Обучение и логирование модели

python3 wrapper_test.py

6. В терминале, где будет запускаться модель, указать путь к mlflow-серверу

export MLFLOW_TRACKING_URI=http://127.0.0.1:5000

7. Запуск модели (serving), путь к модели нужно заменить (2 минуты).

mlflow models serve -m "models:/ElasticNetWineModel/Production" -p 1234

8. Проверка работоспособности модели

curl -X POST -H "Content-Type:application/json" --data '{"dataframe_split": {"columns":["fixed acidity", "volatile acidity", "citric acid", "residual sugar", "chlorides", "free sulfur dioxide", "total sulfur dioxide", "density", "pH", "sulphates", "alcohol"],"data":[[6.2, 0.66, 0.48, 1.2, 0.029, 29, 75, 0.98, 3.33, 0.39, 12.8]]}}' http://127.0.0.1:1234/invocations

Появилось новое conda-окружение

conda env list

Есть проблема с версией mlflow 2.2.2 -- Образ с окружением модели не стартует. В старых версиях mlflow создавалось conda-окружение, в которое загружались и устанавливались нужные для модели пакеты. В ноых версиях mlflow используется пакет virtualenv для создания виртуального окружения, из-за этого возникает ошибка.

Дополнительные шаги

curl https://pyenv.run | bash
nano ~/.bashrc
export PYENV_ROOT="$HOME/.pyenv"
command -v pyenv >/dev/null || export PATH="$PYENV_ROOT/bin:$PATH"
eval "$(pyenv init -)"

pip install virtualenv

sudo apt-get install libbz2-dev

Mlflow может сохранять различные типы ML-моделей, обученных с помощью пакетов sklearn, pytorch, xgboost и др. Если модель нестандартная (состоит из нескольких стандартных моделей или требует пред-, пост-обработки данных), то можно воспользоваться базовым механизмом python_function для сохранения моделей, любую mlflow-модель можно загрузить как python_function-модель.

Модуль mlflow.pyfunc определяет универсальный формат файловой системы (структура дерева файлов в каталоге модели), согласно которому должны сохраняться все модели и обеспечивает свойство переносимости модели (создание собственного окружения на любой виртуальной машине).

Любая загружаемая с помощью функции mlflow.pyfunc.load_model модель является экземпляром класса mlflow.pyfunc.PyFuncModel, который служит оболочкой для реализации модели и метаданных модели, обеспечивает вызов метода predict() со следующей сигнатурой:

predict(
    model_input: [pandas.DataFrame, numpy.ndarray, scipy.sparse.(csc.csc_matrix | csr.csr_matrix),
    List[Any], Dict[str, Any]]) -> [numpy.ndarray | pandas.(Series |DataFrame) | List]

Таким образом, на вход метода predict может поступать либо датафрейм pandas, либо массив numpy, либо матрица scipy, либо список любых объектов, либо словарь любых объектов со строковыми ключами.

При разработке кастомной mlflow-модели, нужно реализовать интерфейс базового класса mlflow.pyfunc.PythonModel:

• load_context(context) - загружает артефакты из указанного контекста PythonModelContext, которые могут использоваться при predict. При загрузке модели MLflow с помощью load_model() этот метод вызывается сразу после создания PythonModel.
• predict(context, model_input) - возвращает предсказание модели в виде формате, совместимом с pyfunc. Сигнатура аналогична методу mlflow.pyfunc.PyFuncModel.predict(), без переменной context.

1. Подготовить код модели.
2. Реализовать наследника класса mlflow.pyfunc.PythonModel, описывающего бизнес-логику предсказания модели после сериализации.
3. С помощью метода mlflow.pyfunc.log_model сохранить модель в mlflow, передав в качестве аргументов:
   • artifact_path
   • python_model - класс модели
   • code_path
   • artifacts=artifacts

1. https://medium.com/@pennyqxr/how-save-and-load-fasttext-model-in-mlflow-format-37e4d6017bf0