Azure
/
MLInsider-MLOps
зеркало из https://github.com/Azure/mlops-starter-sklearn.git
1
0
Форкнуть 0
Код Задачи Пакеты Проекты Релизы Вики Активность
MLInsider-MLOps/README.md

11 KiB
Исходник Постоянная ссылка Ответственный История

  MLOps with Azure Machine Learning

Azure Machine Learning + GitHub を利用した MLOps 実装サンプルコード

MIT licensed Star Open in VSCode

👋 概要

本リポジトリは、MLOps のサンプルコードを素早く利用できることを目的に作成されました。Azure Machine Learning と GitHub Actions を利用する想定です。

🚀 使い方

  • Azure Machine Learning と GitHub の環境を準備します。
  • クライアント環境として下記のいずれかにアクセスします。
    • Azure Machine Learning のコンピューティングインスタンス
    • DevContainer 環境
      • Conda でのパッケージインストールの際にメモリを消費するため、ある程度大きいスペックが必要になります。Codespaces の場合、4-core / 8GB RAM / 32GB storage 以上の Machine Type を選択してください。
  • .env ファイルに環境変数の設定をします。
  • ./scripts フォルダの各シェルスクリプトを実行します。
  • GitHub の Secrets を作成し、GitHub Actions を有効化し実行します。

👉 クライアント環境として Azure Machine Learning のコンピューティングインスタンス (Compute Instance) を利用した場合のコードや CI/CD の実行方法は クイックスタート のドキュメントに記載してあります。

📝 技術条件

  • GitHub
    • ソースコード管理、CI/CD パイプライン
  • Data
  • Azure Machine Learning
    • チーム・組織で共有の機械学習プラットフォーム
    • Compute Instance : CPU タイプ、クライアント端末
      • もしくは Dev Container に対応した GitHub Codespace など
    • Compute Cluster : 共有のクラスター環境
    • API : Azure Machine Learning CLI (v2)
  • IDE/Editor
    • Visual Studio Code

📁 コンテンツ

Assets

CLI v2 + YAML

シナリオ YAML ファイル シェルスクリプト 詳細
Create Data asset cli/assets/create-data.yml scripts/assets/create-data.sh データアセットを作成する
Create Compute Cluster cli/assets/create-compute.yml scripts/assets/create-compute.sh Compute を作成する
Create Environment for training cli/assets/create-environment.yml scripts/assets/create-environment.sh 環境を作成する

Prototyping

Notebook

シナリオ Notebook シェルスクリプト 詳細
Baseline Notebook notebooks/train-prototyping.ipynb scripts/prototyping/run-notebooks.sh 実験用の Notebook

Training

CLI v2 + YAML

シナリオ YAML ファイル シェルスクリプト 詳細
Job for training model cli/jobs/train.yml scripts/training/train.sh Azure ML の Job として Python script を実行

CI/CD Pipeline

シナリオ YAML ファイル Status 詳細
Smoke Test .github/workflows/smoke-testing.yml smoke-testing Smoke Test パイプライン

Operationalizing

CLI v2 + YAML

シナリオ YAML ファイル シェルスクリプト 詳細
Create Batch Endpoint (custom) cli/endpoints/batch_deployment.yml scripts/endpoints/deploy-batch-endpoint.sh カスタム型モデルのバッチエンドポイントへのデプロイ
Create Batch Endpoint (mlflow) cli/endpoints/batch_deployment_mlflow.yml scripts/endpoints/deploy-batch-endpoint.sh MLflow 型モデルのバッチエンドポイントへのデプロイ
Create Online Endpoint (custom) cli/endpoints/online_deployment.yml scripts/endpoints/deploy-online-endpoint-custom.sh カスタム型モデルのオンラインエンドポイントへのデプロイ
Create Online Endpoint (mlflow) cli/endpoints/online_deployment_mlflow.yml scripts/endpoints/deploy-online-endpoint-mlflow.sh MLflow 型モデルのオンラインエンドポイントへのデプロイ

CI/CD Pipeline

TODO

🗒️ ドキュメンテーション

📄 ディレクトリ構造

.
├── .devcontainer   # Configuration files for DevContainer
├── .github
│   └── workflows   # YAML files for GitHub Actions
├── .vscode
├── cli             # YAML files for Azure ML CLI v2
│   ├── assets
│   ├── endpoints
│   └── jobs
├── data            # Sample data
│   ├── raw
│   └── samples
├── docs            # Documenting quickstart, coding style guide etc
├── environments    # Python libraries
├── notebooks       # Jupyter Notebook
├── pipelines       # Azure ML Pipeline CLI v2
│   ├── eval
│   ├── prep
│   ├── score
│   └── train
├── scripts
│   ├── assets      # Shell scripts for creating assets like data, compute, environment
│   ├── endpoints   # Shell scripts for scoring model
│   ├── jobs        # Shell scripts for model training
│   └── prototyping # Shell scripts for experimental
├── src
│   ├── data        # Code for data preparation
│   ├── deploy      # Code for scoring model
│   ├── features    # Code for feature engineering
│   ├── model       # Code for model training
│   ├── monitor     # Code for monitoing data and model
│   └── rai         # Code for responsible ai
├── tests
│   ├── data_validation # Code for validating data
│   └── unit            # Code for unit testing
└── utils           # Code for utilities

関連リポジトリ/リソース

主要なリポジトリ/リソースとの比較

リポジトリ/リソース名 概要と目的 本リポジトリとの差異
microsoft/MLOps MLOps の概要説明から、Microsoft 製品でどのように MLOps を実現するのか Azure DevOps や GitHub Actions、IaCなどのツール単位やシナリオ単位でサンプルコードを提供している。 本リポジトリは、ツールを１シナリオに絞り、迅速的に活用可能な MLOps のテンプレートを提供する。
Azure/mlops-v2 MLOps に関してより広範で抽象的なテンプレート。 本リポジトリは、より具体的なデータ・コードを含み、実行可能なサンプルを目指している。
Azure/azureml-examples AzureML に関してのサンプルコード集。テストコード等が整備されている。 本リポジトリは、単発のサンプルコード群ではなく、ML ライフサイクルの一連の流れが end-to-end で網羅されたものを目指している。
Tutorial: Azure Machine Learning in a day End-to-End で AzureML を学ぶことができるチュートリアルページ。 本リポジトリは、比較対象のリポジトリでは掲載されていない ML システムを設計・運用していくための Tips も提供している。

その他

🛡 免責事項

当社は、外部のリンク先ウェブサイトの内容に関していかなる責任も負うものではありません。お客様は、自らの責任においてこれらのリンクをご利用ください。なお、お客様によるリンクご利用の結果、ないしはリンクご利用に関連して、お客様が被るいかなる損害または損失について当社は、責任を負うものではありません。

🤝 Contributing

We are welcome your contribution from customers and internal microsoft employees. Please see CONTRIBUTING. We appreciate all contributors from Microsoft employees and community to make this repo thrive.

Trademarks

This project may contain trademarks or logos for projects, products, or services. Authorized use of Microsoft trademarks or logos is subject to and must follow Microsoft's Trademark & Brand Guidelines. Use of Microsoft trademarks or logos in modified versions of this project must not cause confusion or imply Microsoft sponsorship. Any use of third-party trademarks or logos are subject to those third-party's policies.