Amazon SageMaker 紹介 - 組み込みアルゴリズムで機械学習を試す

Takahiro Iwasa (岩佐 孝浩)

2022年1月24日

17 min read

Machine Learning SageMaker

Amazon SageMaker を紹介する勉強会を開催しました。「雲勉@オンライン【勉強会】Amazon SageMaker 入門 〜組み込みアルゴリズムで機械学習を試してみよう〜【開発エンジニア向け】」

プレゼンテーションの内容を紹介し、 SageMaker を知るきっかけになれば幸いです。この投稿のサンプルは、 GitHub リポジトリから取得できます。

github.com

GitHub - iwstkhr/amazon-sagemaker-sample: Amazon SageMaker sample to preprocess data, train, deploy

Amazon SageMaker sample to preprocess data, train, deploy - iwstkhr/amazon-sagemaker-sample

参加者は以下が期待されます:

• SageMaker に興味を持っていること
• 機械学習と AWS の基礎知識

この投稿の目標:

• 機械学習と SageMaker エコシステムの概要把握
• SageMaker 組み込みアルゴリズムを使用した教師あり機械学習のデモ

教師あり学習は、分類および回帰のタスクによく使用されます。 訓練データとラベル付けされたデータの両方が必要です。データのラベリングが負担になることがあります。

教師なし学習は、クラスタリングや次元削減などのタスクによく使用されます。 訓練データが必要です。ほとんどの場合、この手法は推論結果に対する明確な説明を提供しません。

強化学習は純粋な統計解析手法ではなく、心理学的なアプローチを含みます。 訓練データと報酬が必要です。推論結果に基づいて報酬（重み）が割り当てられ、アルゴリズムはより大きな報酬につながる行動を学習します。

深層学習（以降、ディープラーニング）は、近年注目を集めている機械学習の手法です。高い精度を達成するために複数のニューラルネットワークを使用し、人間の予測結果を上回ることがあります。

ディープラーニングでは、自動での特徴量選択が可能になりつつあります。 正確な予測を生成する一方で、ディープラーニングは推論結果に対する明確な説明を提供しません。ディープラーニングモデルの訓練には、多くの計算リソースが必要です。

ニューラルネットワークの複雑さを示す指標の一つは、重みの合計です。以下の例では、複雑さは 24 です。

4 (特徴量) * 3 (隠し層1) = 12
3 (隠し層1) * 3 (隠し層2) = 9
3 (隠し層2) * 1 (出力) = 3
12 + 9 + 3 = 24

行はサンプルまたはデータポイントと呼ばれます。列は特徴と呼ばれます。特徴量エンジニアリングは、推論の精度を向上させるために重要です。これには、特徴量の抽出、変換、またはスケーリングが含まれます。前処理は、生データが含む不要な情報を取り除きます。特徴量エンジニアリングには、 One-hot エンコーディング、リスケーリング、主成分分析 (PCA) などのさまざまな方法があります。

以下の図は、k-分割交差検証を説明しています。緑は訓練データで、青はテストデータです。

en.wikipedia.org

Cross-validation (statistics) - Wikipedia

各セットは異なる組み合わせの訓練データとテストデータを持ち、そのセットの精度を計算します。すべてのセットの平均精度はモデルの平均と見なすことができます。各セット間で精度が大きく変動する場合、モデルはうまく汎化できていない可能性があり、特定のデータセットに過剰適合する原因になっているかもしれません。

次の表は二値分類の例です。

以下は各指標の説明です。

一般的なワークフローには、「サンプルデータの生成」、「モデルの訓練」、「モデルのデプロイ」が含まれます。

docs.aws.amazon.com

Overview of machine learning with Amazon SageMaker - Amazon SageMaker

Get an overview of machine learning (ML), including a typical ML workflow and how to accomplish workflow tasks.

• Introduction to Machine Learning with Python
• 総務省 ICTスキル総合習得プログラム コース3（データ分析） 3-5 人工知能と機械学習
• Amazon Machine Learning – Machine Learning Concepts

SageMaker は、機械学習のためのマネージドサービスです。 AWS は機械学習ワークフローに関連する多くのサービスを提供しており、 SageMaker エコシステムは急速に発展しています。 SageMaker は、2021年12月時点で17の組み込みアルゴリズムを提供しています。 SageMaker 外で訓練されたモデルは、 AWS が提供するコンテナ (Bring Your Own Model) で利用できます。 TensorFlow や PyTorch などの主要なフレームワークもサポートされています。

以下の図は、機械学習ワークフローに関連する AWS サービスです。各サービスの詳細については、この投稿の最後をご参照ください。

いくつかのエンドポイント種別があります。

• SageMaker Hosting Services は、常時稼働の EC2 のようなエンドポイントです。
• SageMaker Serverless Endpoints (Preview) は、コールドスタートを許容できる場合、低コストで利用可能なエンドポイントです。
• Asynchronous Inference は、推論リクエストが無い場合にオートスケールでインスタンス数をゼロにする機能を提供しています。

以下の選択肢から SageMaker の環境を選ぶことができます。この投稿では SageMaker Studio を使用しています。

aws.amazon.com

Machine Learning Service – Amazon SageMaker Studio – AWS

Amazon SageMaker Studio is a web-based integrated development environment (IDE) that lets you prepare data and build, train, deploy, and monitor your machine learning (ML) models.

• SageMaker Studio / RStudio on SageMaker
  • 機械学習のための統合開発環境 (IDE)
  • 学習目的であれば、 SageMaker JumpStart も利用できます。
• SageMaker Notebook Instances
  • Jupyter Notebook のインスタンス
  • 少数のデータサイエンティストが一時的に SageMaker を使用する必要がある場合に便利です。
• ローカル環境 + AWS SDK + SageMaker SDK
  • 少数の開発者が一時的に SageMaker を使用する必要がある場合に便利です。
• SageMaker Studio Lab
  • AWS アカウントなしで SageMaker Studio の一部機能を無料で試すことができます。

SageMaker Studio を使用するには、オンボーディングプロセスを完了する必要があります。

docs.aws.amazon.com

Amazon SageMaker domain overview - Amazon SageMaker

Overview of domain

Quick Setup を選択してください。本番環境のためにドメインを作成する場合は、 Custom Setup がお勧めです。

任意の VPC を選択してください。

自動作成されたユーザーのメニューから SageMaker Studio を起動してください。

SageMaker Studio が起動します。

docs.aws.amazon.com

Connect SageMaker Studio Notebooks in a VPC to External Resources - Amazon SageMaker

The following topic gives information on how to connect Studio Notebooks in a VPC to external resources.

docs.aws.amazon.com

Connect SageMaker Studio Notebooks in a VPC to External Resources - Amazon SageMaker

The following topic gives information on how to connect Studio Notebooks in a VPC to external resources.

Custom Setup を使用すると、 VPC エンドポイントでネットワークトラフィックを AWS 内部ネットワークに閉じることができます。

この投稿では、 SageMaker の組み込みアルゴリズム k-NN (k-Nearest Neighbor) を、有名な Iris データセットで使用しています。

docs.aws.amazon.com

K-Nearest Neighbors (k-NN) Algorithm - Amazon SageMaker

Amazon SageMaker k-nearest neighbors (k-NN) algorithm is an index-based algorithm . It uses a non-parametric method for classification or regression. For classification problems, the algorithm queries the k points that are closest to the sample point and returns the most frequently used label of their class as the predicted label. For regression problems, the algorithm queries the

最初に、 SageMaker Studio の中央にある Notebook ボタンをクリックしてください。

以下の内容を持つセルを作成し、 <YOUR_S3_BUCKET> と <YOUR_SAGEMAKER_ROLE> に実際の値を指定してください。

%env S3_DATASET_BUCKET=<YOUR_S3_BUCKET>
%env S3_DATASET_TRAIN=knn/input/iris_train.csv
%env S3_DATASET_TEST=knn/input/iris_test.csv
%env S3_TRAIN_OUTPUT=knn/output
%env SAGEMAKER_ROLE=<YOUR_SAGEMAKER_ROLE>

以下の内容を持つセルを作成してください。 Python3 Data Science instance には、初めからこれらのパッケージがインストールされています。

import os
import random
import string

import boto3
import matplotlib.pyplot as plt
import pandas as pd
import sagemaker
from IPython.display import display
from sagemaker import image_uris
from sagemaker.deserializers import JSONDeserializer
from sagemaker.estimator import Estimator, Predictor
from sagemaker.inputs import TrainingInput
from sagemaker.serializers import CSVSerializer
from sklearn.model_selection import train_test_split

ノートブック全体で使用される以下の定数と変数を定義してください。

# Define constants
CSV_PATH = './tmp/iris.csv'
S3_DATASET_BUCKET = os.getenv('S3_DATASET_BUCKET')
S3_DATASET_TRAIN = os.getenv('S3_DATASET_TRAIN')
S3_DATASET_TEST = os.getenv('S3_DATASET_TEST')
S3_TRAIN_OUTPUT = os.getenv('S3_TRAIN_OUTPUT')
SAGEMAKER_ROLE = os.getenv('SAGEMAKER_ROLE')
ESTIMATOR_INSTANCE_COUNT = 1
ESTIMATOR_INSTANCE_TYPE = 'ml.m5.large'
PREDICTOR_INSTANCE_TYPE = 'ml.t2.medium'
PREDICTOR_ENDPOINT_NAME = f'sagemaker-knn-{PREDICTOR_INSTANCE_TYPE}'.replace('.', '-')

# Define variables
bucket = boto3.resource('s3').Bucket(S3_DATASET_BUCKET)
train_df = None
test_df = None
train_object_path = None
test_object_path = None
knn = None
predictor = None

AWS 公式の amazon-sagemaker-examples リポジトリから Iris データセットをダウンロードしてください。 Iris データセットに関する詳細は、公式ページをご参照ください。

# Download a sample csv
!mkdir -p tmp
!curl -o "$(pwd)/tmp/iris.csv" -L https://raw.githubusercontent.com/aws/amazon-sagemaker-examples/master/hyperparameter_tuning/r_bring_your_own/iris.csv

ダウンロードした後、以下のコードで CSV を読み込んでください。 SageMaker は CSV の最初の列をターゲットラベルとして扱いますので、 Species を最初の列に移動する必要があります。ターゲットラベルは int に変換する必要があります。

docs.aws.amazon.com

Common Data Formats for Training - Amazon SageMaker

Data formats commonly accepted by Amazon SageMaker for training.

def load_csv(path: str) -> pd.DataFrame:
    df = pd.read_csv(path)
    # Move the last label column to the first
    # See https://docs.aws.amazon.com/sagemaker/latest/dg/cdf-training.html#cdf-csv-format
    df = df[['Species', 'Sepal.Length', 'Sepal.Width', 'Petal.Length', 'Petal.Width']]
    # Convert target string to int
    df['Species'] = df['Species'].map({'setosa': 0, 'versicolor': 1, 'virginica': 2})
    return df

以下のコードを使用して、散布図を作成できます。

def plot(df: pd.DataFrame) -> None:
    pd.plotting.scatter_matrix(df, figsize=(15, 15), c=df['Species'])
    plt.show()

X軸は左から右に向かって、 Species, Sepal.Length, Sepal.Width, Petal.Length, Petal.Width を意味します。 Y軸は下から上に向かって、 Petal.Width, Petal.Length, Sepal.Width, Sepal.Length, Species を意味します。プロットを読むと、データポイントが明確に分類されているため、特徴量から種類が予測できそうです。

次のコードを使用して、変換された CSV ファイルを S3 バケットにアップロードしてください。

def upload_csv_to_s3(df: pd.DataFrame, object_path: str) -> str:
    filename = ''.join([random.choice(string.digits + string.ascii_lowercase) for i in range(10)])
    path = os.path.abspath(os.path.join('./tmp', filename))
    df.to_csv(path, header=False, index=False)
    # Change content-type because the default is binary/octet-stream
    bucket.upload_file(path, object_path, ExtraArgs={'ContentType': 'text/csv'})
    return f's3://{bucket.name}/{object_path}'

最後に、上記の手順を以下のコードで実行してください。

if __name__ == '__main__':
    # Prepare data
    df = load_csv(CSV_PATH)
    display(df)
    plot(df)
    train_df, test_df = train_test_split(df, shuffle=True, random_state=0)  # type: (pd.DataFrame, pd.DataFrame)

    train_object_path = upload_csv_to_s3(train_df, S3_DATASET_TRAIN)
    test_object_path = upload_csv_to_s3(test_df, S3_DATASET_TEST)

以下のコードを使用して、 Estimator を設定してください。

image_uri は、 AWS が提供する k-NN の ECR コンテナ URI です。

def get_estimator(**hyperparams) -> Estimator:
    estimator = Estimator(
        image_uri=image_uris.retrieve('knn', boto3.Session().region_name),  # AWS provided container in ECR,
        role=SAGEMAKER_ROLE,
        instance_count=ESTIMATOR_INSTANCE_COUNT,
        instance_type=ESTIMATOR_INSTANCE_TYPE,
        input_mode='Pipe',
        output_path=f's3://{S3_DATASET_BUCKET}/{S3_TRAIN_OUTPUT}',
        sagemaker_session=sagemaker.Session(),
    )
    hyperparams.update({'predictor_type': 'classifier'})
    estimator.set_hyperparameters(**hyperparams)
    return estimator

以下のコードを使用して訓練を開始できます。

def train(estimator: Estimator, train_object_path: str, test_object_path: str) -> None:
    # Specify content-type because the default is application/x-recordio-protobuf
    train_input = TrainingInput(train_object_path, content_type='text/csv', input_mode='Pipe')
    test_input = TrainingInput(test_object_path, content_type='text/csv', input_mode='Pipe')
    estimator.fit({'train': train_input, 'test': test_input})


if __name__ == '__main__':
    knn = get_estimator(k=1, sample_size=1000)
    train(knn, train_object_path, test_object_path)

組み込みアルゴリズムのチャネル名は train に固定されています。訓練ジョブに test チャネルが設定されている場合、 ML モデルがテストされます。

TrainingInput の input_mode 引数に Pipe を指定することで、 Pipe モードを使用できます。これにより、データは直接 S3 バケットから SageMaker インスタンスにストリーミングされます。

k-NN のハイパーパラメータに関する情報は、公式ドキュメントをご参照ください。

docs.aws.amazon.com

k-NN Hyperparameters - Amazon SageMaker

The number of features in the input data. The number of nearest neighbors. The type of inference to use on the data labels. The number of data points to be sampled from the training data set. The target dimension to reduce to. The type of dimension reduction method.

実行後、以下のような訓練ログが表示されます。

2022-01-08 13:38:34 Starting - Starting the training job...
2022-01-08 13:38:57 Starting - Launching requested ML instancesProfilerReport-1641649113: InProgress
......
[01/08/2022 13:43:00 INFO 140667182901056] #test_score (algo-1) : ('accuracy', 0.9736842105263158)
[01/08/2022 13:43:00 INFO 140667182901056] #test_score (algo-1) : ('macro_f_1.000', 0.97170347)

以下のコードを使用して、推論エンドポイントをデプロイしてください。 serializer および deserializer は、想定する入力および出力の形式を意味します。

def deploy(estimator: Estimator) -> Predictor:
    return estimator.deploy(
        initial_instance_count=1,
        instance_type=PREDICTOR_INSTANCE_TYPE,
        serializer=CSVSerializer(),
        deserializer=JSONDeserializer(),
        endpoint_name=PREDICTOR_ENDPOINT_NAME
    )

推論結果をテーブルで表示できます。

def validate(predictor: Predictor, test_df: pd.DataFrame) -> pd.DataFrame:
    rows = []

    for i, data in test_df.iterrows():
        predict = predictor.predict(
            pd.DataFrame([data.drop('Species')]).to_csv(header=False, index=False),
            initial_args={'ContentType': 'text/csv'}
        )
        predicted_label = predict['predictions'][0]['predicted_label']

        row = data.tolist()
        row.append(predicted_label)
        row.append(data['Species'] == predicted_label)
        rows.extend([row])

    return pd.DataFrame(rows, columns=('Species', 'Sepal.Length', 'Sepal.Width', 'Petal.Length', 'Petal.Width', 'Prediction', 'Result'))

Prediction, Result 列を持つ CSV データが、テーブルとして表示されます。

以下のコードで推論を実行してください。

if __name__ == '__main__':
    predictor = deploy(knn)
    predictions = validate(predictor, test_df)
    display(predictions)

以下のコードを使用してリソースを削除してください。リアルタイムの推論エンドポイントは削除しない限り、追加のコストが発生します。

def delete_model(predictor: Predictor) -> None:
    try:
        predictor.delete_model()
        print(f'Deleted a model')
    except BaseException as e:
        print(e)


def delete_endpoint(predictor: Predictor) -> None:
    try:
        predictor.delete_endpoint(delete_endpoint_config=True)
        print(f'Deleted {predictor.endpoint_name}')
    except BaseException as e:
        print(e)


if __name__ == '__main__':
    delete_model(predictor)
    delete_endpoint(predictor)

• SageMaker Studio

• SageMaker Projects
• SageMaker Model Building Pipelines

• SageMaker Studio Notebooks
• SageMaker Notebook Instances

• SageMaker Data Wrangler
• SageMaker Processing
• SageMaker Ground Truth
• SageMaker Ground Truth Plus
• SageMaker Feature Store

• SageMaker Autopilot
• SageMaker Canvas

• Deploy a Model in Amazon SageMaker
• Serverless Inference
• Elastic Inference
• Inference Recommender

• SageMaker ML Lineage Tracking
• SageMaker Debugger
• SageMaker Experiments
• SageMaker Edge Manager
• SageMaker Training Compiler
• SageMaker Clarify
• Augmented AI
• SageMaker Model Registry
• SageMaker Neo
• SageMaker Model Monitor