Boto3を使用してAWSGlueデータカタログのクローラーのスケジューラーを更新する方法

この記事では、AWSアカウントに存在するクローラーのスケジューラーを更新する方法を説明します。

例

問題の説明： boto3を使用する クローラーのスケジューラーを更新するPythonのライブラリ。

この問題を解決するためのアプローチ/アルゴリズム

• ステップ1： boto3をインポートします およびbotocore 例外を処理するための例外。

• ステップ2： crawler_name およびスケジューラー この関数に必要なパラメータです。

• スケジューラの形式 cron（cron_expression）のようにする必要があります。 Cron_Expression （15 12 * *？*）と書くことができます。つまり、クローラーは毎日12：15UTCに実行されます。

• ステップ3： boto3 libを使用してAWSセッションを作成します 。 region_nameを確認してください デフォルトのプロファイルに記載されています。言及されていない場合は、 region_nameを明示的に渡します セッションの作成中。

• ステップ4： 接着剤用のAWSクライアントを作成します 。

• ステップ5： 次に、 update_crawler_scheduleを使用します 関数を実行し、パラメータ crawler_nameを渡します CrawlerNameおよびschedulerとして スケジュールとして。

• ステップ6： 応答メタデータを返し、クローラーのスケジュール状態を更新します。

• ステップ7： クローラーのスケジューラーの更新中に問題が発生した場合は、一般的な例外を処理します。

サンプルコード

次のコードは、クローラーのスケジューラーを更新します-

import boto3
from botocore.exceptions import ClientError

def update_scheduler_of_a_crawler(crawler_name, scheduler)
   session = boto3.session.Session()
   glue_client = session.client('glue')
   try:
      response = glue_client.update_crawler_schedule(CrawlerName=crawler_name,       Schedule=scheduler)
      return response
   except ClientError as e:
      raise Exception("boto3 client error in update_scheduler_of_a_crawler: " + e.__str__())
   except Exception as e:
      raise Exception("Unexpected error in update_scheduler_of_a_crawler: " + e.__str__())
print(update_scheduler_of_a_crawler("Data Dimension","cron(15 12 * * ? *)"))

出力

{'ResponseMetadata': {'RequestId': '73e50130-*****************8e', 'HTTPStatusCode': 200, 'HTTPHeaders': {'date': 'Sun, 28 Mar 2021 07:26:55 GMT', 'content-type': 'application/x-amz-json-1.1', 'content-length': '2', 'connection': 'keep-alive', 'x-amzn-requestid': '73e50130-***************8e'}, 'RetryAttempts': 0}}