Python
 Computer >> コンピューター >  >> プログラミング >> Python

Boto3を使用して、AWS GlueDataCatalogでクローラーのスケジューラーを開始する方法


この記事では、ユーザーがAWS GlueDataCatalogでクローラーのスケジューラーを開始する方法を説明します。

AWS GlueDataCatalogで利用可能なクローラーのスケジューラーを開始します。

問題の説明: Pythonでboto3ライブラリを使用して、クローラーのスケジューラーを開始します。

この問題を解決するためのアプローチ/アルゴリズム

  • ステップ1: boto3をインポートします およびbotocore 例外を処理するための例外。

  • ステップ2: crawler_name この関数に必要なパラメータです。

  • ステップ3: boto3 libを使用してAWSセッションを作成します 。 region_nameを確認してください デフォルトのプロファイルに記載されています。言及されていない場合は、 region_nameを明示的に渡します セッションの作成中。

  • ステップ4: 接着剤用のAWSクライアントを作成します 。

  • ステップ5: 次に、start_crawler_schedule関数を使用します パラメータcrawler_nameを渡します CrawlerNameとして。

  • ステップ6: 応答メタデータを返し、クローラーのスケジュール状態をSCHEDULEDとして設定します。クローラーのステータスが実行中の場合、またはスケジュール状態がすでにスケジュールされている場合は、例外( SchedulerRunningException )がスローされます。 。

  • ステップ7: クローラーのスケジューラーの起動中に問題が発生した場合は、一般的な例外を処理します。

サンプルコード

次のコードは、クローラーのスケジューラーを開始します-

import boto3
from botocore.exceptions import ClientError

def start_scheduler_of_a_crawler(crawler_name)
   session = boto3.session.Session()
   glue_client = session.client('glue')
   try:
      response = glue_client.start_crawler_schedule(CrawlerName=crawler_name)
      return response
   except ClientError as e:
      raise Exception("boto3 client error in start_scheduler_of_a_crawler: " + e.__str__())
   except Exception as e:
      raise Exception("Unexpected error in start_scheduler_of_a_crawler: " + e.__str__())
print(start_scheduler_of_a_crawler("Data Dimension"))

出力

{'ResponseMetadata': {'RequestId': '73e50130-*****************8e', 'HTTPStatusCode': 200, 'HTTPHeaders': {'date': 'Sun, 28 Mar 2021 07:26:55 GMT', 'content-type': 'application/x-amz-json-1.1', 'content-length': '2', 'connection': 'keep-alive', 'x-amzn-requestid': '73e50130-***************8e'}, 'RetryAttempts': 0}}

  1. Boto3を使用してAWSGlueDataカタログからテーブルを削除するにはどうすればよいですか?

    問題の説明 − Pythonでboto3ライブラリを使用して、アカウントで作成されたテーブルを削除します。 例 −アカウントで作成されたデータベース「test」からテーブル「security」を削除します。 この問題を解決するためのアプローチ/アルゴリズム ステップ1 −例外を処理するためにboto3およびbotocore例外をインポートします。 ステップ2 −AWSGlueカタログから削除する必要があるパラメータdatabase_nameとtable_nameを渡します。 ステップ3 −boto3ライブラリを使用してAWSセッションを作成します。 region_nameがデフォルトの

  2. Boto3を使用してAWSGlueデータカタログからクローラーを削除するにはどうすればよいですか?

    問題の説明 − Pythonでboto3ライブラリを使用して、アカウントで作成されたクローラーを削除します。 例 −アカウントで作成されたクローラー「ポートフォリオ」を削除します。 この問題を解決するためのアプローチ/アルゴリズム ステップ1 −例外を処理するためにboto3およびbotocore例外をインポートします。 ステップ2 −AWSGlueカタログから削除する必要があるパラメータcrawler_nameを渡します。 ステップ3 −boto3ライブラリを使用してAWSセッションを作成します。 region_nameがデフォルトのプロファイルに記載されていることを確認してください