Boto3を使用して、AWS Glueデータカタログから1つまたは複数の指定されたクローラーのメトリックを取得するにはどうすればよいですか？

問題の説明 − Pythonでboto3ライブラリを使用して、指定したクローラーのメトリックを取得します。

例 −指定されたクローラーcrawler_for_s3_file_jobのメトリックを取得します。

この問題を解決するためのアプローチ/アルゴリズム

ステップ1 −例外を処理するためにboto3およびbotocore例外をインポートします。

ステップ2 − crawler_names は必須パラメータです。これはリストであるため、ユーザーは一度に1つまたは複数のクローラー名を送信してメトリックをフェッチできます。

ステップ3 −boto3ライブラリを使用してAWSセッションを作成します。 region_nameを確認してください デフォルトのプロファイルに記載されています。言及されていない場合は、 region_nameを明示的に渡します セッションの作成中。

ステップ4 −接着剤用のAWSクライアントを作成します。

ステップ5 −ここで、 get_crawler_metricsを使用します 関数を実行し、crawler_namesおよびCrawlerNameListパラメーターを渡します。

ステップ6 −クローラーのメトリックを返します。

ステップ7 −ジョブのチェック中に問題が発生した場合は、一般的な例外を処理します。

例

次のコードを使用して、指定したクローラーのメトリックを取得します-

import boto3
from botocore.exceptions import ClientError

def retrieves_metrics_of_a_crawler(crawler_names:list)
   session = boto3.session.Session()
   glue_client = session.client('glue')
   try:
      crawler_details = glue_client.get_crawler_metrics(CrawlerNameList = crawler_names)
      return crawler_details
   except ClientError as e:
      raise Exception("boto3 client error in retrieves_metrics_of_a_crawler: " + e.__str__())
   except Exception as e:
      raise Exception("Unexpected error in retrieves_metrics_of_a_crawler: " + e.__str__())
print(retrieves_metrics_of_a_crawler(["crawler_for_s3_file_job"]))

出力

{'CrawlerMetricsList': [{'CrawlerName': crawler_for_s3_file_job,
'TimeLeftSeconds': 0.0, 'StillEstimating': False, 'LastRuntimeSeconds':
79.673, 'MedianRuntimeSeconds': 79.673, 'TablesCreated': 1,
'TablesUpdated': 0, 'TablesDeleted': 0}], 'ResponseMetadata':
{'RequestId': '680cf4ca-********0abe', 'HTTPStatusCode': 200,
'HTTPHeaders': {'date': 'Sun, 28 Feb 2021 11:38:08 GMT', 'content-type':
'application/x-amz-json-1.1', 'content-length': '216', 'connection':
'keep-alive', 'x-amzn-requestid': '680cf4ca-******************0abe'},
'RetryAttempts': 0}}