Fractal Prologue 徒然なるままに...データと遊ぶ
Posts with the tag AWS:

Step Functions から Glue のジョブパラメータを指定して実行する方法

はじめに Glue を使ってデータ連携する際に,例えばデータ連携したい期間を変えたり,環境情報を渡したり,などのパラメータを与えて実行したい場合の備忘録です.特に,Step Functions (SFn) 経由で Glue を実行する場合に,インプッ

Step Functions での Opensearch Package の更新は直列or並列?

はじめに OpenSearch の Package 更新,つまりユーザー辞書やシノニム辞書の更新を Step Functions で行う場合に,直列で行うのが良いか並列で行うのが良いかメモ程度の備忘録として残しておきます. 結論としては,OpenSearch の Package 更新は

Github Actions と CodePipeline を使って Step Functions を動かす CI/CD を構築

はじめに 2ヶ月以上ご無沙汰になってしまいましたが,久しぶりのテックブログになります.今回はタイトルにもあるように,Github Actions と CodePipeline を使ってマージトリガーで Step Functions のパイプラインを動かす CI/CD を構築したお話に

Step Functions で自作 Dockerfile を使って SageMaker の GPU マシンを動かす方法

はじめに Step Functions で SageMaker のリソースを特にカスタムコンテナイメージで使う場合,単純に InstanceType として “ml.g4dn.xlarge” などの GPU マシンを設定するだけでは GPU を使った学習はできなくて,使いたいDockerfile に少し手を加える必要がありま

ValueError: Must setup local AWS configuration の対処方法

はじめに Step Functions で SageMaker ProceesingJob を使ってカスタムコンテナを実行した際に,その実行スクリプト内で ExperimentAnalytics の API を使用していたところ,「ValueError: Must setup local AWS configuration with a region supported by SageMaker.」というエラーが発生したので