クラウド事業部の原口です。
さて、今回はblue/greenデプロイにおけるタスク定義の管理方法について少し考えてみました。
AWS ECSのCI/CD環境としてはCodePipeline(CodeCommit -> CodeBuild -> CodeDeploy )を使った自動化を利用していますが、taskdef.jsonの管理に困っていました。
困ってたこと
・インフラとアプリのリポジトリは別でtaskdef.jsonをどちらで管理するのがよいか悩んでいた
・というか、タスク定義は緊急でマネージメントコンソールからぽちぽちして修正される時があったり(！)
・stageやproductionなどの環境の違いによってどう管理していけばよいか難しい
・正直 image部分くらいしか書き換える事ほとんど無いのにタスク定義の全文を持ってないといけない
方針
以上の事から、CodeBuild内でtaskdef.jsonを生成してしまえばいいのではないかと思いました。
・codebuildにて現在のECSタスク定義の最新の定義をjsonで取得
・jqコマンドでごにょごにょして整形したり、データを置換したり、環境変数によって値を変えたり
・ビルドアーティファクトとしてtaskdef.jsonを生成してCodeDeployに渡す
アプリ側のデプロイフローにおけるタスク定義は現在のECSタスク定義の最新からimageを変更したものを利用するという形にしてしまおうという感じです。
やってみた
buildspec.ymlを以下のように設定します
1version: 0.2
2
3env:
4 variables:
5 AWS_REGION: "ap-northeast-1"
6 AWS_ECR_DOMAIN: "xxxxxxxx.dkr.ecr.ap-northeast-1.amazonaws.com"
7 AWS_ECR_REPO: "sample-app"
8phases:
9 pre_build:
10 commands:
11 - REPOSITORY_URI=$AWS_ECR_DOMAIN/$AWS_ECR_REPO
12 # ECRにログイン
13 - aws ecr get-login-password --region $AWS_REGION | docker login --username AWS --password-stdin $AWS_ECR_DOMAIN
14 # 次のECRイメージタグをCOMMIT_HASHから決定する
15 - REPOSITORY_URI=$AWS_ECR_DOMAIN/$AWS_ECR_REPO
16 - COMMIT_HASH=$(echo $CODEBUILD_RESOLVED_SOURCE_VERSION | cut -c 1-7)
17 - IMAGE_TAG=${COMMIT_HASH:=latest}
18 # AWS CLI v2 をインストール
19 - curl "https://awscli.amazonaws.com/awscli-exe-linux-aarch64.zip" -o "awscliv2.zip"
20 - unzip -q awscliv2.zip
21 - ./aws/install --bin-dir /root/.pyenv/shims --install-dir /usr/local/aws-cli --update
22 build:
23 commands:
24 - docker build -t $AWS_ECR_REPO:app-latest -f docker/app/Dockerfile .
25 post_build:
26 commands:
27 # push image
28 - docker tag $AWS_ECR_REPO:app-latest $REPOSITORY_URI:$IMAGE_TAG
29 - docker push $REPOSITORY_URI:$IMAGE_TAG
30 # Codedeployのためのbuildアーティファクトを作成する
31 - IMAGE=$REPOSITORY_URI:$IMAGE_TAG
32 - aws ecs describe-task-definition --task-definition sample-app-task | jq '.taskDefinition | del (.taskDefinitionArn, .revision, .status, .requiresAttributes, .compatibilities)' | jq --arg image $IMAGE '.containerDefinitions[].image=$image' > taskdef.json
33artifacts:
34 files:
35 - taskdef.json
36 - appspec.yaml解説
codebuildのaws cliを最新にする
codebuildのaws cliはバージョンが低い事があるので最新にします。これをしていないとタスク定義のjsonに一部抜けがあったりしてうまく設定できません。
横道に逸れますがARM64のタスク定義指定ぶぶんがごっそり抜け落ちてて、x86になっており、タスクが以下のようなエラーで落ちる状態になった事で気づきました。以下のエラーはimageがbuildされたアーキテクチャとタスク定義のアーキテクチャが異なる時に出るエラーですので覚えておくといいかもしれないですね。
exec user process caused “exec format error”
こちらについては弊社の一つ前の記事をご参照ください
AWS Codebuildのコンテナイメージ”ARM64″を利用する際にAWS CLIの注意点
1 - curl "https://awscli.amazonaws.com/awscli-exe-linux-aarch64.zip" -o "awscliv2.zip"
2 - unzip -q awscliv2.zip
3 - ./aws/install --bin-dir /root/.pyenv/shims --install-dir /usr/local/aws-cli --update最新のタスク定義を取得してjqでごにょごにょする
1aws ecs describe-task-definition --task-definition sample-app-task \
2| jq '.taskDefinition \
3| del (.taskDefinitionArn, .revision, .status, .requiresAttributes, .compatibilities)' \
4| jq --arg image $IMAGE '.containerDefinitions[].image=$image' \
5 > taskdef.json上記のコマンドでtaskdef.jsonを生成していますが、
少し分解しながら見ていきます
1aws ecs describe-task-definition --task-definition sample-app-taskaws ecs describe-task-definitionコマンドでタスク定義を取得してきます。
ですのでcodebuildのサービスロールへ上記の権限ポリシーを追加してください。
上記コマンドで最新のタスク定義がjsonで取得できるのですが、不要な項目を削除していきます。
参考 :
Amazon ECSで、サービスが参照するタスク定義のリビジョンのみを更新する
1| jq '.taskDefinition \
2| del (.taskDefinitionArn, .revision, .status, .requiresAttributes, .compatibilities)' \最後に image のところに定義されている image URLを最新にpushされたimageのものに変更します。jqで環境変数を使う場合は以下のように –argで指定しないといけないみたいですね。
1| jq --arg image $IMAGE '.containerDefinitions[].image=$image'当然、image URLを直で設定しているので IMAGE1_NAME みたいな codepupelineにおけるプレースホルダを持たせる必要がありません。
同時にimageDetail.jsonの生成も不要になります。
まとめ
taskdef.jsonをcodebuildで作成する手順でした。
ここではやりませんでしたが、codebuildに与えた環境変数でtaskdef.jsonの中の値を変える事ができるようになりますので、stageやprodといった複数環境での取り回しも応用的にやっていけるのではないかと思います。
では!