iT邦幫忙

2023 iThome 鐵人賽

DAY 28
0

Amazon AWS EC2 連線

更改 pem 檔案權限

chmod 400 airflow-ec2-key.pem

連線到 EC2

ssh -i airflow-ec2-key.pem ubuntu@172.31.167.27
  • ubuntu 是預設的使用者名稱
  • 172.31.167.27 是我的 public IP,記得改成你的(這個172開頭的是private,只是舉例喔~)
  • -i,代表互動,就是要進到終端機的意思

如果從本機連線發現有問題,也可以改成直接用 aws 的 cloud shell 來操作

  1. 進到 instance,點擊 connect
    https://ithelp.ithome.com.tw/upload/images/20231013/20135427GaIcPhhRWo.png

  2. 有四種方式,直接選第一種「EC2 Instance Connect」

上面 ssh 用的就是第三種 SSH Client
https://ithelp.ithome.com.tw/upload/images/20231013/20135427spjiRBnuan.png

Docker Installation

  1. 設定 Apt Repository
# Add Docker's official GPG key:
sudo apt-get update
sudo apt-get install ca-certificates curl gnupg
sudo install -m 0755 -d /etc/apt/keyrings
curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /etc/apt/keyrings/docker.gpg
sudo chmod a+r /etc/apt/keyrings/docker.gpg

# Add the repository to Apt sources:
echo \
  "deb [arch="$(dpkg --print-architecture)" signed-by=/etc/apt/keyrings/docker.gpg] https://download.docker.com/linux/ubuntu \
  "$(. /etc/os-release && echo "$VERSION_CODENAME")" stable" | \
  sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
sudo apt-get update
  1. 安裝 Docker 套件
sudo apt-get install docker-ce docker-ce-cli containerd.io docker-buildx-plugin docker-compose-plugin
  1. 確認安裝
docker -v

來源: docker 官網步驟

Docker Compose Installation

檢查插件目錄是否存在

  • mkdir -p 代表不存在的話就創資料夾
mkdir -p ~/.docker/cli-plugins/

下載 2.2.3 版

curl -SL https://github.com/docker/compose/releases/download/v2.2.3/docker-compose-linux-x86_64 -o ~/.docker/cli-plugins/docker-compose

設定權限讓docker-compose命令可執行

chmod +x ~/.docker/cli-plugins/docker-compose

驗證安裝是否成功

docker-compose --version

安裝完 docker 和 Docker Compose 之後勒

回到 [Day16] 用 Docker Compose 建立 Airflow 環境 跟著安裝就能完成了喔~

遇到問題

/usr/local/bin/docker-compose: 1: Not: not found
  • docker-compose 指令 改成 docker compose 就可以了

  • 其他問題就加 sudo、查 stackoverflow 或是留言也可以

昨天的文章也有重新調整喔~

開啟之前設定 security

這樣才能透過網址從外部連線

  • 點擊下方 security group
    https://ithelp.ithome.com.tw/upload/images/20231015/20135427raTorgM3TL.png

  • 點擊 Edit inbound rules
    https://ithelp.ithome.com.tw/upload/images/20231015/20135427Oww2ZKghw6.png

  • 新增 8080 port 連線,選擇任何IP都能連線(有點危險😂),接下來就按 save rules 儲存
    https://ithelp.ithome.com.tw/upload/images/20231015/20135427y6cZuaJhsC.png

  • 接著只要開啟網址的 8080 port就可以了

去到 Instance 主頁看 Public IPv4 DNS 再加上 :8080 就會看到熟悉的 airflow 登入頁了


上一篇
[Day27] Amazon AWS EC2 免費部署 Airflow (1)
下一篇
[Day29] 學海無涯,需求是岸-Airflow 資源分享
系列文
Airflow 是什麼? 能吃嗎 ? 數據水管工的超級蘑菇30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言