Skip to main content

從友智雲建立 AFS AI Hub 映像檔

前置步驟​

Step 1. 建立虛擬網路​

進入友智雲算力中心->虛擬網路介面->虛擬網路->點擊「建立」 虛擬網路管理

Step 2. 建立安全群組​

第一步 ->點擊「安全群組」，並點選「建立」​

image

第二步 ->進入「建立安全群組」畫面，可自由自訂名稱與描述，名稱欄位為必填欄位​

第三步 ->規則設定​

請點選「新增安全群組規則」，並將以下通訊通訊埠進行設定

  • 22（系統維護 / SSH）
    方向=ingress, 網路類型=IPv4, 連結埠範圍(最小/最大)=22/22, 協定=tcp, CIDR=0.0.0.0/0
  • 443（HTTPS 加密網頁服務）
    方向=ingress, 網路類型=IPv4, 連結埠範圍(最小/最大)=443/443, 協定=tcp, CIDR=0.0.0.0/0
  • 8080（API 服務端點）
    方向=ingress, 網路類型=IPv4, 連結埠範圍(最小/最大)=8080/8080, 協定=tcp, CIDR=0.0.0.0/0
  • 8443（Keycloak 身分驗證服務）
    方向=ingress, 網路類型=IPv4, 連結埠範圍(最小/最大)=8443/8443, 協定=tcp, CIDR=0.0.0.0/0
  • 8030 ~ 8079（AI 應用服務預留區段，可依實際需求調整）
    方向=ingress, 網路類型=IPv4, 連結埠範圍(最小/最大)=8030/8079, 協定=tcp, CIDR=0.0.0.0/0

完成畫面參考 建立安全性群組

Step 3. 建立鑰匙對​

虛擬機器->選擇「鑰匙對」，並點擊建立 鑰匙對管理

Step 4 建立虛擬機​

1. 基本設定​

  • 請填寫名稱、描述等基本資訊。
  • 映像檔來源請選擇 AFS AI Hub。 image

2. 硬體設定​

  • 型號請視您欲使用的模型選擇，詳細請參考[AFS AI Hub 模型及對應 GPU 型號] image

  • 例：如您欲使用 gpt-oss-120B 或 Llama3.3-FFM-70B 模型，請選擇 ugv.2g24c 以上規格。 image

3. 虛擬網路​

  • 虛擬網路請選擇前置作業建立的虛擬網路、安全群組。 虛擬網路設定

4. 儲存資訊​

  • 請視您欲使用的模型來掛載虛擬磁碟，AFS AI Hub 模型清單。
  • 例：如您欲使用 gpt-oss-120B 或 Llama3.3-FFM-70B 模型，請掛載 512 GB 以上虛擬磁碟。 掛載虛擬磁碟

5. 認證​

  • 請選擇前置作業建立的鑰匙對。並自訂密碼。 鑰匙對

該步驟完成後，進入「初始化指令」，並點擊「檢閱+建立」

6. 建立虛擬機並配置浮動 IP​

  • 建立虛擬機成功後，請點擊虛擬機進入詳細資料頁面配置浮動 IP。 配置浮動IP

**上述前置步驟完成後，請開啟命令提示字元or MobaXTerm

啟動 AFS AI Hub​

1. SSH 連線​

  • 虛擬機建立完畢後，需透過 SSH 連線至虛擬機，以下以 MobaXTerm 為例。請輸入 SSH 指令：
ssh -i "{{ 你的鑰匙對路徑 }}" -o ServerAliveInterval=60 -o ServerAliveCountMax=3 ubuntu@{{ 主機IP }}

2. -加掛硬碟至/opt目錄​

AFS-AI-Hub會將模型放置於此，會需要大容量空間，因此需要加掛硬碟。 如不確定執行步驟，請參閱補充步驟說明1

3. -設定開機自動掛載opt目錄​

為了避免重開機後掛載設定遺失，請務必執行該步驟。 相關指令請參閱補充步驟說明2

啟動 AFS AI Hub​

  • 虛擬機連線後，執行 AFS AI Hub 啟動指令：
./ffm-hub-installer/deploy/redeploy.sh --public-ip
  • 該指令會自動抓取對外 IP 進行 AFS AI Hub 啟動流程，待看到以下輸出即代表啟用完成：

佈署完畢輸出

執行完成後即可開始使用AFS AI Hub

4. 開始使用 AFS AI Hub​

  • 開啟瀏覽器輸入 https://{{ 虛擬機IP }} 進入網頁，由於預設使用自簽憑證，請點選「繼續前往網站」即可。
  • 若無法連上網站，請等待一段時間後再試。

不是私人連線

  • 安裝完 AFS AI Hub 後初始登入，帳號密碼請填 afs-admin，點選登入。

登入畫面

  • 登入成功後，從左下角選單：平台管理 > 帳號管理，變更 afs-admin 的密碼，以確保不易被惡意測試者登入。密碼變更後，可至 平台管理操作說明 開始新增使用者或下載模型。

登入後介面 修改使用者

修改 Keycloak 初始帳號密碼​

AFS AI Hub 使用 Keycloak 做為身分驗證器。為了提升安全性，系統安裝後，請更換 Keycloak 初始管理帳號的密碼，操作如下：

瀏覽器輸入 https://{{您的IP}}:8443/，初次登入帳密皆為 admin。

  • 側邊欄進入 Manage realms 選擇 master：

image

  • 側邊欄選擇 User，點擊 admin：

image

  • 選擇 Credentials → Reset password：

image

  • 輸入新的密碼，並關閉 Temporary，點選 save 即可：

image

補充步驟說明​

補充步驟1：掛載磁碟至 /opt​

SSH連線啟動完成後，請依照以下步驟掛至 /opt 目錄。

第一步：格式化磁碟​

請執行以下指令，將新的磁碟格式化

# 將 /dev/vdb 格式化為 ext4
sudo mkfs -t ext4 /dev/vdb

第二步：執行掛載opt目錄​

原則上opt目錄是已存在的，因此只須執行掛載即可 可先透過以下指令檢查目前空間，確認此時opt目錄是否真的沒有掛載上去

df -h

重開機後的空間示意圖

請執行以下指令進行opt目錄掛載

 sudo mount /dev/vdb /opt
 # 密碼為先前鑰匙對設定的密碼

執行完後可透過以下指令進行確認

df -h | grep vdb

如顯示下圖樣式，即說明已重新加掛完成 重新加掛完成示意圖

補充步驟2：設定開機自動掛載（永久生效）​

這個步驟是避免後續 VM 重啟後空間消失，要重新執行加掛步驟 不限執行時機

  1. 取得硬碟的 UUID：
sudo blkid /dev/vdb
  1. 將 UUID（UUID="xxxx-xxxx-..."）複製到記事本中，並刪除ID中的上下引號"" 範例：UUID=67b91a04-5aa9-4cc5-bb51-570eb213abf3
  2. 開啟設定檔：
# 輸入該指令可進入設定檔
sudo nano /etc/fstab
  1. 將以下這行複製並貼到檔案的最末端：
UUID=步驟2記錄在記事本的UUID /opt ext4 defaults 0 2

範例：UUID=67b91a04-5aa9-4cc5-bb51-570eb213abf3 /opt ext4 defaults 0 2

(註：使用 UUID 比使用 /dev/vdb 更安全，因為磁碟代號有時會變動) 設定檔示意圖

  1. 儲存並離開： 按 Ctrl + O 再按 Enter 儲存，最後按 Ctrl + X 離開。

第五步：測試設定是否正確​

為了確保 /etc/fstab 沒有打錯（打錯可能會導致下次無法正常開機），請執行：

sudo mount -a

正常不會出現任何訊息即代表沒有問題。

執行以下指令做最後的檢查：

df -h /opt

預期輸出類似如下：

Filesystem      Size  Used Avail Use% Mounted on
/dev/vdb        984G   28K  934G   1% /opt