iT邦幫忙

2025 iThome 鐵人賽

DAY 21
0
IT 管理

Playwright + Test Design + AI Agent:自動化測試實戰系列 第 21

第 21 天:以氣禦針 - 根據測試計畫用 GitHub Copilot 執行測試

  • 分享至 

  • xImage
  •  

葵花寶典的修行者,在練成絕世武功後,能夠做到「以氣禦針」,讓一根小小的繡花針發揮出無窮威力。在自動化測試中,我們在第 20 天已經有了完整的測試計畫,今天,我們將撰寫 Prompt 讓 GitHub Copilot 幫我們執行測試計畫的測試案例。

內功心法:讓 GitHub Copilot 解讀測試計畫

傳統上,將測試計畫中的每一個案例手動轉化為測試行為,是一個需要花費時間執行並且可能會出錯。但有了 GitHub Copilot ,我們可以讓它直接執行我們的測試計畫。第一步,就是讓 GitHub Copilot 能夠解讀產出的測試計畫。

招式演練:從測試計畫到自動化執行

讓 GitHub Copilot 解讀測試計畫

首先,我們將第 20 天產出的測試計畫檔案,作為 GitHub Copilot 的輸入。這份檔案包含了我們對測試的所有意圖,例如:測試案例的標題、前置條件、測試步驟和預期結果。GitHub Copilot 會根據這些資訊,理解我們想要測試的業務邏輯和使用者行為。

招式演練:根據測試計畫執行手動測試

根據 manual-tests/comprehensive-manual-test-plan.md 執行手動測試 with Playwright MCP,並且依據指示產生測試 report

https://ithelp.ithome.com.tw/upload/images/20251005/2016944233RYmFVPRP.png

以下是我們在手動測試指引中,為 GitHub Copilot 提供的指引。

---
mode: agent
tools: ['changes', 'codebase', 'editFiles', 'fetch', 'findTestFiles', 'problems', 'runCommands', 'runTasks', 'runTests', 'search', 'searchResults', 'terminalLastCommand', 'terminalSelection', 'testFailure', 'playwright', 'browser_click', 'browser_close', 'browser_console_messages', 'browser_drag', 'browser_file_upload', 'browser_handle_dialog', 'browser_hover', 'browser_install', 'browser_navigate', 'browser_navigate_back', 'browser_navigate_forward', 'browser_network_requests', 'browser_pdf_save', 'browser_press_key', 'browser_resize', 'browser_select_option', 'browser_snapshot', 'browser_tab_close', 'browser_tab_list', 'browser_tab_new', 'browser_tab_select', 'browser_take_screenshot', 'browser_type', 'browser_wait_for']
model: 'Claude Sonnet 4'
---

# 手動測試指引(Manual Testing Instructions)
- 使用 Playwright MCP Server 來手動執行使用者提供的測試計畫(Test Plan)。若使用者沒有提供測試計畫,請他提供測試計畫。
- 根據提供的測試計畫裡面的測試案例,並依照描述執行步驟。若沒有提供測試案例,可以要求使用者補充。
- 觀察並驗證預期的行為,並且注意是否下列幾點:
	- 無障礙(Accessibility)
	- UI 結構
	- 使用者體驗(UX)
- 用自然且清楚的文字回報測試結果,內容應包含:
	- 執行步驟:你做了哪些操作(例如導覽、點擊、輸入、檢查條件等)。
	- 觀察結果:實際看到的結果(畫面變化、狀態更新、可及性測試結果等)。
	- 問題與異常:是否發現任何錯誤、非預期行為或可及性疑慮。
- 在報告中引用相關的 URL、元件角色(element roles) 及細節,用來說明測試結果。

# 範例報告格式
- 情境(Scenario): [簡要描述]
- 執行步驟(Steps Taken): [列出執行的動作]
- 結果(Outcome): [實際觀察到的情況與檢查結果]
- 發現的問題(Issues Found): [列出所有問題或異常現象]


請將報告以 .md 格式 儲存至 "manual-tests" 目錄中,
並附上相關的螢幕截圖(snapshot),以協助說明問題或驗證預期行為。

這份指引主要分為兩個部分:手動測試的準則、輸出範例報告格式,並且將結果儲存至 manual-tests 資料夾,可以供我們閱讀。

執行結果

當 GitHub Copilot 執行後,他會自動產生測試報告,中間不需要撰寫任何程式碼。以下是我執行後 GitHub Copilot 的一次結果,因為根據執行的測試對象和時間不同,可能會導致手動測試報告結果與下列不一致,只需要調整 Prompt 就可以產生對應的測試報告格式。

測試報告的結構與洞察

這份報告雖然是 AI 產生的,但其結構和內容可以將其分為幾個部分來解析並且提供改進的地方:

  • 測試總覽和環境: 報告開頭會提供測試時間、執行者、使用的工具和環境。這類資訊對於未來重現問題至關重要。我們可以先快速瀏覽測試結果和通過率,再決定是否需要深入研究細節。
  • 詳細測試結果: 每個測試案例都記錄了具體的執行步驟和觀察結果。通常,通過的案例可以先略過,但如果看到「部分通過」或「失敗」的案例,就必須特別留意。例如,報告中提到的「表單提交觸發機制」問題,提出了「錯誤訊息顯示機制不夠即時」的建議,也許這裡是我們可能遺漏的地方。
  • UI/UX 觀察:通常只能參考使用,作為專業的測試人員,需要使用自己的經驗和同理心,去判斷這些建議是否合理,並評估對使用者體驗的真實影響。
  • 發現的問題:這部分需要人為介入,判斷是需要修改測試案例,還是直接修改產品程式碼。
  • 測試覆蓋率分析:這部分提供了哪些測試案例未被涵蓋的資訊,讓我們能瞭解潛在的風險範圍。
  • 總結與建議: 報告最後的總結部分,提供了對整體系統的評估,以及進一步的改善建議。我們還可以要求 GitHub Copilot 在測試失敗時,除了截圖,還能收集產品日誌,以利後續的除錯。
# 手動測試報告:登入與訂單系統

**測試執行日期:** 2025-10-05  
**測試執行者:** GitHub Copilot  
**測試工具:** Playwright MCP Server  
**測試環境:** Chrome (Chromium), macOS  

---

## 測試總覽

根據 `comprehensive-manual-test-plan.md` 執行手動測試,共完成 **8 個主要測試案例**,涵蓋登入功能、訂單建立功能和資料完整性驗證。

### 測試結果總計
- **總測試案例數:** 8
- **通過案例數:** 7
- **失敗案例數:** 1
- **通過率:** 87.5%

---

## 詳細測試結果

### 1. 登入功能測試

#### 測試案例 1.1:正常登入流程 ✅ **通過**
- **執行步驟:**
  1. 導航至 `login.html` 頁面
  2. 輸入使用者名稱:"testuser"
  3. 輸入密碼:"password123"
  4. 點擊「登入」按鈕
- **觀察結果:** 
  - 成功顯示綠色的 "Welcome" 訊息
  - 表單資料保留在欄位中
  - 頁面回應即時,無延遲
- **驗收狀態:** ✅ 符合預期結果
- **截圖:** `test-1-1-success.png`

#### 測試案例 1.2:錯誤密碼登入 ✅ **通過**
- **執行步驟:**
  1. 導航至 `login.html` 頁面
  2. 輸入使用者名稱:"testuser"
  3. 輸入錯誤密碼:"wrongpassword"
  4. 點擊「登入」按鈕
- **觀察結果:**
  - 正確顯示紅色錯誤訊息「帳號或密碼錯誤」
  - 錯誤訊息位置合適,易於識別
  - 使用者名稱和密碼資料保留在欄位中
- **驗收狀態:** ✅ 符合預期結果
- **截圖:** `test-1-2-error.png`

#### 測試案例 1.3:不存在的使用者帳號 ✅ **通過**
- **執行步驟:**
  1. 導航至 `login.html` 頁面
  2. 輸入不存在的使用者名稱:"nonexistentuser"
  3. 輸入任意密碼:"anypassword"
  4. 點擊「登入」按鈕
- **觀察結果:**
  - 正確顯示錯誤訊息「帳號或密碼錯誤」
  - 錯誤處理邏輯與錯誤密碼案例一致
  - 不會洩露帳號是否存在的資訊(良好的安全實務)
- **驗收狀態:** ✅ 符合預期結果

#### 測試案例 1.4:空白欄位提交 ✅ **通過**
- **執行步驟:**
  1. 導航至 `login.html` 頁面
  2. 保持使用者名稱和密碼欄位為空
  3. 點擊「登入」按鈕
- **觀察結果:**
  - 正確顯示錯誤訊息「請輸入帳號與密碼」
  - 錯誤訊息明確指出需要填寫的欄位
  - 輸入驗證運作正常
- **驗收狀態:** ✅ 符合預期結果
- **截圖:** `test-1-4-empty.png`

#### 測試案例 1.5:帳號被鎖定情境 ✅ **通過**
- **執行步驟:**
  1. 導航至 `login.html` 頁面
  2. 輸入被鎖定的使用者名稱:"locked_user"
  3. 輸入任意密碼:"anypassword"
  4. 點擊「登入」按鈕
- **觀察結果:**
  - 正確顯示特定錯誤訊息「此帳號已被停用」
  - 提供明確的帳號狀態資訊
  - 區別於一般的帳號密碼錯誤
- **驗收狀態:** ✅ 符合預期結果
- **截圖:** `test-1-5-locked-account.png`

### 2. 訂單建立功能測試

#### 測試案例 2.1:正常訂單建立流程 ✅ **通過**
- **執行步驟:**
  1. 導航至 `order.html` 頁面
  2. 輸入商品名稱:"筆記型電腦"
  3. 輸入數量:"2"
  4. 點擊「送出訂單」按鈕
- **觀察結果:**
  - 成功顯示綠色成功訊息「訂單建立成功!您的訂單已送出並儲存至系統。」
  - 正確顯示訂單摘要:「商品: 筆記型電腦, 數量: 2」
  - 表單被自動清空,準備下一次輸入
  - 頁面顯示已登入使用者資訊
- **驗收狀態:** ✅ 符合預期結果
- **截圖:** `test-2-1-success.png`

#### 測試案例 2.2:空白商品名稱提交 ⚠️ **部分通過**
- **執行步驟:**
  1. 導航至 `order.html` 頁面
  2. 保持商品名稱欄位為空
  3. 輸入數量:"1"
  4. 點擊「送出訂單」按鈕
- **觀察結果:**
  - ⚠️ **注意:** 錯誤訊息需要手動觸發表單事件才會顯示
  - 錯誤訊息正確顯示:「請填寫完整的商品資訊」
  - 表單驗證邏輯正確,但觸發機制可能需要改善
- **發現問題:** 錯誤訊息顯示機制不夠即時
- **建議:** 改善表單提交的事件處理,確保錯誤立即顯示
- **截圖:** `test-2-2-empty-product.png`

#### 測試案例 2.3:空白數量提交 ✅ **通過**
- **執行步驟:**
  1. 導航至 `order.html` 頁面
  2. 輸入商品名稱:"滑鼠"
  3. 保持數量欄位為空
  4. 點擊「送出訂單」按鈕
- **觀察結果:**
  - 正確顯示錯誤訊息「請填寫完整的商品資訊」
  - 與空白商品名稱情況的錯誤處理一致
  - 表單驗證涵蓋所有必填欄位
- **驗收狀態:** ✅ 符合預期結果

### 3. 資料完整性測試

#### 測試案例 4.1:訂單資料儲存驗證 ✅ **通過**
- **執行步驟:**
  1. 在 `order.html` 頁面建立訂單(商品:「測試商品」,數量:3)
  2. 使用瀏覽器開發者工具檢查 DOM
  3. 驗證隱藏的模擬資料庫區域
- **觀察結果:**
  - ✅ 訂單記錄正確建立 (`order-created` class 存在)
  - ✅ 商品名稱正確儲存:「測試商品」
  - ✅ 數量正確儲存:「3」
  - ✅ 時間戳記自動生成:`2025-10-04T17:44:39.028Z`
  - ✅ 使用者資訊正確記錄:「testuser」
- **驗收狀態:** ✅ 完全符合預期結果

---

## UI/UX 觀察

### 頁面載入與外觀
- **登入頁面:** 設計簡潔,元件排列合理,藍色按鈕樣式一致
- **訂單頁面:** 已登入使用者資訊顯示清楚,表單結構良好
- **響應性:** 所有互動元件回應迅速
- **accessibility:** 表單元件具備適當的 label 和 placeholder

### 錯誤訊息 UX
- **顏色配置:** 錯誤訊息使用紅色,成功訊息使用綠色,符合使用者期望
- **訊息位置:** 錯誤訊息顯示在表單下方,位置合適
- **訊息內容:** 錯誤訊息清楚明確,提供具體的指導資訊

---

## 發現的問題

### 1. 表單提交觸發機制 (優先級: 中)
- **問題描述:** 訂單表單的錯誤驗證需要手動觸發事件才會顯示
- **影響範圍:** 使用者體驗,可能造成混淆
- **建議修復:** 改善按鈕點擊事件處理,確保驗證立即執行

### 2. 瀏覽器原生驗證提示 (優先級: 低)
- **觀察:** 在某些情況下會出現瀏覽器原生的「Please fill out this field」提示
- **建議:** 統一使用自定義的中文錯誤訊息

---

## 測試覆蓋率分析

### 已測試功能
- ✅ 正常登入流程
- ✅ 各種錯誤登入情境
- ✅ 表單驗證邏輯
- ✅ 訂單建立流程
- ✅ 資料儲存機制
- ✅ 錯誤處理與使用者回饋

### 未涵蓋的測試案例
由於時間限制,以下測試案例未完整執行:
- 零數量或負數量訂單測試
- 特殊字元商品名稱測試
- 大數量訂單測試
- 詳細的鍵盤導航測試
- 跨瀏覽器相容性測試

---

## 總結與建議

### 整體評估
系統基本功能運作良好,核心的登入和訂單建立流程都能正確執行。錯誤處理機制完善,使用者體驗良好。

### 主要優點
1. **功能完整性:** 所有核心功能按預期運作
2. **錯誤處理:** 涵蓋多種錯誤情境,訊息清楚明確
3. **資料完整性:** 模擬資料庫正確儲存所有必要資訊
4. **使用者介面:** 設計簡潔,互動直觀

### 改善建議
1. **即時驗證:** 改善表單提交的事件處理機制
2. **測試涵蓋:** 增加邊界情況和極端數值的測試
3. **回歸測試:** 建立自動化測試確保修改後功能正常
4. **效能優化:** 雖然目前回應速度良好,可考慮加入載入指示器

### 通過準則達成狀況
- **高優先級測試通過率:** 100% (5/5)
- **中優先級測試通過率:** 100% (2/2)
- **整體功能正確性:** ✅ 達標
- **使用者體驗品質:** ✅ 達標
- **資料完整性:** ✅ 達標

---

**報告生成時間:** 2025-10-05  
**測試持續時間:** 約 25 分鐘  
**相關截圖:** 6 張測試截圖已保存在 `.playwright-mcp/` 目錄

我們使用昨天建立的測試計畫,並且透過 GitHub Copilot 閱讀這份測試計畫並執行裡面的測試案例,其中使用的工具是 Playwright MCP (第三天有介紹安裝步驟),透過這樣的方式,我們可以讓 GitHub Copilot 執行簡單的測試,會大幅減少測試的時間,這時測試人員可以去測試業務邏輯更為複雜的功能或是新的功能的測試,接下來,為了確保每次執行的測試案例和測試涵蓋率都是一致的,我們仍然需要撰寫測試程式碼

收功:今日總結

這份範例證明了 AI 在軟體測試領域的巨大潛力。它將傳統上耗時且需要大量人工操作的流程,轉變為一個高度自動化的流程。然而,我們也應當理解,AI 扮演的角色是強大的輔助者。測試計畫的品質,一開始的測試案例依然是整個流程的基石。AI 能夠放大我們的專業,快速產生與執行測試,並從資料中提出遺漏的地方,但最終的決策、對品質的承諾,以及對系統行為的深度了解,目前仍然需要人類的判斷。因此,最好的策略是將 AI 視為一個工作夥伴,用來處理繁瑣的執行細節,讓我們能更專注於高價值的策略性工作,例如:設計更具挑戰性的測試情境、分析複雜的系統行為,以及確保產品的整體品質。


上一篇
第 20 天:意念先行 - 用自然語言設計測試計畫
下一篇
第 22 天:葵花寶典之繡花針:從 OpenAPI 規格到程式碼生成
系列文
Playwright + Test Design + AI Agent:自動化測試實戰22
圖片
  熱門推薦
圖片
{{ item.channelVendor }} | {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言