在 GitLab 顯示測試覆蓋率:以 Go 為例

在 GitLab 顯示測試覆蓋率:以 Go 為例
Photo by Lukas Blazek / Unsplash

對現代開發者來講,單元測試已經不是可選,而是必備了。單元測試能保護程式碼,讓錯誤提早現形,也能讓重構時更安心。通常我們在評估單元測試的執行狀況時,會用 coverage 當成其中一項指標。當然,coverage 還是會有一些使用的場合跟侷限,當談到專案落地,可能大家會想知道的是,coverage 該怎麼使用,才能幫助到專案?

開發、審查、回顧

我們先來看看什麼時候會需要知道 coverage?通常依照團隊的工作流程,將它分為三個階段:開發、審查、回顧。每個階段關注的場景會略有不同。

一個一個講。對開發中情形,開發者想知道的是剛寫完的邏輯是否能正常運行,有沒有對應的測試,覆蓋範圍是否已經足夠,如果還有條件分支沒覆蓋到的話,是哪裡?是不是每個錯誤都有處理了。這時最需要的是,codebase 要能 highlight 剛剛講的資訊,幫助開發者一眼掌握。

當開發完成,feature branch 被提交到原始碼管理系統,例如 GitLab,會需要一名 Reviewer 來負責審查。審查過程中,Reviewer 會看 coverage 來評估代碼品質,像是提交版本的覆蓋率是多少?跟前一版本比較起來,覆蓋率有沒有下降?哪些新寫的代碼是沒有覆蓋到的?

而當專案進展到一個 Milestone,專案負責人想要回顧專案執行狀況,以安排接下來的計畫,這時會需要先蒐集一些資訊。通常 codebase 覆蓋率可能會被當成某種品質指標,用來放進關鍵結果中。

解題思路

當我們釐清需求與場景後,接著可以來想解法了。

開發中的場景很單純,因為現在的 Editor 或 IDE 幾乎都有提供相關的插件,讓開發者能自行驗證,以 VSCode 來說,如果你有安裝官方的 Go 語言 Extension,它就能支援單元測試。如果你沒有,那也不要緊,因為 Go 已經幫你將測試工具整合進 CLI,只要自行呼叫就可以了。

~/git/ken/test-server: go test -coverprofile=c.out ./...                                                                                                
?       test-server     [no test files]
?       test-server/cmd/server  [no test files]
?       test-server/internal/config     [no test files]
?       test-server/internal/handler    [no test files]
ok      test-server/internal/service    0.437s  coverage: 88.2% of statements

審查中的場景比較麻煩,畢竟各家版控服務都不相同,需要在意的點也不同,以 GitLab 為例,Reviewer 需要知道的是 MR 時,整體的 coverage 有多少?哪些代碼有覆蓋哪些沒有?GitLab 文件中有兩個功能看起來不錯,第一個是 Merge request test coverage results,能抓出 coverage 的數值

If you use test coverage in your code, you can use a regular expression to find coverage results in the job log. You can then include these results in the merge request in GitLab.

第二個是 Test coverage visualization,能在 MR 的 diff view 中呈現覆蓋的程式碼

With the help of GitLab CI/CD, you can collect the test coverage information of your favorite testing or coverage-analysis tool, and visualize this information inside the file diff view of your merge requests (MRs). This will allow you to see which lines are covered by tests, and which lines still require coverage, before the MR is merged.

效果類似這樣

至於當我們需要回顧時,最好在專案首頁有一行類似 Metric 的字說明現況,即使沒接觸專案的人,也能知道專案的健康度。這個很適合用 Badge 來展現,通常 Badge 會貼在 Readme 上,而 Readme 會被 GitLab 自動放在專案首頁

當然,如果可以,我們也會想分析專案的趨勢,是不是朝向健康的方向走,如果沒有,也許透過一些改善方式,例如講解 unit test 的概念、使用手法等等,來幫助團隊往前走。這時候 GitLab 的 Analytic 就很好用,可以用來觀察長期趨勢。

開始動手

方法擬定後,開始來動手吧。

假設你的 IDE 是 VSCode,可以到 Extension 安裝 Go 語言的延伸套件,然後在 test file 上應該能看到 run package tests,執行後專案內就會 highlight coverage,有覆蓋的部分是綠底,沒覆蓋則是紅底。

也可以在 Output Tab 看到呼叫指令

Running tool: C:\Users\ken\.g\go\bin\go.exe test -timeout 30s -coverprofile=C:\Users\ken\AppData\Local\Temp\vscode-goK1REdF\go-code-cover ken-test/pkg/app/usecase

ok      ken-test/pkg/app/usecase    0.523s  coverage: 14.6% of statements

原理是用 UI 的方式調用底層的 go test,產生 coverprofile 後,再將它餵給 VSCode。

VSCode 怎麼知道 test 時經過哪些路徑呢?這裡的重點是 coverprofile,內容類似

mode: set
app-test/internal/app/usecase.go:12.92,14.16 2 0
app-test/internal/app/usecase.go:17.2,17.25 1 0
app-test/internal/app/usecase.go:14.16,16.3 1 0
app-test/internal/app/usecase.go:20.102,21.32 1 0

Go 用來產生 coverprofile 的命令是

go test -coverprofile=coverage.txt ./...

同理可證,如果 VSCode 吃 coverprofile 能 highlight coverage,只要餵 GitLab 同樣的檔案,GitLab 應該能做到同樣的效果。不過事情沒這麼美好。查詢說明文件,發現

For the coverage analysis to work, you have to provide a properly formatted Cobertura XML report to artifacts:reports:coverage_report.

意思是,原生的 coverprofile 格式,GitLab 是不接受的。需要將它轉換成 Cobertura format 並提供給 GitLab。

Cobertura 是什麼東西?參考 GitHub 的專案

Cobertura is a free Java code coverage reporting tool. It is based on jcoverage 1.0.5. See the Cobertura web page and wiki for more details.

Cobertura 是西班牙語 coverage 的意思,它是一套 Java 的 coverage 報告工具。Jenkins 使用它產出的報告來呈現 coverage,也因為 Jenkins 的使用者眾多,支援的場景比較齊全,GitLab 為了讓專案無痛轉換,也支援了 Cobertura 的格式,它的長相是這樣

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE coverage SYSTEM "[http://cobertura.sourceforge.net/xml/coverage-04.dtd](http://cobertura.sourceforge.net/xml/coverage-04.dtd)">
<coverage line-rate="0.21586345" branch-rate="0" version="" timestamp="1664528908194" lines-covered="215" lines-valid="996" branches-covered="0" branches-valid="0" complexity="0">
  <sources>
    <source>D:\git\ken\ken-test</source>
  </sources>
  <packages>
    <package name="ken-test/pkg/app/repository" line-rate="0.30869564" branch-rate="0" complexity="0">
      <classes>
        <class name="Sdk" filename="pkg/app/repository/repo_data.go" line-rate="0.9423077" branch-rate="0" complexity="0">
          <methods>
            <method name="GetDataPage" signature="" line-rate="0.9423077" branch-rate="0" complexity="0">
              <lines>
                <line number="14" hits="1"></line>
                <line number="15" hits="1"></line>
...

可以看出內容跟 Go 原生的 coverprofile 接近,只是改成用 XML 的格式。

要將 coverprofile 轉成 Cobertura,GitHub 有現成的工具

go install github.com/boumenot/gocover-cobertura@latest
gocover-cobertura < coverage.txt > coverage.xml

轉換後,只要將這個檔案餵給 GitLab 就可以了。當然,我們希望這些事情都可以串進 CI Pipeline 自動完成,從 GitLab 的流程來思考的話,我們會需要個 test stage,該 stage 下有個 job,用來產出 coverage.xml,並將產出物提交給 GitLab Server,而 GitLab 自動根據這份文檔,顯示對應的資訊。

這些邏輯變成 gitlab-ci.yml 後,會是

stage:
  - test

code_coverage_report:
  stage: test
  script:
    - go test ./... -coverprofile=coverage.txt -covermode count
    - go install github.com/boumenot/gocover-cobertura@latest
    - $GOPATH/bin/gocover-cobertura < coverage.txt > coverage.xml
  artifacts:
    reports:
      cobertura: coverage.xml 

關於 Badge 呢,如法炮製,加入一個 job 來處理,這個就比較單純了,因為 Badge 是由 GitLab Server 自己產生,我們只要更新它對應的變數就好,也就是只是要抓一個數字而已,它抓數字的方式也很有意思,是用 console output 跟 regexp 來抓,想想也挺合理,它不在乎你的輸出格式是什麼,也不在意怎麼 Parse,只要告訴它要抓的值就可以,這樣的設計為不同語言都提供了彈性。

coverage:
  stage: test
  script:
  - go tool cover -func=coverage.txt
  coverage: '/total:\s+\(statements\)\s+(\d+.\d+\%)/'

當然最後不要忘記,Readme 中要加上 Badge

[![Coverage Report](<https://gitlab.com/ken00535/demo-tools/badges/master/coverage.svg>)](<https://gitlab.com/ken00535/demo-tools/commits/master>)

結語

簡單說明由需求到落地的思考過程。這套思路是用資訊架構三本柱的「場景」「使用者」「內容」來分的,嘗試先定義出場景跟使用者關心的事,再來補齊相關的內容。不得不說確實好用,當場景拆解出來後,要求的資訊也跟著水落石出。例如我原本沒想過用 Cobertura 的格式,可是當知道需要顯示 Line Hit 時,就開始研究其他家的做法,也開始好奇 Go 的 Built-in Tool 有沒有支援類似的場景。

我猜 coverage 應該還有些不同的應用,像是不單判斷有沒有覆蓋,還更進一步用 heatmap 來呈現;或者是將 coverage trend 跟 issues 的發生頻率做比對,證明 unit test 對品質的有效性。希望大家看完這篇後,也能找到適合自己團隊的用法。

Reference

Read more

收拾行李搬家去:從 Medium 到 Ghost

收拾行李搬家去:從 Medium 到 Ghost

想搬家想很久,連身邊的朋友都搬完了,我還沒動工。 原因是我懶,我討厭麻煩,每次有人問我吃什麼,我都回答麥當勞。搬家是一件麻煩事,我已經有一份很讚的工作了,全副精神都放在工作上,偶爾才會想起來,反正家什麼時候都能搬,一點也不急,有什麼好急的呢對吧。這樣一拖,就拖到現在。 繼續用 Medium 不好嗎? 跟男女朋友分手一樣,通常被問到:「對方不好嗎?」得到回答是:「也沒有不好啦,只是……(以下開放填空)。」 從優點開始講吧!Medium 的編輯器很棒,它是 WYSIWYG(所見即所得)類型的編輯器,能讓創作者快速發佈內容,也因為它讓內容發佈更容易了,它開始吸引一批優秀的創作者,這批創作者持續創作內容,又吸引來更多讀者,更多讀者激勵創作者產出內容,內容又再吸引讀者……這形成一個增強迴圈。Medium 還能支援多人協作,拜它時尚簡約的風格所賜,科技公司會使用 Medium 來打造品牌形象,例如我前公司的 Tech Blog

By Ken Chen
OpenTelemetry 的可觀察性工程:以 Sentry 為例

OpenTelemetry 的可觀察性工程:以 Sentry 為例

點進 OpenTelemetry 的官方文件,它最先映入眼中的句子是「什麼是 OpenTelemetry」。例如,它是套可觀察性框架,用於檢測、蒐集與導出遙測數據;它是開源且供應商中立,能搭配其他的開源工具,像 Jaeger 或 Prometheus;它能將應用程式與系統儀表化,無關是用 Go 還是 .NET 開發,也無關部署在 AWS 還是 GCP 上。 但是身為一名開發者,當下我們想的是:「公司常開發一些沒人要用的功能,聽說 OpenTelemetry 可以提高可觀察性,也許我們應該放棄開發功能,轉頭建立更好的開發環境。」「AWS 常常要不到需要的數據,也許我們應該改用另一套工具,像是 OpenTelemetry,來解決這件事。」我們想像 OpenTelemetry 「應該」要能解決目前面臨到的一些問題,就像在技術的鏡像中尋找願望一樣。 如果已經有在用 Sentry,還需要導入 OpenTelemetry

By Ken Chen
標準化之路:Go 1.23 中的迭代器

標準化之路:Go 1.23 中的迭代器

Ian Lance Taylor 在 "Range Over Function Types" 這篇文章聊到 iterator 誕生的原因。如果我們有兩個容器,稱為集合(Set),想要取得這兩個集合中的不重複元素,加到新的集合中形成聯集,我們可以寫個 Union 函式來執行 // Set holds a set of elements. type Set[E comparable] struct { m map[E]struct{} } // Union returns the union of two sets. func Union[E comparable](s1, s2 *Set[

By Ken Chen
OAuth 2.0 的身份認證:OpenID Connect

OAuth 2.0 的身份認證:OpenID Connect

OAuth 2 讓網路服務可以存取第三方的受保護資源,因此,有些開發者會進一步利用 OAuth 2 來進行使用者認證。但這中間存在著一些語義落差,因為 OAuth 2 當初設計目的是「授權」而不是「認證」,兩者關注的焦點會有些不同。OpenID Connect 是基於 OAuth 2 的一套身份認證協定,讓開發者可以在 OAuth 2 授權的基礎上,再加入標準的認證流程。在這篇文章中,我會說明授權跟認證的場景有何差異,並講解 OpenID Connect 如何滿足認證需求。 因為 OpenID Connect 是建構在 OAuth 2 的基礎上,我會假設這篇文章的讀者已經知道 OAuth 2 的組件與流程,如果你不熟悉,可以先閱讀另外兩篇文章 * OAuth 2.0:

By Ken Chen