26 KiB
09|即学即练:构建一个Web服务就是这么简单
你好,我是Tony Bai。
在入门篇前面的几节课中,我们已经从Go开发环境的安装,一路讲到了Go包的初始化次序与Go入口函数。讲解这些,不仅仅是因为它们是你学习Go语言的基础,同时我也想为你建立“手勤”的意识打好基础。
作为Go语言学习的“过来人”,学到这个阶段,我深知你心里都在跃跃欲试,想将前面学到的知识综合运用起来,实现一个属于自己的Go程序。但到目前为止,我们还没有开始Go基础语法的系统学习,你肯定会有一种“无米下炊”的感觉。
不用担心,我在这节课安排了一个实战小项目。在这个小项目里,我希望你不要困在各种语法里,而是先跟着我““照猫画虎”地写一遍、跑一次,感受Go项目的结构,体会Go语言的魅力。
预热:最简单的HTTP服务
在想选择以什么类型的项目的时候,我还颇费了一番脑筋。我查阅了Go官方用户2020调查报告,找到Go应用最广泛的领域调查结果图,如下所示:
我们看到,Go应用的前4个领域中,有两个都是Web服务相关的。一个是排在第一位的API/RPC服务,另一个是排在第四位的Web服务(返回html页面)。考虑到后续你把Go应用于Web服务领域的机会比较大,所以,在这节课我们就选择一个Web服务项目作为实战小项目。
不过在真正开始我们的实战小项目前,我们先来预热一下,做一下技术铺垫。我先来给你演示一下在Go中创建一个基于HTTP协议的Web服务是多么的简单。
这种简单又要归功于Go“面向工程”特性。在02讲介绍Go的设计哲学时,我们也说过,Go“面向工程”的特性,不仅体现在语言设计方面时刻考虑开发人员的体验,而且它还提供了完善的工具链和“自带电池”的标准库,这就使得Go程序大大减少了对外部第三方包的依赖。以开发Web服务为例,我们可以基于Go标准库提供的net/http包,轻松构建一个承载Web内容传输的HTTP服务。
下面,我们就来构建一个最简单的HTTP服务,这个服务的功能很简单,就是当收到一个HTTP请求后,给请求方返回包含“hello, world”数据的响应。
我们首先按下面步骤建立一个simple-http-server目录,并创建一个名为simple-http-server的Go Module:
$mkdir simple-http-server
$cd simple-http-server
$go mod init simple-http-server
由于这个HTTP服务比较简单,我们采用最简项目布局,也就是在simple-http-server目录下创建一个main.go源文件:
package main
import "net/http"
func main() {
http.HandleFunc("/", func(w http.ResponseWriter, r *http.Request){
w.Write([]byte("hello, world"))
})
http.ListenAndServe(":8080", nil)
}
这些代码就是一个最简单的HTTP服务的实现了。在这个实现中,我们只使用了Go标准库的http包。可能你现在对http包还不熟悉,但没有关系,你现在只需要大致了解上面代码的结构与原理就可以了。
这段代码里,你要注意两个重要的函数,一个是ListenAndServe,另一个是HandleFunc。
你会看到,代码的第9行,我们通过http包提供的ListenAndServe函数,建立起一个HTTP服务,这个服务监听本地的8080端口。客户端通过这个端口与服务建立连接,发送HTTP请求就可以得到相应的响应结果。
那么服务端是如何处理客户端发送的请求的呢?我们看上面代码中的第6行。在这一行中,我们为这个服务设置了一个处理函数。这个函数的函数原型是这样的:
func(w http.ResponseWriter, r *http.Request)
这个函数里有两个参数,w和r。第二个参数r代表来自客户端的HTTP请求,第一个参数w则是用来操作返回给客户端的应答的,基于http包实现的HTTP服务的处理函数都要符合这一原型。
你也发现了,在这个例子中,所有来自客户端的请求,无论请求的URI路径(RequestURI)是什么,请求都会被我们设置的处理函数处理。为什么会这样呢?
这是因为,我们通过http.HandleFunc设置这个处理函数时,传入的模式字符串为“/”。HTTP服务器在收到请求后,会将请求中的URI路径与设置的模式字符串进行最长前缀匹配,并执行匹配到的模式字符串所对应的处理函数。在这个例子中,我们仅设置了“/”这一个模式字符串,并且所有请求的URI都能与之匹配,自然所有请求都会被我们设置的处理函数处理。
接着,我们再来编译运行一下这个程序,直观感受一下HTTP服务处理请求的过程。我们首先按下面步骤来编译并运行这个程序:
$cd simple-http-server
$go build
$./simple-http-server
接下来,我们用curl命令行工具模拟客户端,向上述服务建立连接并发送http请求:
$curl localhost:8080/
hello, world
我们看到,curl成功得到了http服务返回的“hello, world”响应数据。到此,我们的HTTP服务就构建成功了。
当然了,真实世界的Web服务不可能像上述例子这么简单,这仅仅是一个“预热”。我想让你知道,使用Go构建Web服务是非常容易的。并且,这样的预热也能让你初步了解实现代码的结构,先有一个技术铺垫。
下面我们就进入这节课的实战小项目,一个更接近于真实世界情况的图书管理API服务。
图书管理API服务
首先,我们先来明确一下我们的业务逻辑。
在这个实战小项目中,我们模拟的是真实世界的一个书店的图书管理后端服务。这个服务为平台前端以及其他客户端,提供针对图书的CRUD(创建、检索、更新与删除)的基于HTTP协议的API。API采用典型的RESTful风格设计,这个服务提供的API集合如下:
这个API服务的逻辑并不复杂。简单来说,我们通过id来唯一标识一本书,对于图书来说,这个id通常是ISBN号。至于客户端和服务端中请求与响应的数据,我们采用放在HTTP协议包体(Body)中的Json格式数据来承载。
业务逻辑是不是很简单啊?下面我们就直接开始创建这个项目。
项目建立与布局设计
我们按照下面步骤创建一个名为bookstore的Go项目并创建对应的Go Module:
$mkdir bookstore
$cd bookstore
$go mod init bookstore
go: creating new go.mod: module bookstore
通过上面的业务逻辑说明,我们可以把这个服务大体拆分为两大部分,一部分是HTTP服务器,用来对外提供API服务;另一部分是图书数据的存储模块,所有的图书数据均存储在这里。
同时,这是一个以构建可执行程序为目的的Go项目,我们参考Go项目布局标准一讲中的项目布局,把这个项目的结构布局设计成这样:
├── cmd/
│ └── bookstore/ // 放置bookstore main包源码
│ └── main.go
├── go.mod // module bookstore的go.mod
├── go.sum
├── internal/ // 存放项目内部包的目录
│ └── store/
│ └── memstore.go
├── server/ // HTTP服务器模块
│ ├── middleware/
│ │ └── middleware.go
│ └── server.go
└── store/ // 图书数据存储模块
├── factory/
│ └── factory.go
└── store.go
现在,我们既给出了这个项目的结构布局,也给出了这个项目最终实现的源码文件分布情况。下面我们就从main包开始,自上而下逐一看看这个项目的模块设计与实现。
项目main包
main包是主要包,为了搞清楚各个模块之间的关系,我在这里给出了main包的实现逻辑图:
同时,我也列出了main包(main.go)的所有代码,你可以先花几分钟看一下:
package main
import (
_ "bookstore/internal/store"
"bookstore/server"
"bookstore/store/factory"
"context"
"log"
"os"
"os/signal"
"syscall"
"time"
)
func main() {
s, err := factory.New("mem") // 创建图书数据存储模块实例
if err != nil {
panic(err)
}
srv := server.NewBookStoreServer(":8080", s) // 创建http服务实例
errChan, err := srv.ListenAndServe() // 运行http服务
if err != nil {
log.Println("web server start failed:", err)
return
}
log.Println("web server start ok")
c := make(chan os.Signal, 1)
signal.Notify(c, syscall.SIGINT, syscall.SIGTERM)
select { // 监视来自errChan以及c的事件
case err = <-errChan:
log.Println("web server run failed:", err)
return
case <-c:
log.Println("bookstore program is exiting...")
ctx, cf := context.WithTimeout(context.Background(), time.Second)
defer cf()
err = srv.Shutdown(ctx) // 优雅关闭http服务实例
}
if err != nil {
log.Println("bookstore program exit error:", err)
return
}
log.Println("bookstore program exit ok")
}
在Go中,main包不仅包含了整个程序的入口,它还是整个程序中主要模块初始化与组装的场所。那对应在我们这个程序中,主要模块就是第16行的创建图书存储模块实例,以及第21行创建HTTP服务模块实例。而且,你还要注意的是,第21行创建HTTP服务模块实例的时候,我们把图书数据存储实例s作为参数,传递给了NewBookStoreServer函数。这两个实例的创建原理,我们等会再来细细探讨。
这里,我们重点来看main函数的后半部分(第30行~第42行),这里表示的是,我们通过监视系统信号实现了http服务实例的优雅退出。
所谓优雅退出,指的就是程序有机会等待其他的事情处理完再退出。比如尚未完成的事务处理、清理资源(比如关闭文件描述符、关闭socket)、保存必要中间状态、内存数据持久化落盘,等等。如果你经常用Go来编写http服务,那么http服务如何优雅退出,就是你经常要考虑的问题。
在这个问题的具体实现上,我们通过signal包的Notify捕获了SIGINT、SIGTERM这两个系统信号。这样,当这两个信号中的任何一个触发时,我们的http服务实例都有机会在退出前做一些清理工作。
然后,我们再使用http服务实例(srv)自身提供的Shutdown方法,来实现http服务实例内部的退出清理工作,包括:立即关闭所有listener、关闭所有空闲的连接、等待处于活动状态的连接处理完毕,等等。当http服务实例的清理工作完成后,我们整个程序就可以正常退出了。
接下来,我们再重点看看构成bookstore程序的两个主要模块:图书数据存储模块与HTTP服务模块的实现。我们按照main函数中的初始化顺序,先来看看图书数据存储模块。
图书数据存储模块(store)
图书数据存储模块的职责很清晰,就是用来存储整个bookstore的图书数据的。图书数据存储有很多种实现方式,最简单的方式莫过于在内存中创建一个map,以图书id作为key,来保存图书信息,我们在这一讲中也会采用这种方式。但如果我们要考虑上生产环境,数据要进行持久化,那么最实际的方式就是通过Nosql数据库甚至是关系型数据库,实现对图书数据的存储与管理。
考虑到对多种存储实现方式的支持,我们将针对图书的有限种存储操作,放置在一个接口类型Store中,如下源码所示:
// store/store.go
type Book struct {
Id string `json:"id"` // 图书ISBN ID
Name string `json:"name"` // 图书名称
Authors []string `json:"authors"` // 图书作者
Press string `json:"press"` // 出版社
}
type Store interface {
Create(*Book) error // 创建一个新图书条目
Update(*Book) error // 更新某图书条目
Get(string) (Book, error) // 获取某图书信息
GetAll() ([]Book, error) // 获取所有图书信息
Delete(string) error // 删除某图书条目
}
这里,我们建立了一个对应图书条目的抽象数据类型Book,以及针对Book存取的接口类型Store。这样,对于想要进行图书数据操作的一方来说,他只需要得到一个满足Store接口的实例,就可以实现对图书数据的存储操作了,不用再关心图书数据究竟采用了何种存储方式。这就实现了图书存储操作与底层图书数据存储方式的解耦。而且,这种面向接口编程也是Go组合设计哲学的一个重要体现。
那我们具体如何创建一个满足Store接口的实例呢?我们可以参考《设计模式》提供的多种创建型模式,选择一种Go风格的工厂模式(创建型模式的一种)来实现满足Store接口实例的创建。我们看一下store/factory包的源码:
// store/factory/factory.go
var (
providersMu sync.RWMutex
providers = make(map[string]store.Store)
)
func Register(name string, p store.Store) {
providersMu.Lock()
defer providersMu.Unlock()
if p == nil {
panic("store: Register provider is nil")
}
if _, dup := providers[name]; dup {
panic("store: Register called twice for provider " + name)
}
providers[name] = p
}
func New(providerName string) (store.Store, error) {
providersMu.RLock()
p, ok := providers[providerName]
providersMu.RUnlock()
if !ok {
return nil, fmt.Errorf("store: unknown provider %s", providerName)
}
return p, nil
}
这段代码实际上是效仿了Go标准库的database/sql包采用的方式,factory包采用了一个map类型数据,对工厂可以“生产”的、满足Store接口的实例类型进行管理。factory包还提供了Register函数,让各个实现Store接口的类型可以把自己“注册”到工厂中来。
一旦注册成功,factory包就可以“生产”出这种满足Store接口的类型实例。而依赖Store接口的使用方,只需要调用factory包的New函数,再传入期望使用的图书存储实现的名称,就可以得到对应的类型实例了。
在项目的internal/store目录下,我们还提供了一个基于内存map的Store接口的实现,我们具体看一下这个实现是怎么自注册到factory包中的:
// internal/store/memstore.go
package store
import (
mystore "bookstore/store"
factory "bookstore/store/factory"
"sync"
)
func init() {
factory.Register("mem", &MemStore{
books: make(map[string]*mystore.Book),
})
}
type MemStore struct {
sync.RWMutex
books map[string]*mystore.Book
}
从memstore的代码来看,它是在包的init函数中调用factory包提供的Register函数,把自己的实例以“mem”的名称注册到factory中的。这样做有一个好处,依赖Store接口进行图书数据管理的一方,只要导入internal/store这个包,就可以自动完成注册动作了。
理解了这个之后,我们再看下面main包中,创建图书数据存储模块实例时采用的代码,是不是就豁然开朗了?
import (
... ...
_ "bookstore/internal/store" // internal/store将自身注册到factory中
)
func main() {
s, err := factory.New("mem") // 创建名为"mem"的图书数据存储模块实例
if err != nil {
panic(err)
}
... ...
}
至于memstore.go中图书数据存储的具体逻辑,就比较简单了,我这里就不详细分析了,你课后自己阅读一下吧。
接着,我们再来看看bookstore程序的另外一个重要模块:HTTP服务模块。
HTTP服务模块(server)
HTTP服务模块的职责是对外提供HTTP API服务,处理来自客户端的各种请求,并通过Store接口实例执行针对图书数据的相关操作。这里,我们抽象处理一个server包,这个包中定义了一个BookStoreServer类型如下:
// server/server.go
type BookStoreServer struct {
s store.Store
srv *http.Server
}
我们看到,这个类型实质上就是一个标准库的http.Server,并且组合了来自store.Store接口的能力。server包提供了NewBookStoreServer函数,用来创建一个BookStoreServer类型实例:
// server/server.go
func NewBookStoreServer(addr string, s store.Store) *BookStoreServer {
srv := &BookStoreServer{
s: s,
srv: &http.Server{
Addr: addr,
},
}
router := mux.NewRouter()
router.HandleFunc("/book", srv.createBookHandler).Methods("POST")
router.HandleFunc("/book/{id}", srv.updateBookHandler).Methods("POST")
router.HandleFunc("/book/{id}", srv.getBookHandler).Methods("GET")
router.HandleFunc("/book", srv.getAllBooksHandler).Methods("GET")
router.HandleFunc("/book/{id}", srv.delBookHandler).Methods("DELETE")
srv.srv.Handler = middleware.Logging(middleware.Validating(router))
return srv
}
我们看到函数NewBookStoreServer接受两个参数,一个是HTTP服务监听的服务地址,另外一个是实现了store.Store接口的类型实例。这种函数原型的设计是Go语言的一种惯用设计方法,也就是接受一个接口类型参数,返回一个具体类型。返回的具体类型组合了传入的接口类型的能力。
这个时候,和前面预热时实现的简单http服务一样,我们还需为HTTP服务器设置请求的处理函数。
由于这个服务请求URI的模式字符串比较复杂,标准库http包内置的URI路径模式匹配器(ServeMux,也称为路由管理器)不能满足我们的需求,因此在这里,我们需要借助一个第三方包github.com/gorilla/mux来实现我们的需求。
在上面代码的第11行到第16行,我们针对不同URI路径模式设置了不同的处理函数。我们以createBookHandler和getBookHandler为例来看看这些处理函数的实现:
// server/server.go
func (bs *BookStoreServer) createBookHandler(w http.ResponseWriter, req *http.Request) {
dec := json.NewDecoder(req.Body)
var book store.Book
if err := dec.Decode(&book); err != nil {
http.Error(w, err.Error(), http.StatusBadRequest)
return
}
if err := bs.s.Create(&book); err != nil {
http.Error(w, err.Error(), http.StatusBadRequest)
return
}
}
func (bs *BookStoreServer) getBookHandler(w http.ResponseWriter, req *http.Request) {
id, ok := mux.Vars(req)["id"]
if !ok {
http.Error(w, "no id found in request", http.StatusBadRequest)
return
}
book, err := bs.s.Get(id)
if err != nil {
http.Error(w, err.Error(), http.StatusBadRequest)
return
}
response(w, book)
}
func response(w http.ResponseWriter, v interface{}) {
data, err := json.Marshal(v)
if err != nil {
http.Error(w, err.Error(), http.StatusInternalServerError)
return
}
w.Header().Set("Content-Type", "application/json")
w.Write(data)
}
这些处理函数的实现都大同小异,都是先获取http请求包体数据,然后通过标准库json包将这些数据,解码(decode)为我们需要的store.Book结构体实例,再通过Store接口对图书数据进行存储操作。如果我们是获取图书数据的请求,那么处理函数将通过response函数,把取出的图书数据编码到http响应的包体中,并返回给客户端。
然后,在NewBookStoreServer函数实现的尾部,我们还看到了这样一行代码:
srv.srv.Handler = middleware.Logging(middleware.Validating(router))
这行代码的意思是说,我们在router的外围包裹了两层middleware。什么是middleware呢?对于我们的上下文来说,这些middleware就是一些通用的http处理函数。我们看一下这里的两个middleware,也就是Logging与Validating函数的实现:
// server/middleware/middleware.go
func Logging(next http.Handler) http.Handler {
return http.HandlerFunc(func(w http.ResponseWriter, req *http.Request) {
log.Printf("recv a %s request from %s", req.Method, req.RemoteAddr)
next.ServeHTTP(w, req)
})
}
func Validating(next http.Handler) http.Handler {
return http.HandlerFunc(func(w http.ResponseWriter, req *http.Request) {
contentType := req.Header.Get("Content-Type")
mediatype, _, err := mime.ParseMediaType(contentType)
if err != nil {
http.Error(w, err.Error(), http.StatusBadRequest)
return
}
if mediatype != "application/json" {
http.Error(w, "invalid Content-Type", http.StatusUnsupportedMediaType)
return
}
next.ServeHTTP(w, req)
})
}
我们看到,Logging函数主要用来输出每个到达的HTTP请求的一些概要信息,而Validating则会对每个http请求的头部进行检查,检查Content-Type头字段所表示的媒体类型是否为application/json。这些通用的middleware函数,会被串联到每个真正的处理函数之前,避免我们在每个处理函数中重复实现这些逻辑。
创建完BookStoreServer实例后,我们就可以调用其ListenAndServe方法运行这个http服务了,显然这个方法的名字是仿效http.Server类型的同名方法,我们的实现是这样的:
// server/server.go
func (bs *BookStoreServer) ListenAndServe() (<-chan error, error) {
var err error
errChan := make(chan error)
go func() {
err = bs.srv.ListenAndServe()
errChan <- err
}()
select {
case err = <-errChan:
return nil, err
case <-time.After(time.Second):
return errChan, nil
}
}
我们看到,这个函数把BookStoreServer内部的http.Server的运行,放置到一个单独的轻量级线程Goroutine中。这是因为,http.Server.ListenAndServe会阻塞代码的继续运行,如果不把它放在单独的Goroutine中,后面的代码将无法得到执行。
为了检测到http.Server.ListenAndServe的运行状态,我们再通过一个channel(位于第5行的errChan),在新创建的Goroutine与主Goroutine之间建立的通信渠道。通过这个渠道,这样我们能及时得到http server的运行状态。
编译、运行与验证
到这里,bookstore项目的大部分重要代码我们都分析了一遍,是时候将程序跑起来看看了。
不过,因为我们在程序中引入了一个第三方依赖包,所以在构建项目之前,我们需要执行下面这个命令,让Go命令自动分析依赖项和版本,并更新go.mod:
$go mod tidy
go: finding module for package github.com/gorilla/mux
go: found github.com/gorilla/mux in github.com/gorilla/mux v1.8.0
完成后,我们就可以按下面的步骤来构建并执行bookstore了:
$go build bookstore/cmd/bookstore
$./bookstore
2021/10/05 16:08:36 web server start ok
如果你看到上面这个输出的日志,说明我们的程序启动成功了。
现在,我们就可以像前面一样使用curl命令行工具,模仿客户端向bookstore服务发起请求了,比如创建一个新书条目:
$curl -X POST -H "Content-Type:application/json" -d '{"id": "978-7-111-55842-2", "name": "The Go Programming Language", "authors":["Alan A.A.Donovan", "Brian W. Kergnighan"],"press": "Pearson Education"}' localhost:8080/book
此时服务端会输出如下日志,表明我们的bookstore服务收到了客户端请求。
2021/10/05 16:09:10 recv a POST request from [::1]:58021
接下来,我们再来获取一下这本书的信息:
$curl -X GET -H "Content-Type:application/json" localhost:8080/book/978-7-111-55842-2
{"id":"978-7-111-55842-2","name":"The Go Programming Language","authors":["Alan A.A.Donovan","Brian W. Kergnighan"],"press":"Pearson Education"}
我们看到curl得到的响应与我们预期的是一致的。
好了,我们不再进一步验证了,你课后还可以自行编译、执行并验证。
小结
到这里,我们就完成了我们第一个实战小项目,不知道你感觉如何呢?
在这一讲中,我们带你用Go语言构建了一个最简单的HTTP服务,以及一个接近真实的图书管理API服务。在整个实战小项目的实现过程中,你也能初步学习到Go编码时常用的一些惯用法,比如基于接口的组合、类似database/sql所使用的惯用创建模式,等等。
通过这节课的学习,你是否体会到了Go语言的魅力了呢?是否察觉到Go编码与其他主流语言不同的风格了呢?其实不论你的理解程度有多少,都不重要。只要你能“照猫画虎”地将上面的程序自己编写一遍,构建、运行起来并验证一遍,就算是完美达成这一讲的目标了。
你在这个过程肯定会有各种各样的问题,但没关系,这些问题会成为你继续向下学习Go的动力。毕竟,带着问题的学习,能让你的学习过程更有的放矢、更高效。
思考题
如果你完成了今天的代码,觉得自己学有余力,可以再挑战一下,不妨试试基于nosql数据库,我们怎么实现一个新store.Store接口的实现吧?
欢迎把这节课分享给更多对Go语言感兴趣的朋友。我是Tony Bai,我们下节课见。