1. 下載非標(biāo)準(zhǔn)的包,"golang.org/x/net/html"
2. 先安裝git，使用git命令下載
|
1
|
git clone https://github.com/golang/net |
3. 將net包，放到GOROOT路徑下
比如：
我的是：GOROOT = E:\go\
所以最終目錄是：E:\go\src\golang.org\x\net
注意：如果沒(méi)有g(shù)olang.org和x文件夾，就創(chuàng)建
4. 創(chuàng)建fetch目錄，在其下創(chuàng)建main.go文件，main.go文件代碼內(nèi)容如下：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
|
package main import ( "os" "net/http" "fmt" "io/ioutil") func main() { for _, url := range os.Args[1:] { resp, err := http.Get(url) if err != nil { fmt.Fprintf(os.Stderr, "fetch: %v\n", err) } b, err := ioutil.ReadAll(resp.Body) resp.Body.Close() if err != nil { fmt.Fprintf(os.Stderr, "fetch: reading %s: %v\n", url, err) os.Exit(1) } fmt.Printf("%s",b) }} |
5. 編譯fetch
|
1
|
go build test.com\justin\demo\fetch |
注意：test.com\justin\demo\ 是我的項(xiàng)目路徑，具體編譯根據(jù)自己項(xiàng)目路徑編譯。
6. 執(zhí)行fetch.exe 文件
fetch.exe https://www.qq.com
注意：https://www.qq.com是要爬的網(wǎng)址，配置正確的話，會(huì)打印出網(wǎng)址的HTML內(nèi)容。如果沒(méi)有，請(qǐng)檢查以上步驟是否正確。
7. 網(wǎng)頁(yè)已經(jīng)抓取了，那么剩下就分析頁(yè)面包含的鏈接了，創(chuàng)建findlinks目錄，在其下創(chuàng)建main.go文件，main.go文件代碼內(nèi)容如下：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
|
package main import ( "os" "fmt" "golang.org/x/net/html") func main() { doc, err := html.Parse(os.Stdin) if err != nil { fmt.Fprint(os.Stderr, "findlinks: %v\n", err) os.Exit(1) } for _, link := range visit(nil, doc) { fmt.Println(link) }} func visit(links []string, n *html.Node) []string { if n.Type == html.ElementNode && n.Data == "a" { for _, a := range n.Attr { if a.Key == "href" { links = append(links, a.Val) } } } for c := n.FirstChild; c != nil; c = c.NextSibling { links = visit(links, c) } return links} |
8. 編譯findlinks
|
1
|
go build test.com\justin\demo\findlinks |
注意：test.com\justin\demo\ 是我的項(xiàng)目路徑，具體編譯根據(jù)自己項(xiàng)目路徑編譯。
9. 執(zhí)行findlinks.exe 文件
|
1
|
fetch.exe https://www.qq.com | findlinks.exe |
> 10. 執(zhí)行后結(jié)果：獲取到各種不同形式的超鏈接
以上這篇golang抓取網(wǎng)頁(yè)并分析頁(yè)面包含的鏈接方法就是小編分享給大家的全部?jī)?nèi)容了，希望能給大家一個(gè)參考，也希望大家多多支持服務(wù)器之家。
原文鏈接：https://blog.csdn.net/LAMP_94/article/details/81260912
