0

0

Golang初级项目:URL健康检查工具_批量扫描网站在线状态

P粉602998670

P粉602998670

发布时间:2026-02-15 11:23:02

|

201人浏览过

|

来源于php中文网

原创

http.head 更合适,它只取响应头、不拉正文,速度快开销小;但需处理 405 错误并 fallback 到 http.get,同时注意关闭 body、控制并发、配置超时与 transport、规范 url 解析及细化错误分类。

golang初级项目:url健康检查工具_批量扫描网站在线状态

http.Head 还是 http.Get 做健康检查?

http.Head 更合适,它只取响应头,不拉正文,速度快、开销小,适合纯状态判断。但要注意:有些服务会禁用 HEAD 方法,返回 405 Method Not Allowed —— 这不代表网站离线,只是接口策略限制。

  • 如果目标站点明确支持 HEAD(比如多数静态托管、CDN、标准 Web 服务),优先用 http.Head
  • 遇到 405 或超时后,可 fallback 到 http.Get 并立即 resp.Body.Close(),避免连接堆积
  • 别用 http.Get 后不关 Body,Golang 的 http.Client 会复用连接,不关会导致连接池耗尽、后续请求卡住

并发控制不当直接拖垮本地机器或目标服务器

Golang 的 goroutine 很轻量,但没节制地开几千个,反而会让 DNS 解析、文件描述符、TCP 连接数全爆掉。默认 http.DefaultClient 的 Transport 没设限,容易触发 dial tcp: lookup xxx: no such hosttoo many open files

  • semaphore 或带缓冲的 channel 控制并发数,建议初始值设为 20–50(视目标域名数量和网络环境调整)
  • http.Client 显式配置 TimeoutTransport
    client := &http.Client{
      Timeout: 10 * time.Second,
      Transport: &http.Transport{
          MaxIdleConns:        100,
          MaxIdleConnsPerHost: 100,
          IdleConnTimeout:     30 * time.Second,
      },
    }
  • 不要共用一个 http.Client 实例却在不同 goroutine 里改它的 Timeout 字段——它是非线程安全的

URL 格式不规范导致 net/url.Parse 失败或误判

用户输入的 URL 可能缺 https://、带空格、末尾多斜杠、含中文参数……直接丢给 http.Get 会 panic 或静默失败。

DeepL
DeepL

DeepL是一款强大的在线AI翻译工具,可以翻译31种不同语言的文本,并可以处理PDF、Word、PowerPoint等文档文件

下载
  • 先用 strings.TrimSpace 清空首尾空白
  • 检查是否含 scheme:若不以 http://https:// 开头,自动补 https://(别补 http://,现在多数站会 301 跳转,多一次往返)
  • url.Parse 解析后校验 u.Scheme != "" && u.Host != "",否则跳过并记录警告
  • 别用正则“自己造轮子”验 URL,net/url 已足够健壮;但注意它不校验域名是否存在,只做语法解析

怎么让失败结果真正“可读”而不是只打个 error 字符串?

err.Error() 常是 “Get https://www.php.cn/link/89188e01d32520f2c127da5a731796da: dial tcp: i/o timeout”,看不出是 DNS 问题、连不上、还是对方关了 HTTPS。得拆开看底层原因。

立即学习go语言免费学习笔记(深入)”;

  • 类型断言判断错误来源:if netErr, ok := err.(net.Error); ok && netErr.Timeout() → 超时;if urlErr, ok := err.(<em>url.Error); ok && urlErr.Err != nil</em> → 看 urlErr.Errnet.OpError 还是 *net.DNSError
  • http.Response.StatusCode 要分类:小于 400 算“在线”,4xx 算“业务异常”(如 404 表示路径不存在但服务活着),5xx 算“服务端故障”
  • 记录日志时带上原始 URL、耗时、状态码、错误类型,别只记 err,否则排查时得重跑一遍

真实场景里,最常被忽略的是 Transport 层连接复用和 DNS 缓存行为——同一 Client 对多个域名并发请求时,DNS 查询可能被阻塞,导致一批请求集体延迟。这不是代码写错了,而是没意识到 Go 默认的 DNS 解析器是同步阻塞的。

热门AI工具

更多
DeepSeek
DeepSeek

幻方量化公司旗下的开源大模型平台

豆包大模型
豆包大模型

字节跳动自主研发的一系列大型语言模型

通义千问
通义千问

阿里巴巴推出的全能AI助手

腾讯元宝
腾讯元宝

腾讯混元平台推出的AI助手

文心一言
文心一言

文心一言是百度开发的AI聊天机器人,通过对话可以生成各种形式的内容。

讯飞写作
讯飞写作

基于讯飞星火大模型的AI写作工具,可以快速生成新闻稿件、品宣文案、工作总结、心得体会等各种文文稿

即梦AI
即梦AI

一站式AI创作平台,免费AI图片和视频生成。

ChatGPT
ChatGPT

最最强大的AI聊天机器人程序,ChatGPT不单是聊天机器人,还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。

相关专题

更多
golang如何定义变量
golang如何定义变量

golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

206

2024.02.23

golang有哪些数据转换方法
golang有哪些数据转换方法

golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

235

2024.02.23

golang常用库有哪些
golang常用库有哪些

golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

346

2024.02.23

golang和python的区别是什么
golang和python的区别是什么

golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

212

2024.03.05

golang是免费的吗
golang是免费的吗

golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

403

2024.05.21

golang结构体相关大全
golang结构体相关大全

本专题整合了golang结构体相关大全,想了解更多内容,请阅读专题下面的文章。

343

2025.06.09

golang相关判断方法
golang相关判断方法

本专题整合了golang相关判断方法,想了解更详细的相关内容,请阅读下面的文章。

197

2025.06.10

golang数组使用方法
golang数组使用方法

本专题整合了golang数组用法,想了解更多的相关内容,请阅读专题下面的文章。

866

2025.06.17

pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法
pixiv网页版官网登录与阅读指南_pixiv官网直达入口与在线访问方法

本专题系统整理pixiv网页版官网入口及登录访问方式,涵盖官网登录页面直达路径、在线阅读入口及快速进入方法说明,帮助用户高效找到pixiv官方网站,实现便捷、安全的网页端浏览与账号登录体验。

139

2026.02.13

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Go 教程
Go 教程

共32课时 | 5.1万人学习

Go语言实战之 GraphQL
Go语言实战之 GraphQL

共10课时 | 0.8万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号