09 | HTTP报文是什么样子的?

在上一讲里,我们在本机的最小化环境了做了两个HTTP协议的实验,使用Wireshark抓包,弄清楚了HTTP协议基本工作流程,也就是“请求-应答”“一发一收”的模式。

可以看到,HTTP的工作模式是非常简单的,由于TCP/IP协议负责底层的具体传输工作,HTTP协议基本上不用在这方面操心太多。单从这一点上来看,所谓的“超文本传输协议”其实并不怎么管“传输”的事情,有点“名不副实”。

那么HTTP协议的核心部分是什么呢?

答案就是它传输的报文内容。

HTTP协议在规范文档里详细定义了报文的格式,规定了组成部分,解析规则,还有处理策略,所以可以在TCP/IP层之上实现更灵活丰富的功能,例如连接控制,缓存管理、数据编码、内容协商等等。

报文结构

你也许对TCP/UDP的报文格式有所了解,拿TCP报文来举例,它在实际要传输的数据之前附加了一个20字节的头部数据,存储TCP协议必须的额外信息,例如发送方的端口号、接收方的端口号、包序号、标志位等等。

有了这个附加的TCP头,数据包才能够正确传输,到了目的地后把头部去掉,就可以拿到真正的数据。

HTTP协议也是与TCP/UDP类似,同样也需要在实际传输的数据前附加一些头数据,不过与TCP/UDP不同的是,它是一个“纯文本”的协议,所以头数据都是ASCII码的文本,可以很容易地用肉眼阅读,不用借助程序解析也能够看懂。

HTTP协议的请求报文和响应报文的结构基本相同,由三大部分组成:

  1. 起始行(start line):描述请求或响应的基本信息;
  2. 头部字段集合(header):使用key-value形式更详细地说明报文;
  3. 消息正文(entity):实际传输的数据,它不一定是纯文本,可以是图片、视频等二进制数据。

这其中前两部分起始行和头部字段经常又合称为“请求头”或“响应头”,消息正文又称为“实体”,但与“header”对应,很多时候就直接称为“body”。

HTTP协议规定报文必须有header,但可以没有body,而且在header之后必须要有一个“空行”,也就是“CRLF”,十六进制的“0D0A”。

所以,一个完整的HTTP报文就像是下图的这个样子,注意在header和body之间有一个“空行”。

说到这里,我不由得想起了一部老动画片《大头儿子和小头爸爸》,你看,HTTP的报文结构像不像里面的“大头儿子”?

报文里的header就是“大头儿子”的“大头”,空行就是他的“脖子”,而后面的body部分就是他的身体了。

看一下我们之前用Wireshark抓的包吧。

unpreview

在这个浏览器发出的请求报文里,第一行“GET / HTTP/1.1”就是请求行,而后面的“Host”“Connection”等等都属于header,报文的最后是一个空白行结束,没有body。

在很多时候,特别是浏览器发送GET请求的时候都是这样,HTTP报文经常是只有header而没body,相当于只发了一个超级“大头”过来,你可以想象的出来:每时每刻网络上都会有数不清的“大头儿子”在跑来跑去。

不过这个“大头”也不能太大,虽然HTTP协议对header的大小没有做限制,但各个Web服务器都不允许过大的请求头,因为头部太大可能会占用大量的服务器资源,影响运行效率。

请求行

了解了HTTP报文的基本结构后,我们来看看请求报文里的起始行也就是请求行(request line),它简要地描述了客户端想要如何操作服务器端的资源

请求行由三部分构成:

  1. 请求方法:是一个动词,如GET/POST,表示对资源的操作;
  2. 请求目标:通常是一个URI,标记了请求方法要操作的资源;
  3. 版本号:表示报文使用的HTTP协议版本。

这三个部分通常使用空格(space)来分隔,最后要用CRLF换行表示结束。

还是用Wireshark抓包的数据来举例:

GET / HTTP/1.1

在这个请求行里,“GET”是请求方法,“/”是请求目标,“HTTP/1.1”是版本号,把这三部分连起来,意思就是“服务器你好,我想获取网站根目录下的默认文件,我用的协议版本号是1.1,请不要用1.0或者2.0回复我。”

别看请求行就一行,貌似很简单,其实这里面的“讲究”是非常多的,尤其是前面的请求方法和请求目标,组合起来变化多端,后面我还会详细介绍。

状态行

看完了请求行,我们再看响应报文里的起始行,在这里它不叫“响应行”,而是叫“状态行”(status line),意思是服务器响应的状态

比起请求行来说,状态行要简单一些,同样也是由三部分构成:

  1. 版本号:表示报文使用的HTTP协议版本;
  2. 状态码:一个三位数,用代码的形式表示处理的结果,比如200是成功,500是服务器错误;
  3. 原因:作为数字状态码补充,是更详细的解释文字,帮助人理解原因。

看一下上一讲里Wireshark抓包里的响应报文,状态行是:

HTTP/1.1 200 OK

意思就是:“浏览器你好,我已经处理完了你的请求,这个报文使用的协议版本号是1.1,状态码是200,一切OK。”

而另一个“GET /favicon.ico HTTP/1.1”的响应报文状态行是:

HTTP/1.1 404 Not Found

翻译成人话就是:“抱歉啊浏览器,刚才你的请求收到了,但我没找到你要的资源,错误代码是404,接下来的事情你就看着办吧。”

头部字段

请求行或状态行再加上头部字段集合就构成了HTTP报文里完整的请求头或响应头,我画了两个示意图,你可以看一下。

请求头和响应头的结构是基本一样的,唯一的区别是起始行,所以我把请求头和响应头里的字段放在一起介绍。

头部字段是key-value的形式,key和value之间用“:”分隔,最后用CRLF换行表示字段结束。比如在“Host: 127.0.0.1”这一行里key就是“Host”,value就是“127.0.0.1”。

HTTP头字段非常灵活,不仅可以使用标准里的Host、Connection等已有头,也可以任意添加自定义头,这就给HTTP协议带来了无限的扩展可能。

不过使用头字段需要注意下面几点:

  1. 字段名不区分大小写,例如“Host”也可以写成“host”,但首字母大写的可读性更好;
  2. 字段名里不允许出现空格,可以使用连字符“-”,但不能使用下划线“_”。例如,“test-name”是合法的字段名,而“test name”“test_name”是不正确的字段名;
  3. 字段名后面必须紧接着“:”,不能有空格,而“:”后的字段值前可以有多个空格;
  4. 字段的顺序是没有意义的,可以任意排列不影响语义;
  5. 字段原则上不能重复,除非这个字段本身的语义允许,例如Set-Cookie。

我在实验环境里用Lua编写了一个小服务程序,URI是“/09-1”,效果是输出所有的请求头。

你可以在实验环境里用Telnet连接OpenResty服务器试一下,手动发送HTTP请求头,试验各种正确和错误的情况。

先启动OpenResty服务器,然后用组合键“Win+R”运行telnet,输入命令“open www.chrono.com 80”,就连上了Web服务器。

连接上之后按组合键“CTRL+]”,然后按回车键,就进入了编辑模式。在这个界面里,你可以直接用鼠标右键粘贴文本,敲两下回车后就会发送数据,也就是模拟了一次HTTP请求。

下面是两个最简单的HTTP请求,第一个在“:”后有多个空格,第二个在“:”前有空格。

GET /09-1 HTTP/1.1
Host:   www.chrono.com


GET /09-1 HTTP/1.1
Host : www.chrono.com

第一个可以正确获取服务器的响应报文,而第二个得到的会是一个“400 Bad Request”,表示请求报文格式有误,服务器无法正确处理:

HTTP/1.1 400 Bad Request
Server: openresty/1.15.8.1
Connection: close

常用头字段

HTTP协议规定了非常多的头部字段,实现各种各样的功能,但基本上可以分为四大类:

  1. 通用字段:在请求头和响应头里都可以出现;
  2. 请求字段:仅能出现在请求头里,进一步说明请求信息或者额外的附加条件;
  3. 响应字段:仅能出现在响应头里,补充说明响应报文的信息;
  4. 实体字段:它实际上属于通用字段,但专门描述body的额外信息。

对HTTP报文的解析和处理实际上主要就是对头字段的处理,理解了头字段也就理解了HTTP报文。

后续的课程中我将会以应用领域为切入点介绍连接管理、缓存控制等头字段,今天先讲几个最基本的头,看完了它们你就应该能够读懂大多数HTTP报文了。

首先要说的是Host字段,它属于请求字段,只能出现在请求头里,它同时也是唯一一个HTTP/1.1规范里要求必须出现的字段,也就是说,如果请求头里没有Host,那这就是一个错误的报文。

Host字段告诉服务器这个请求应该由哪个主机来处理,当一台计算机上托管了多个虚拟主机的时候,服务器端就需要用Host字段来选择,有点像是一个简单的“路由重定向”。

例如我们的试验环境,在127.0.0.1上有三个虚拟主机:“www.chrono.com”“www.metroid.net”和“origin.io”。那么当使用域名的方式访问时,就必须要用Host字段来区分这三个IP相同但域名不同的网站,否则服务器就会找不到合适的虚拟主机,无法处理。

User-Agent是请求字段,只出现在请求头里。它使用一个字符串来描述发起HTTP请求的客户端,服务器可以依据它来返回最合适此浏览器显示的页面。

但由于历史的原因,User-Agent非常混乱,每个浏览器都自称是“Mozilla”“Chrome”“Safari”,企图使用这个字段来互相“伪装”,导致User-Agent变得越来越长,最终变得毫无意义。

不过有的比较“诚实”的爬虫会在User-Agent里用“spider”标明自己是爬虫,所以可以利用这个字段实现简单的反爬虫策略。

Date字段是一个通用字段,但通常出现在响应头里,表示HTTP报文创建的时间,客户端可以使用这个时间再搭配其他字段决定缓存策略。

Server字段是响应字段,只能出现在响应头里。它告诉客户端当前正在提供Web服务的软件名称和版本号,例如在我们的实验环境里它就是“Server: openresty/1.15.8.1”,即使用的是OpenResty 1.15.8.1。

Server字段也不是必须要出现的,因为这会把服务器的一部分信息暴露给外界,如果这个版本恰好存在bug,那么黑客就有可能利用bug攻陷服务器。所以,有的网站响应头里要么没有这个字段,要么就给出一个完全无关的描述信息。

比如GitHub,它的Server字段里就看不出是使用了Apache还是Nginx,只是显示为“GitHub.com”。

实体字段里要说的一个是Content-Length,它表示报文里body的长度,也就是请求头或响应头空行后面数据的长度。服务器看到这个字段,就知道了后续有多少数据,可以直接接收。如果没有这个字段,那么body就是不定长的,需要使用chunked方式分段传输。

小结

今天我们学习了HTTP的报文结构,下面做一个简单小结。

  1. HTTP报文结构就像是“大头儿子”,由“起始行+头部+空行+实体”组成,简单地说就是“header+body”;
  2. HTTP报文可以没有body,但必须要有header,而且header后也必须要有空行,形象地说就是“大头”必须要带着“脖子”;
  3. 请求头由“请求行+头部字段”构成,响应头由“状态行+头部字段”构成;
  4. 请求行有三部分:请求方法,请求目标和版本号;
  5. 状态行也有三部分:版本号,状态码和原因字符串;
  6. 头部字段是key-value的形式,用“:”分隔,不区分大小写,顺序任意,除了规定的标准头,也可以任意添加自定义字段,实现功能扩展;
  7. HTTP/1.1里唯一要求必须提供的头字段是Host,它必须出现在请求头里,标记虚拟主机名。

课下作业

  1. 如果拼HTTP报文的时候,在头字段后多加了一个CRLF,导致出现了一个空行,会发生什么?
  2. 讲头字段时说“:”后的空格可以有多个,那为什么绝大多数情况下都只使用一个空格呢?

欢迎你把自己的答案写在留言区,与我和其他同学一起讨论。如果你觉得有所收获,也欢迎把文章分享给你的朋友。

unpreview

精选留言

  • 2019-06-17 08:48:31

    1:如果拼 HTTP 报文的时候,在头字段后多加了一个 CRLF,导致出现了一个空行,会发生什么?
    在header 下面第一个空行以后都会被当作body 体

    2:讲头字段时说“:”后的空格可以有多个,那为什么绝大多数情况下都只使用一个空格呢?
    头部多一个空格就会多一个传输的字节,去掉无用的信息,保证传输的头部字节数尽量小
    作者回复

    回答的很好。

    2019-06-17 09:51:16

  • 壹笙☞漂泊

    2019-06-17 16:08:42

    答题:
    1、头字段后多了一个CRLF,会被当做body处理
    2、节省资源
    总结:
    HTTP协议的请求报文和相应报文的结构基本相同:
    1、起始行(start line):描述请求或响应的基本信息
    2、头部字段集合(header):使用key-value形式更详细的说明报文
    3、消息正文(entity):实际传输的数据,它不一定是纯文本,可以是图片、视频等二进制数据

    HTTP协议必须有header,可以没有body。而且header之后必须要有一个空行,也就是 “CRLF”,十六进制的“0D0A”

    请求行(请求报文里的起始行):
    描述了客户端想要如何操作服务器端的资源
    起始行由三部分构成:
    1、请求方法:标识对资源的操作:GET/POST/PUT
    2、请求目标:通常是一个URI,标记了请求方法要操作的资源
    3、版本号:标识报文使用的HTTP协议版本
    以上三部分,通常使用空格分隔,最后用CRLF换行

    状态行:(响应报文里的起始行):
    服务器响应的状态
    状态行也是由三部分构成:
    1、版本号:标识报文使用的HTTP协议版本
    2、状态码:三位数,用代码形式标识处理的结果,比如200是成功,500是服务器错误
    3、原因:作为数字状态码补充,是更详细的解释文字,帮助人理解原因
    以上三部分,通常也使用空格分隔,最后用CRLF换行

    头部字段:
    请求行或状态行再加上头部字段集合就构成了HTTP报文里完整的请求头或响应头。

    头部字段是key-value的形式,用“:”分隔,最后用CRLF换行标识字段结束

    头字段,不仅可以使用标准的Host等已有开头,也可以任意添加自定义头

    注意:
    1.字段名不区分大小写,例如“Host"也可以写成“host”,但首字母大写的可读性更好;
    2.字段名里不允许出现空格,可以使用连字符“一”,但不能使用下划线“”。例 如,“test-name”是合法的字段名,而“test name""test_ name' 是不正确的字段名;
    3.字段名后面必须紧接着“:”,不能有空格,而“:” 后的字段值前可以有多个空格;
    4.字段的顺序是没有意义的,可以任意排列不影响语义;
    5.字段原则上不能重复,除非这个字段本身的语义允许,例如Set-Cookie。

    常用头字段

    基本分为四类:
    1.通用字段:在请求头和响应头里都可以出现;
    2.请求字段:仅能出现在请求头里,进一步说明请求信息或者额外的附加条件;
    3.响应字段:仅能出现在响应头里,补充说明响应报文的信息;
    4.实体字段:它实际上属于通用字段,但专门描述body的额外信息。

    Host:请求字段,只能出现在请求头。是必须出现的字段
    User-Agent:是请求字段,只能出现在请求头里。
    Date:是通用字段,通常出现在响应头,标识HTTP报文创建的时间,客户端可以使用这个时间再搭配其他字段决定缓存策略
    Server字段是响应字段,只能出现在响应头里。告诉客户端当前正在提供Web服务的软件名称和版本号。
    Content-Length:标识报文里body的长度。
    作者回复

    总结的非常好,赞!

    2019-06-18 09:05:34

  • Mèow

    2021-02-04 14:27:56

    请问Host虽然是规定必须的,但是不加的话也没问题吗?我看掘金的主页就没有host,而是用的几个私有字段
    :authority: juejin.cn
    :method: GET
    :path: /
    :scheme: https
    作者回复

    Host是必须要有的字段,你贴的这几个实际上是http/2的字段(前面有冒号,全小写),而:authority就相当于http/1里的host。

    2021-02-05 09:06:30

  • xing.org1^

    2019-06-19 08:39:07

    老师,请问为什么请求头太大会占用服务器资源呢?
    作者回复

    因为服务器必须分配内存存储请求头,然后才能处理,如果头很大,比如说16k,那么几万个请求就会占用非常多的内存。

    Nginx里限制头不超过4k,就是为了节约内存资源。

    2019-06-19 09:29:54

  • 隰有荷

    2019-06-21 08:09:34

    为啥老师懂的这么多!唉,何时能学成你的一半水平,我也就满意了😂
    作者回复

    学业有先后,术业有专攻,一起努力。

    2019-06-21 17:26:20

  • 10

    2019-06-19 14:31:27

    我也遇到了前面2个同学提到的遗失对主机的连接的问题,但老师您的回答貌似没解决问题,我再确认一下,在浏览器可以顺利访问www.chrono.com的情况下:

    1. Win+R打开Telnet后,输入 “open www.chrono.com 80”,点击回车,然后界面显示“正在连接open www.chrono.com 80”
    2. 上一步漫长的等待后,界面显示“按任意键继续”
    3. 我按了空格,界面上新增一行“遗失对主机的连接”

    另外老师您说的“按Ctrl+]键,然后回车”我在上面1步和第3步都试过 每次都显示“无效指令”

    请问我是哪一步出的问题呢
    作者回复

    不需要等待,在显示“正在连接”的时候按按Ctrl+]键,然后回车。

    “正在连接”的意思是已经连上了。

    可以再搜索一下Windows上Telnet的用法。

    2019-06-19 15:47:07

  • qzmone

    2019-06-17 20:04:48

    我也不是很理解这个host字段,比如一个网站的域名解析后的IP是负载均衡的IP,负载均衡后面对应的是web主机集群,那么这个host是什么,浏览器怎么知道虚拟主机的真实IP呢
    作者回复

    host字段是给Web服务器(Apache,Nginx)用的。

    解析出ip后,请求到达Nginx,因为上面运行了很多的虚拟主机,比如a.com/b.com/c.com,那么应该进那个呢?

    这个时候就要用到host字段了。如果host=b.com,那么Nginx就会使用b.com的配置提供服务。

    你最后的问题其实是反了,浏览器解析域名得到ip地址,它不知道域名对应的是不是虚拟主机,也可能是真实主机。

    2019-06-18 09:00:16

  • 面罩

    2021-09-01 00:02:32

    说一下老师所说的 telnet 怎么用:
    1. win + r,输入 telnet,确定后就打开了
    2. 在界面中输入 open www.chrono.com 80,并回车
    3. 接下来会显示 “正在连接 www.chrono.com....”,就已经表示连接上了
    4. 接下来先 ctrl + ],然后再 enter,即可进入黑乎乎的编辑页面
    5. 在编辑页面输入老师给的请求信息(我是手敲的,我复制过去貌似直接发请求了,应该是复制的格式不对,导致失败了)
    6. 输入请求信息后,连续点击两次 enter,即可发送请求
    作者回复

    great

    2021-09-01 13:08:41

  • 文華

    2019-10-23 08:28:14

    使用Telnet遇到问题的同学请注意,“Escape Character is 'Ctrl+]'"这提示的意思是已经连接到了服务器,按Ctrl+]就结束连接退出了,所以看到提示时直接将HTTP请求内容贴上去,再按回车加入空行,就能得到响应了。
    作者回复

    欢迎同学们互相交流学习经验。

    2019-10-23 09:01:53

  • -W.LI-

    2019-06-17 23:03:14

    支持老师原声。赞一个
    作者回复

    理解万岁。

    2019-06-18 08:54:33

  • Demon.Lee

    2019-10-02 06:36:40

    老师,不是通过ip+port+资源路径确定的吗,咋又通过header中的host来找呢,不懂。
    作者回复

    host头字段是用来定位“虚拟主机”的。比如说一台物理服务器上托管了a.com、b.org、c.net三个网站,用ip+port就不知道该访问哪个网站。

    有了host, web server就可以知道选择对应网站的数据提供服务,再用uri去查找资源。

    2019-10-08 09:13:25

  • 业余草

    2019-06-18 18:17:03

    老师讲到了 Host,可以顺便讲一下 Host 攻击吗?
    作者回复

    网络攻击的范围太大,我不是专门做这个的,不能讲的很深入。

    简单来说,就是在host头里面加入精心设计的代码,诱骗服务器执行。

    2019-06-19 09:05:00

  • 高翔Gilbert

    2019-06-17 08:02:52

    为什么不找人读呢?听起来好吃力
    作者回复

    sorry了,本人非播音科班,听着难受就看文字吧。

    2019-06-17 09:12:47

  • Osborne

    2020-03-23 19:36:14

    hosts的实验终于成了,问题有2:host太容易失效了,用vpn的、代理的都容易干扰hosts,360安全卫士貌似也影响。二是其中表述“右键粘贴文本”这句话容易误导把界面的粘贴功能带过来的剪贴板内容都粘过来,而俩个一起粘贴是有问题的。且表现会很诡异。几个问题交织到一起的时候,就更糟了。多种可能组合,让你简直觉得鬼打墙,而telnet本身在windows的cmd下还有诡异的现象,光标位置乱跳。一个小小的实操,废了我2小时时间。极客时间编辑该反省下自己了。
    作者回复

    真是很抱歉,当初我考虑用Windows主要是为了大家用起来方便,没想到还有这么多的麻烦事。

    关于操作的问题,确实是表述的不太清楚,没做过客服,有些说法就容易引起误解,再次说声抱歉。

    2020-03-24 08:58:45

  • 小桶

    2019-06-22 16:52:05

    对window一直显示正在连接的问题,我的解决方案是直接使用telnet www.chrono.com 80,而不是使用open www.chrono.com 80
    作者回复

    其他有问题的同学也可以试试。

    2019-06-23 11:15:55

  • sc

    2019-06-18 00:28:40

    2. 讲头字段时说“:”后的空格可以有多个,那为什么绝大多数情况下都只使用一个空格呢?
    请问老师,空格可以一个都不加吧,telnet测试也可以正确返回,为什么还要使用一个空格
    作者回复

    按照rfc标准,空格可以是零个或多个,但一个空格已经成了约定俗成的习惯。见rfc7230 3.2.3。

    2019-06-18 09:09:35

  • 火车日记

    2019-06-19 09:37:46

    老师有个点是不是漏讲了,头部字段content_type,和body的数据格式
    作者回复

    后面的进阶篇再讲。

    2019-06-19 12:13:54

  • 2019-06-17 08:28:21

    文中说 http 的头部不能使用下划线,感觉是有问题的,就拿 nginx 来说吧,虽然nginx 默认是忽略下划线的头部的,但是可以设置 underscores_in_headers on; 来获取下划线的头部

    对于常用的 web application 服务器,下划线的头部好像是可以直接获取到的,不用配置什么

    老师你说的不能使用下划线是 RFC规范吗?
    作者回复

    是的,RFC有规定,但现实中也有部分不遵守。

    2019-06-17 09:51:57

  • Vera

    2021-02-26 11:39:01

    1.新手实操之后理解了下,多了个CRLF相当于在请求行输入后直接退出连接,最终发送请求失败。
    2.测试过多的空格发送后,发现会导致content-length增加。增加冗余的数据大小,所以不建议多写空格
    作者回复

    动手实践精神值得大力表扬。

    1.如果在请求行后有多个空行(CRLF),就不符合HTTP报文格式了,所以就会失败。

    2.头字段里可以有多个空格,但content-length表示的是body大小,应该不会改变,变的应该是整个报文长度。

    2021-02-26 12:40:59

  • Geek_63bb29

    2020-07-12 20:58:38

    老师,如何理解“纯文本协议”啊,http报文不是都要加上tcp、ip、mac头,然后二进制流发出去吗?http是纯文本协议,http2是二进制协议,仅看这个特性的话,他两的不同是不是在于,应用层接受到二进制数据以后,http需要将其转换成字符,然后才能确定报文类型,但是http2不要转换前就能确定报文类型,可以这样理解吗?烦请老师指点呀~
    作者回复


    1.说http是纯文本,当然是只看http,不看下层的tcp、ip了。对比一下,tcp/ip的报文头用的是字节、位,而http用的是明文字符,所以就是纯文本。

    2.http/1纯文本的好处是方便易读,对人类友好,而http/2正相反,易于机器解析。

    可以再看后面的课程加深理解。

    2020-07-13 08:50:45