前言:最近在写一个网站的爬虫的时候模拟了一个请求却老是得到httpcode 400这个响应,大家也知道一般这个响应主要是因为客户端也就是发送方的接口请求格式有问题,一开始我直接使用Postman去模拟请求,是可以得到数据的,然后我又使用python脚本去模拟请求,却始终得不到,后来结合之前开发服务端的经验,发现犯了一个很初级的错误,没有注意到content-type的提交POST的方式,难怪一直出错,下面我们来还原一下场景,以及扩展分析一下四种常见的POST提交方式的区别。
演示:
我们需要爬的网站模拟的请求如下:
content-type
form data
因为写惯了content-type是application/json的格式了,所以习以为常的把form-data写成了Python中的dict格式,结果一直报400的错误,错误代码大致如下:
import requests
headers = {
"content-type": "application/x-www-form-urlencoded;charset=UTF-8"
}
data = {
"f.req": xxx,
"at": xxx
}
requests.post(url=url,headers=headers,data=data)
之后结合之前做服务端的时候经常被这个content-type搞懵逼的经历,就看出请求方式的错误,于是把代码改成了这样,就完美的收到200的响应了。
import requests
from urllib.parse import urlencode
headers = {
"content-type": "application/x-www-form-urlencoded;charset=UTF-8"
}
data = {
"f.req": xxx,
"at": xxx
}
data = urlencode(data)
requests.post(url=url,headers=headers,data=data)
扩展:
- application/x-www-form-urlencoded
- multipart/form-data
- application/json
- text/xml
以上是四种常见的POST提交数据的方式,我们知道,HTTP协议是以 ASCII 码传输(可参考http介绍),建立在 TCP/IP 协议之上的应用层规范。规范把 HTTP 请求分为三个部分:状态行、请求头、消息主体。类似于下面这样
<method> <request-URL> <version>
<headers>
<entity-body>
议规定 POST 提交的数据必须放在消息主体(entity-body)中,但协议并没有规定数据必须使用什么编码方式。实际上,开发者完全可以自己决定消息主体的格式,只要最后发送的 HTTP 请求满足上面的格式就可以。
但是,数据发送出去,还要服务端解析成功才有意义。一般服务端语言如 php、python 等,以及它们的 framework,都内置了自动解析常见数据格式的功能。服务端通常是根据请求头(headers)中的 Content-Type 字段来获知请求中的消息主体是用何种方式编码,再对主体进行解析。所以说到 POST 提交数据方案,包含了 Content-Type 和消息主体编码方式两部分。下面就正式开始介绍它们。
1.application/x-www-form-urlencoded
这应该是最常见的 POST提交数据的方式了。浏览器的原生form 表单,如果不设置enctype属性,那么最终就会以 application/x-www-form-urlencoded 方式提交数据。请求类似于下面这样(无关的请求头在本文中都省略掉了):
POST http://www.example.com HTTP/1.1
Content-Type: application/x-www-form-urlencoded;charset=utf-8
title=test&sub%5B%5D=1&sub%5B%5D=2&sub%5B%5D=3
首先,Content-Type 被指定为application/x-www-form-urlencoded;其次,提交的数据按照 key1=val1&key2=val2 的方式进行编码,key 和 val 都进行了 URL 转码。大部分服务端语言都对这种方式有很好的支持。很多时候,我们用 Ajax提交数据时,也是使用这种方式。例如 JQuery 和 QWrap 的 Ajax,Content-Type 默认值都是「application/x-www-form-urlencoded;charset=utf-8」。
2.multipart/form-data
这又是一个常见的 POST数据提交的方式。我们使用表单上传文件时,必须让 form 的 enctyped 等于这个值。直接来看一个请求示例:
POST http://www.example.com HTTP/1.1
Content-Type:multipart/form-data; boundary=----WebKitFormBoundaryrGKCBY7qhFd3TrwA
------WebKitFormBoundaryrGKCBY7qhFd3TrwA
Content-Disposition: form-data; name="text"
title
------WebKitFormBoundaryrGKCBY7qhFd3TrwA
Content-Disposition: form-data; name="file"; filename="chrome.png"
Content-Type: image/png
PNG ... content of chrome.png ...
------WebKitFormBoundaryrGKCBY7qhFd3TrwA--
这个例子稍微复杂点。首先生成了一个 boundary用于分割不同的字段,为了避免与正文内容重复,boundary 很长很复杂。然后 Content-Type里指明了数据是以 mutipart/form-data 来编码,本次请求的boundary 是什么内容。消息主体里按照字段个数又分为多个结构类似的部分,每部分都是以–boundary 开始,紧接着内容描述信息,然后是回车,最后是字段具体内容(文本或二进制)。如果传输的是文件,还要包含文件名和文件类型信息。消息主体最后以 –boundary–标示结束。关于 mutipart/form-data 的详细定义,请前往 rfc1867 查看。这种方式一般用来上传文件,各大服务端语言对它也有着良好的支持。上面提到的这两种POST 数据的方式,都是浏览器原生支持的,而且现阶段原生 form 表单也只支持这两种方式。但是随着越来越多的 Web 站点,尤其是 WebApp,全部使用 Ajax进行数据交互之后,我们完全可以定义新的数据提交方式,给开发带来更多便利。
3.application/json
application/json 这个 Content-Type作为响应头大家肯定不陌生。实际上,现在越来越多的人把它作为请求头,用来告诉服务端消息主体是序列化后的 JSON 字符串。由于 JSON规范的流行,除了低版本 IE 之外的各大浏览器都原生支持 JSON.stringify,服务端语言也都有处理 JSON 的函数,使用JSON不会遇上什么麻烦。
JSON格式支持比键值对复杂得多的结构化数据,这一点也很有用。
POST http://www.example.com HTTP/1.1
Content-Type: application/json;charset=utf-8
{"title":"test","sub":[1,2,3]}
这种方案,可以方便的提交复杂的结构化数据,特别适合RESTful的接口。各大抓包工具如Chrome 自带的开发者工具、Firebug、Fiddler,都会以树形结构展示 JSON数据,非常友好。
4.text/xml
它是一种使用 HTTP作为传输协议,XML 作为编码方式的远程调用规范。典型的XML-RPC请求是这样的:
POST http://www.example.com HTTP/1.1
Content-Type: text/xml
<?xml version="1.0"?>
<methodCall>
<methodName>examples.getStateName</methodName>
<params>
<param>
<value><i4>41</i4></value>
</param>
</params>
</methodCall>
XML-RPC 协议简单、功能够用,各种语言的实现都有。比如微信的小程序和公众平台都是使用它来作为基本的传输类型,它的使用也很广泛,如 WordPress 的 XML-RPC Api,搜索引擎的 ping 服务等等。JavaScript 中,也有现成的库支持以这种方式进行数据交互,能很好的支持已有的 XML-RPC服务。不过,我个人觉得XML 结构还是过于臃肿,一般场景用 JSON会更灵活方便。
总结:
以上就是关于四种POST提交数据的方式的不同了,大家可以仔细结合参考资料好好领会。








网友评论