Python Just get Response Headers, not get content.
1. Use HEAD method
> import requests > res = requests.head("http://www.baidu.com/") > req.head("https://www.baidu.com/").headers {'Content-Encoding': 'gzip', 'Server': 'bfe/1.0.8.18', 'Last-Modified': 'Mon, 13 Jun 2016 02:50:08 GMT', 'Connection': 'Keep-Alive', 'Pragma': 'no-cache', 'Cache-Control': 'private, no-cache, no-store, proxy-revalidate, no-transform', 'Date': 'Fri, 13 Oct 2017 04:36:20 GMT', 'Content-Type': 'text/html'} > res.ok True > res.content '' # 但是会遇到一些问题, 比如, 服务器不支持 HEAD, 或者拒绝 HEAD. # 如下情况就被拒绝 # > res = req.head("https://www.douban.com/subject/1/") > res <Response [403]> > res.ok False > res.content '' > res.headers {'Content-Encoding': 'gzip', 'Keep-Alive': 'timeout=30', 'Server': 'dae', 'Connection': 'keep-alive', 'Date': 'Fri, 13 Oct 2017 04:39:00 GMT', 'Content-Type': 'text/html'}
不是很通用, 因为有些服务器不支持.
2. Use urllib
import urllib > res = urllib.urlopen("http://127.0.0.1:8000/git.exe") > res.url 'http://127.0.0.1:8000/git.exe' > res.headers.headers ['Server: SimpleHTTP/0.6 Python/2.7.10\r\n', 'Date: Fri, 13 Oct 2017 06:06:37 GMT\r\n', 'Content-type: application/x-msdownload\r\n', 'Content-Length: 7569408\r\n', 'Last-Modified: Fri, 16 Dec 2016 07:09:32 GMT\r\n'] > len(r.read()) 7569408 # urllib 只有在调用 read/readline/readlines 的时候才会从 web 服务器读取数据. # 源码可以在 urllib/httplib 中找到. # urllib.py def urlopen(url, ...): opener = FancyURLopener() return opener.open(url) class FancyURLopener(URLopener).open(): getattr(self, name)(url) class URLopener.open_http(): errcode, errmsg, headers = h.getreply() if(200 <= errcode < 300): return addinfourl(fp, headers, "http:" + url, errcode) else: if data is None: return self.http_error(url, fp, errcode, errmsg, headers) else: return self.http_error(url, fp, errcode, errmsg, headers, data) class URLopener.http_error(): return method(url, fp, errcode, errmsg, headers) class FancyURLopener.http_error_default(): return addinfourl(fp, headers, "http:" + url, errcode) class addinfourl(addbase): # 代码中并没有对 fp 做任何操作,包括读写. class addbase.__init __(): self.fp = fp self.read = self.fp.read self.readline = self.fp.readline if hasattr(self.fp, "readlines"): self.readlines = self.fp.readlines self.fileno = self.fp.fileno # ... ...
可以看到, urllib.open 最终返回了 addbase, addbase 中没有对 socket 做任务处理, 不会有任何读写. 之后显示调用 read/readline/readlines, 才会从 web 服务器读取数据.
图 1. 初始化网络.
图 2. urlopen() 之后
图 3. read() 之后
3. Use socket
看过 urllib 之后, 可以使用 socket 写一个方法, 只获取 header.
import socket import ssl _timeout = 10 socket.setdefaulttimeout(_timeout) def get_header(host, port=80, uri="/", method="GET", user_ssl=False): # 这里可以再扩充一下, 支持 headers conn = None header = """%s %s HTTP/1.1\r\nHost: %s\r\nConnection: close\r\nUser-Agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_11_6) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/61.0.3163.100 Safari/537.36\r\n\r\n""" % ( method, uri, host) if user_ssl: ssl_context = ssl.SSLContext(ssl.PROTOCOL_TLSv1) _socket = socket.socket(socket.AF_INET, socket.SOCK_STREAM) conn = ssl_context.wrap_socket(_socket, server_hostname=host) conn.connect((host, port)) conn.send(header) else: conn = socket.create_connection((host, port), _timeout) conn.sendall(header) text = "" while True: if "\r\n\r\n" in text: break buff = conn.recv(10) text += buff # print buff conn.close() return text.split("\r\n\r\n")[0] if __name__ == '__main__': print get_header("www.douban.com", uri="/subject/27076001/") print print get_header("www.douban.com", uri="/subject/27076001/", port=443, user_ssl=True)
"external nofollow" target="_blank" href="https://stackoverflow.com/questions/32062925/python-socket-server-handle-https-request"><< Python socket server handle HTTPS request (https://stackoverflow.com/questions/32062925/python-socket-server-handle-https-request)以上这篇Python 仅获取响应头, 不获取实体的实例就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持。
标签:
Python,获取,响应头
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件!
如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
暂无“Python 仅获取响应头, 不获取实体的实例”评论...
更新动态
2024年11月25日
2024年11月25日
- 凤飞飞《我们的主题曲》飞跃制作[正版原抓WAV+CUE]
- 刘嘉亮《亮情歌2》[WAV+CUE][1G]
- 红馆40·谭咏麟《歌者恋歌浓情30年演唱会》3CD[低速原抓WAV+CUE][1.8G]
- 刘纬武《睡眠宝宝竖琴童谣 吉卜力工作室 白噪音安抚》[320K/MP3][193.25MB]
- 【轻音乐】曼托凡尼乐团《精选辑》2CD.1998[FLAC+CUE整轨]
- 邝美云《心中有爱》1989年香港DMIJP版1MTO东芝首版[WAV+CUE]
- 群星《情叹-发烧女声DSD》天籁女声发烧碟[WAV+CUE]
- 刘纬武《睡眠宝宝竖琴童谣 吉卜力工作室 白噪音安抚》[FLAC/分轨][748.03MB]
- 理想混蛋《Origin Sessions》[320K/MP3][37.47MB]
- 公馆青少年《我其实一点都不酷》[320K/MP3][78.78MB]
- 群星《情叹-发烧男声DSD》最值得珍藏的完美男声[WAV+CUE]
- 群星《国韵飘香·贵妃醉酒HQCD黑胶王》2CD[WAV]
- 卫兰《DAUGHTER》【低速原抓WAV+CUE】
- 公馆青少年《我其实一点都不酷》[FLAC/分轨][398.22MB]
- ZWEI《迟暮的花 (Explicit)》[320K/MP3][57.16MB]