python 3.7 urllib.request 不遵循重定向 URL

Question

我正在使用带有 urllib 的 Python 3.7。 一切正常，但当它收到 http 重定向请求（307）时，它似乎没有自动重定向。

这是我得到的错误：

ERROR 2020-06-15 10:25:06,968 HTTP Error 307: Temporary Redirect

我必须使用 try-except 来处理它并手动向新位置发送另一个请求：它工作正常，但我不喜欢它。

这些是我用来执行请求的代码：

      req = urllib.request.Request(url)
      req.add_header('Authorization', auth)
      req.add_header('Content-Type','application/json; charset=utf-8')
      req.data=jdati  
      self.logger.debug(req.headers)
      self.logger.info(req.data)
      resp = urllib.request.urlopen(req)

url 是一个 https 资源，我设置了一个带有一些授权信息和内容类型的 header。 req.data 是 JSON

从 urllib 文档中，我了解到重定向是由库本身自动执行的，但它对我不起作用。 它总是引发 http 307 错误并且不遵循重定向 URL。 我还尝试使用指定默认重定向处理程序的开启程序，但结果相同

  opener = urllib.request.build_opener(urllib.request.HTTPRedirectHandler)          
  req = urllib.request.Request(url)
  req.add_header('Authorization', auth)
  req.add_header('Content-Type','application/json; charset=utf-8')
  req.data=jdati  
  resp = opener.open(req)         

可能是什么问题呢？

Answer 1

您在评论部分的讨论中真正正确地确定了重定向未自动完成的原因。 具体来说， RFC 2616 第 10.3.8 节指出：

如果收到 307 状态代码以响应 GET 或 HEAD 以外的请求，除非用户可以确认，否则用户代理不得自动重定向请求，因为这可能会改变发出请求的条件。

回到问题 - 鉴于data已被分配，这会自动导致get_method返回POST （根据此方法的实现方式），并且由于请求方法是POST ，响应代码是307 ，而是引发HTTPError按照上述规范。 在 Python 的urllib上下文中， urllib.request模块的这个特定部分会引发异常。

对于实验，请尝试以下代码：

import urllib.request
import urllib.parse


url = 'http://httpbin.org/status/307'
req = urllib.request.Request(url)
req.data = b'hello'  # comment out to not trigger manual redirect handling
try:
    resp = urllib.request.urlopen(req)
except urllib.error.HTTPError as e:
    if e.status != 307:
        raise  # not a status code that can be handled here
    redirected_url = urllib.parse.urljoin(url, e.headers['Location'])
    resp = urllib.request.urlopen(redirected_url)
    print('Redirected -> %s' % redirected_url)  # the original redirected url 
print('Response URL -> %s ' % resp.url)  # the final url

按原样运行代码可能会产生以下结果

Redirected -> http://httpbin.org/redirect/1
Response URL -> http://httpbin.org/get 

请注意，后续重定向到get是自动完成的，因为后续请求是GET请求。 注释掉req.data分配行将导致缺少“重定向” output 行。

在异常处理块中需要注意的其他值得注意的事情，可以e.read()来检索服务器生成的响应主体，作为HTTP 307响应的一部分（由于发布了data ，响应中可能有一个短实体可能会被处理？），并且需要urljoin ，因为Location header 可能是后续资源的相对 URL（或只是缺少主机）。

此外，作为一个感兴趣的问题（并且出于链接目的），这个特定问题之前已被多次询问，我很惊讶他们从未得到任何答案，如下所示：

• 如何使用从 http 到 https 的 urllib2 处理 307 重定向
• HTTP 错误 307：Python3 中的临时重定向 - 内联网
• HTTP 错误 307 - python 脚本中的临时重定向