python 获取请求链接下载文件的大小和文件特征

###根据url链接提取下载文件的大小特征和下载文件类型
def getRemoteFileSize(url, proxy=None):
    '''
    通过content-length头获取远程文件大小
    '''
    opener = urllib2.build_opener()
    if proxy:
        if url.lower().startswith('https://'):
            opener.add_handler(urllib2.ProxyHandler({'https' : proxy}))
        elif url.lower().startswith('http://'):
            opener.add_handler(urllib2.ProxyHandler({'http' : proxy}))
        else:
            opener.add_handler(urllib2.ProxyHandler({'ftp': proxy}))
    try:
        request = urllib2.Request(url)
        request.get_method = lambda: 'HEAD'
        response = opener.open(request)
        response.read()
    except Exception, e:
        # 远程文件不存在
        return 0, 0
    else:
        getfileSize = dict(response.headers).get('content-length', 0)
        filesize = round(float(getfileSize) / 1048576, 2)
        getContentType = dict(response.headers).get('content-type', 0)
        return filesize, getContentType

参考链接:http://blog.sina.com.cn/s/blog_12c7a20b00102w80l.html

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
如果你想要爬取的链接是一个文件下载链接,你可以使用 Python 的 `requests` 库来下载文件。以下是一个示例代码: ```python import requests url = "https://example.com/file.pdf" # 要下载文件链接 path = "/path/to/save/file.pdf" # 保存文件的路径和文件名 response = requests.get(url) with open(path, "wb") as f: f.write(response.content) ``` 在上面的代码中,我们首先使用 `requests.get()` 方法获取文件的二进制数据,然后将其写入到指定的文件路径中。注意,我们使用了 `with open()` 语句来打开文件,这样可以确保在文件操作完成后自动关闭文件句柄。 你需要将 `url` 替换为你要下载文件链接,将 `path` 替换为你要保存文件的路径和文件名。需要注意的是,如果你要下载文件链接需要身份验证或者需要设置请求头等特殊设置,你需要在 `requests.get()` 方法中相应地添加参数。 另外,如果你需要下载文件比较大,你可能需要使用分块下载的方式来避免一次性将整个文件读入内存中。你可以通过设置 `stream=True` 来启用分块下载模式,然后使用 `response.iter_content()` 方法逐块读取数据并写入文件。以下是一个示例代码: ```python import requests url = "https://example.com/large_file.zip" # 要下载文件链接 path = "/path/to/save/large_file.zip" # 保存文件的路径和文件名 response = requests.get(url, stream=True) with open(path, "wb") as f: for chunk in response.iter_content(chunk_size=1024): if chunk: f.write(chunk) ``` 在上面的代码中,我们使用 `response.iter_content()` 方法逐块读取数据,并将每一块数据写入到文件中。需要注意的是,我们设置了块大小为 1024 字节,你可以根据需要调整块大小

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值