Python:mitmproxy获取HTTP请求URL

import mitmproxy.http
import logging,sys

logging.basicConfig(filename=sys.path[0]+'/'+__name__+'.log',format='[%(asctime)s-%(filename)s-%(levelname)s:%(message)s]', level=logging.INFO,filemode='a',datefmt='%Y-%m-%d%I:%M:%S %p')

# http static resource file extension
static_ext = ['js', 'css', 'ico', 'jpg', 'png', 'gif', 'jpeg', 'bmp', 'conf']
# media resource files type
media_types = ['image', 'video', 'audio']

# url filter
url_filter = ['www.baidu.com','m.baidu.com','mbd.baidu.com','www.google.com','www.qq.com','www.youku.com','h5.dingtalk.com']

word_filter = ['json','JSON','login','error']

static_files = [
    'text/css',
    'image/jpeg',
    'image/gif',
    'image/png',
]


# 词过滤
def wordFilter(url):
    flag = False
    for word in word_filter:
        if url.__contains__(word):
            flag = True
            break
    return flag


class HttpFilter:
    def response(self, flow: mitmproxy.http.HTTPFlow):
        # 忽略相应的地址
        host = flow.request.host
        if host in url_filter:
            return

        if not flow.request.method == "GET":
            return

        if not flow.response.status_code == 200:
            return

        # 忽略相应的请求
        url = flow.request.url
        if wordFilter(url):
            return
        lastPath = url.split('?')[0].split('/')[-1]
        if lastPath.split('.')[-1] in static_ext:
            return

        if flow.response.text.__contains__('<html'):
            logging.info(flow.request.pretty_url)


addons = [
    HttpFilter()
]

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值