爬虫防爬的方法

html图片/视频/文件(即二进制流)防爬

正常url/blob二进制流转化为blob://http格式

转化代码示例:

<img :src="imgPic" style="height:100px;weight:100px"/>

const getImg =async() => {
 
// eslint-disable-next-line @typescript-eslint/no-var-requires
 
const imgUrl = require("@/assets/img/head1.jpeg")
 
const response = await fetch(imgUrl)
 
//取出blob二进制
 
const blob = await response.blob()
 
//赋值给需要展示的地方
 
state.imgPic = URL.createObjectURL(blob)
}

请求后端接口数据防爬

Request请求头headers里面添加x-haier-date、x-haier-tags参数(或者其他防爬参数)

服务端response请求头headers全部返回前端请求头里添加的参数

robots协议君子约定(软规范)

1)在public文件夹下建一个robots.txt文件,将不允许访问的目录配置在Disallow下

User-agent: *
Disallow: /

2)在index.html文件的head里面添加

<meta name="robots" content="noindex, nofollow">

3) 在服务器端设置响应头,告诉搜索引擎不要索引该页面

X-Robots-Tag: noindex, nofollow

"X-Robots-Tag"是一个响应头,"noindex"表示该页面不应该被索引,"nofollow"表示不应该跟进页面上的链接。

注:Robots协议只防君子爬虫

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值