PHP 检测机器人,屏蔽内页

PHP 检测机器人,屏蔽内页

<?php
// SpiderHelper::rewrite301();
// SpiderHelper::showRobotTxt();
class SpiderHelper {
	
	/**
	 * 如果是爬虫,301跳转到某个地址
	 * @param string $location
	 */
	public static function rewrite301($location = '/') {
		if(self::isSpider()){
			header('HTTP/1.1 301 Moved Permanently');
			header('Location: '.$location);
			exit();
		}
	}
	
	/**
	 * 显示文件内容
	 * @var unknown
	 */
	public static function showRobotTxt() {
		if(self::isSpider()){
			echo	"User-agent: *\r\n".
					"Disallow: /";
			exit();
		}
	}
	
	/**
	 * 检查是否是爬虫
	 * @param string $userAgent 客户端类型
	 * @return boolean
	 */
	public static function isSpider($userAgent = '') {
		static $kwSpiders = array('bot', 'crawl', 'spider' ,'slurp', 'sohu-search', 'lycos', 'robozilla');
		static $kwBrowsers = array('msie', 'netscape', 'opera', 'konqueror', 'mozilla');
	
		$userAgent = strtolower(empty($userAgent) ? $_SERVER['HTTP_USER_AGENT'] : $userAgent);
		if(strpos($userAgent, 'http://') === false && self::checkStrpos($userAgent, $kwBrowsers)){ // 浏览器
			return false;
		}
		if(self::checkStrpos($userAgent, $kwSpiders)){ // 蜘蛛
			return true;
		}
		return false;
	}
	
	/**
	 * 是否存在数组中的关键字
	 * @param unknown $needle 字符串
	 * @param unknown $haystack 关键字数组
	 * @param string $returnValue 是否返回匹配到的值
	 * @return boolean|Ambigous <boolean, unknown>
	 */
	private static function checkStrpos($needle, $haystack, $returnValue = false) {
		if(empty($needle)){
			return false;
		}
		foreach((array)$haystack as $v) {
			if(strpos($needle, $v) !== false) {
				$return = $returnValue ? $v : true;
				return $return;
			}
		}
		return false;
	}
}

 

转载于:https://www.cnblogs.com/xiaoyaogege/p/6210324.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值