寻找前置数据集

殇璃-

已于 2024-02-02 12:13:36 修改

阅读量468

点赞数 13

分类专栏：机器视觉学习文章标签：视觉检测

于 2024-01-30 17:06:21 首次发布

本文链接：https://blog.csdn.net/2301_80181144/article/details/135936389

版权

机器视觉学习专栏收录该内容

5 篇文章 0 订阅

订阅专栏

一、数据集

概念：

简单来说图像集（.png .jpg）等图片，标注后是图像数据集（.xml）形式。后者是训练时用到训练集。

二、寻找数据集

1、开源数据集网站

一般百度或者谷歌搜索就行，有的网站上会有打包好的供用户下载。一般训练2 3k张就能达到比较好的效果。这种方法适合找常规的、被很多人用的检测数据集，比如行人、火焰、汽车等。Kaggle和极市，就提供了大量开源数据集。但如果有特殊diy需求，一般没法从网上找到现成的数据集。就要考虑接下来的方法。

2、爬虫爬取

这部分适合比较规范的检测对象，比如魔方、台球等等。

爬虫爬取图片的python代码很多，这里放置一个供参考。里面 ’地面‘ 是搜索词，替换即可，倒数第三行改一下存放路径即可。

import time
import requests
import urllib
 
page = input("请输入要爬取多少页：")
page = int(page) + 1  # 确保其至少是一页，因为 输入值可以是 0
header = {
    'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 11_1_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/87.0.4280.88 Safari/537.36'
}
n = 0  # 图片的前缀 如 0.png
pn = 1  # pn是从第几张图片获取 百度图片下滑时默认一次性显示30张
for m in range(1, page):
    url = 'https://image.baidu.com/search/acjson?'
    param = {
        'tn': 'resultjson_com',
        'logid': '8846269338939606587',
        'ipn': 'rj',
        'ct': '201326592',
        'is': '',
        'fp': 'result',
        'queryWord': '地面',
        'cl': '2',
        'lm': '-1',
        'ie': 'utf-8',
        'oe': 'utf-8',
        'adpicid': '',
        'st': '-1',
        'z': '',
        'ic': '',
        'hd': '',
        'latest': '',
        'copyright': '',
        'word': '地面',
        's': '',
        'se': '',
        'tab': '',
        'width': '',
        'height': '',
        'face': '0',
        'istype': '2',
        'qc': '',
        'nc': '1',
        'fr': '',
        'expermode': '',
        'force': '',
        'cg': 'girl',
        'pn': pn,
        'rn': '30',
        'gsm': '1e',
    }
    page_info = requests.get(url=url, headers=header, params=param)
    page_info.encoding = 'utf-8'  # 确保解析的格式是utf-8的
    page_info = page_info.json()  # 转化为json格式在后面可以遍历字典获取其值
    info_list = page_info['data']  # 观察发现data中存在 需要用到的url地址
    del info_list[-1]  # 每一页的图片30张，下标是从 0 开始 29结束 ，那么请求的数据要删除第30个即 29为下标结束点
    img_path_list = []
    for i in info_list:
        img_path_list.append(i['thumbURL'])
        for index in range(len(img_path_list)):
            print(img_path_list[index])  # 所有的图片的访问地址
            time.sleep(1)
            urllib.request.urlretrieve(img_path_list[index], "D:/Awangyefu/" + str(n) + '.jpg')
        n = n + 1
 
    pn += 29

但是也有很少一部分物体，长相不规范，百度图片爬取的可能千奇百怪（比如海面石油）黑的红的黄的都有，不适合进行目标检测训练。自己一张张找也不现实，就要用到最后的方法了。