- 博客(5)
- 收藏
- 关注
翻译 现在公开一个DHT网络爬虫网络爬虫供大家一起交流
P2P系统的应用越来越广泛,在文件共享、流媒体服务、即时通讯交流、计算和存储能力共享以及协同处理与服务等方面都能看到P2P的存在,一些P2P应用如Napster、eMule、BitTorrent等早已是家喻户晓了。 P2P按其拓扑关系大致可以分为两类四种形式: 1.非结构化拓扑。包括中心化拓扑、分布式拓扑、半分布式拓扑,其分别对应着Napster、BitTorrent、K
2014-06-19 10:20:58 298
翻译 一个dht网络的“磁力链接”搜索python代码
这个python代码是用来从DHT网络(一种分布式的“磁力链接”的共享网络,这个叫法是我个人对这种分布式网络的称呼)中,检测收集“磁力链接”。每一个磁力链接就对应着一个种子文件。由于“磁力链接”在DHT网络中是通过分布式共享。所以通过检测DHT网络中的数据包就可以获得其他客户端发来的“磁力链接”,通过这些磁力链接下载相应的种子文件分析获取种子文件的文件资源名,这就完成了整个过程。我用自己的笔记
2014-06-19 10:17:18 2224
原创 使用erlang实现P2P磁力搜索-实现
DHT网络本质上是一个用于查询的网络,其用于查询一个资源有哪些计算机正在下载。每个资源都有一个20字节长度的ID用于标示,称为infohash。当一个程序作为DHT节点加入这个网络时,就会有其他节点来向你查询,当你做出回应后,对方就会记录下你。对方还会询问其他节点,当对方开始下载这个infohash对应的资源时,他就会告诉所有曾经询问过的节点,包括你。这个时候就可以确定,这个infohash对应的
2014-06-19 10:15:08 887
翻译 现在公开一个DHT网络爬虫网络爬虫供大家一起交流
dhtcrawler最早的版本有很多问题,修复过的最大的一个问题是关于erlang定时器的,在DHT实现中,需要对每个节点每个peer做超时处理,在erlang中的做法直接是针对每个节点注册了一个定时器。这不是问题,问题在于定时器资源就像没有GC的内存资源一样,是会由于程序员的代码问题而出现资源泄漏。所以,dhtcrawler第一个版本在节点数配置在100以上的情况下,用不了多久就会内存耗尽,最终
2014-06-19 10:10:31 253
翻译 利用DHT网络原理制作bt采集蜘蛛,开源版
Torrent文件内的数据结构分为以下几部分:announce:Tracker的主服务器announce-list:Tracker服务器列表comment:种子文件的注释comment.utf-8:种子文件注释的utf-8编码creation date:种子文件建立的时间,是从1970年1月1日00:00:00到现在的秒数。e
2014-06-19 10:06:33 714
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人