@Queue public class DefaultLocalQueue extends Object implements SeimiQueue
| 构造器和说明 |
|---|
DefaultLocalQueue() |
| 限定符和类型 | 方法和说明 |
|---|---|
void |
addProcessed(Request req)
记录一个处理过的请求
|
Request |
bPop(String crawlerName)
阻塞式出队一个请求
|
ConcurrentSkipListSet<String> |
getProcessedSet(String crawlerName) |
LinkedBlockingQueue<Request> |
getQueue(String crawlerName) |
boolean |
isProcessed(Request req)
判断一个URL是否处理过了
|
long |
len(String crawlerName)
任务队列剩余长度
|
boolean |
push(Request req)
入队一个请求
|
long |
totalCrawled(String crawlerName)
目前总共的抓取数量
|
public Request bPop(String crawlerName)
SeimiQueuebPop 在接口中 SeimiQueuepublic boolean push(Request req)
SeimiQueuepush 在接口中 SeimiQueuepublic long len(String crawlerName)
SeimiQueuelen 在接口中 SeimiQueuepublic boolean isProcessed(Request req)
SeimiQueueisProcessed 在接口中 SeimiQueuepublic void addProcessed(Request req)
SeimiQueueaddProcessed 在接口中 SeimiQueuepublic long totalCrawled(String crawlerName)
SeimiQueuetotalCrawled 在接口中 SeimiQueuepublic LinkedBlockingQueue<Request> getQueue(String crawlerName)
public ConcurrentSkipListSet<String> getProcessedSet(String crawlerName)
Copyright © 2016. All Rights Reserved.