我使用Guzzle(http://guzzlephp.org)获取大量网址(约300k)。这些网址是从弹性搜索实例中检索的,我想继续向网址池添加网址,以便网池保持相当小的状态,而不是一次添加全部网址。如何动态添加额外的请求到一个Guzzle池?
这可能吗?我看着Pool.php,但没有找到办法做到这一点。有没有办法?
我使用Guzzle(http://guzzlephp.org)获取大量网址(约300k)。这些网址是从弹性搜索实例中检索的,我想继续向网址池添加网址,以便网池保持相当小的状态,而不是一次添加全部网址。如何动态添加额外的请求到一个Guzzle池?
这可能吗?我看着Pool.php,但没有找到办法做到这一点。有没有办法?
看http://mtdowling.com/blog/2014/09/28/guzzle-ring/,在“发送请求并发”部分。
您可以使用生成器在Guzzle池发送请求时添加请求。
使用while和generator(yield)。
$client = new GuzzleHttp\Client();
$client = new Client();
$requests = function() {
$uris = ['http://base_url'];
$visited_uris = []; // maybe database instead of array
while(len($uris)>0)
yield new Request('GET', array_pop($uris));
}
};
$pool = new Pool($client, $requests(), [
'concurrency' => 5,
'fulfilled' => function ($response, $index) {
$new_uri = get_new_uri(); // implement function to get new $uri
if(in_array($new_uri, $visited_uris)) {
array_push($uris, $uri);
}
array_push($visited_uris, $uri);
}
]);
$promise = $pool->promise();
$promise->wait();