2017-06-17 70 views
0

我需要为整个页面抓取元素,但只有一部分会加载,直到向下滚动为止。反正有抵消这个吗?我可以通过运行滚动到底层函数来解决这个问题,但如果它们是一个更干净的方法,这将是很好的。页面只在向下滚动时加载

+0

使用浏览器的devtools,你应该能够检查元素的数据源是什么,并且迭代地发送请求到那个数据源。它可能看起来像这样:http://www.example.com/elements?paged=1; http://www.example.com/elements?paged=2; etc – Ceili

回答

0

这是完成此操作的代码。您可以将其插入直接进入控制台或它注入到你的履带

window.scrollTo(0,document.body.scrollHeight); 

你也可以把这个包在setInterval函数递增随着时间的推移。 下面有这样一个例子:

setInterval(function() { 
document.body.scrollTop = document.body.scrollHeight; 
}, 50); 

编辑:抱歉,我没在那里你提到,你知道你可以做到这一点你的问题的最后一部分。你在和什么样的爬虫一起工作。这将有助于回答你的问题。 看看这个例子: Scroll Automatically to the Bottom of the Page

+0

问题是,它只是滚动到加载页面的底部,所以当它滚动到底部时,更多的只是加载。我可以发送大量这些函数,但这会使爬虫慢很多 – Eorsak

相关问题