我需要为整个页面抓取元素,但只有一部分会加载,直到向下滚动为止。反正有抵消这个吗?我可以通过运行滚动到底层函数来解决这个问题,但如果它们是一个更干净的方法,这将是很好的。页面只在向下滚动时加载
0
A
回答
0
这是完成此操作的代码。您可以将其插入直接进入控制台或它注入到你的履带
window.scrollTo(0,document.body.scrollHeight);
你也可以把这个包在setInterval函数递增随着时间的推移。 下面有这样一个例子:
setInterval(function() {
document.body.scrollTop = document.body.scrollHeight;
}, 50);
编辑:抱歉,我没在那里你提到,你知道你可以做到这一点你的问题的最后一部分。你在和什么样的爬虫一起工作。这将有助于回答你的问题。 看看这个例子: Scroll Automatically to the Bottom of the Page
+0
问题是,它只是滚动到加载页面的底部,所以当它滚动到底部时,更多的只是加载。我可以发送大量这些函数,但这会使爬虫慢很多 – Eorsak
相关问题
- 1. Drupal:仅当页面向下滚动时才加载页面
- 2. 如何在页面加载时向下滚动网页20px-50px?
- 3. 确保div在页面加载时向下滚动
- 4. 如何仅在页面向下滚动时才在页面上加载项目?
- 5. 当用户向下滚动页面时加载图像 -
- 6. 如何向下滚动页面加载时 - GeckoFx C#
- 7. Firefox在页面加载时滚动
- 8. 如何在页面加载时自动向下滚动div标签?
- 9. Bootstrap Tour只在我滚动页面时加载
- 10. 滚动到页面底部时向下滚动,并向上滚动时顺利
- 11. Ionic 2在页面打开时向下滚动页面
- 12. 当向下滚动页面图像时是否有能力加载页面图像,或者它只是影响?
- 13. 使页面向下滚动加载旧帖子
- 14. 在页面加载时滚动然后滚动
- 15. 下载一个页面的内容与加载更多向下滚动
- 16. 单击VSCode滚动条时页面向下/向上翻页
- 17. 当页面向上或向下滚动时移动图像
- 18. 使用jQuery Ajax和ASP.NET向下滚动页面时加载其他数据
- 19. 如何在向下滚动页面时保持浮动顶栏?
- 20. 页面在Internet Explorer中刷新时自动向下滚动
- 21. 当页面加载时滚动到长滚动页面上的特定div
- 22. ng-keypress事件向下滚动页面
- 23. 开始淡出页面向下滚动
- 24. Fancybox在页面滚动后向下打开页面
- 25. 当向下滚动时像脸书在墙贴上滚动时加载内容
- 26. 加载非活动滚动条页面
- 27. 加载无限滚动页面时加载页面的CSS会发生变化
- 28. 如何在页面加载时自动滚动到div?
- 29. 如何在向下滚动页面时更改图像?
- 30. 如何在链接打开时向下滚动页面
使用浏览器的devtools,你应该能够检查元素的数据源是什么,并且迭代地发送请求到那个数据源。它可能看起来像这样:http://www.example.com/elements?paged=1; http://www.example.com/elements?paged=2; etc – Ceili