0
我对python和学习Web爬行完全陌生。将目标链接html下载到文本文件
我试图下载文本页面中的单个目标链接。 到目前为止,我成功地提取了所需的所有目标URL,但不知道如何在多个文件中下载所有目标HTML文本。下面的代码只是在多个文件中显示相同的文章。
有人可以帮助我。
url = ""
r = requests.get(url)
data = r.text
soup = BeautifulSoup(data, "lxml")
link1 = soup2.find_all('a', href=re.compile("drupal_lists"))
for t1 in link1:
print(t1.attrs['href'])
link_data = requests.get(t.attrs['href']).text
import io
for i in link_data:
link_data
with io.open("file_" + str(i) + ".txt", 'w', encoding='utf-8') as f:
f.write(str(i)+link_data)