2017-01-23 113 views
1

我想迭代通过一个列表,以获得一个网站的子类别与多个网页的一些链接。子类别中的第一个链接具有列表中的第一个数字(8),第二个链接将具有6,依此类推。我的最终结果要看起来像这样:从列表循环迭代

sublinks: 
0 https://messageboards.webmd.com/family-pregnancy/f/relationships/ 
1 https://messageboards.webmd.com/family-pregnancy/f/parenting/ 
2 https://messageboards.webmd.com/family-pregnancy/f/pets/ 
3 https://messageboards.webmd.com/family-pregnancy/f/pregnancy/ 

列表尝试itarate在for循环:[8,6,5,13,10,16,13,15,4,4,5,7, 2,6,6,8,9,8,3,8,8,1,6,3,2,15,5,4,2,12,18,5,2]

import bs4 as bs 
import urllib.request 
import pandas as pd 
import urllib.parse 
import re 


#source = urllib.request.urlopen('https://messageboards.webmd.com/').read() 
source = urllib.request.urlopen('https://messageboards.webmd.com').read() 
soup = bs.BeautifulSoup(source,'lxml') 


df = pd.DataFrame(columns = ['link'],data=[url.a.get('href') for url in soup.find_all('div',class_="link")]) 
lists =[] 
lists2=[] 
lists3=[] 
page_links = [] 


for i in range(0,33): 
    link = (df.link.iloc[i]) 
    req = urllib.request.Request(link) 
    resp = urllib.request.urlopen(req) 
    respData = resp.read() 
    temp1=re.findall(r'Filter by</span>(.*?)data-pagedcontenturl',str(respData)) 
    temp1=re.findall(r'data-totalitems=(.*?)data-pagekey',str(temp1))[0] 
    pageunm=round(int(re.sub("[^0-9]","",temp1))/10) 
    lists.append(pageunm) 

for j in lists: 
    for x in range(1, j+1): 
     url_pages = link + '#pi157388622=' + str(j) 
     page_links.append(url_pages) 

我对于第一次迭代最终结果要这个样子:

https://messageboards.webmd.com/family-pregnancy/f/relationships/#pi157388622=1 
https://messageboards.webmd.com/family-pregnancy/f/relationships/#pi157388622=2 
https://messageboards.webmd.com/family-pregnancy/f/relationships/#pi157388622=3 
https://messageboards.webmd.com/family-pregnancy/f/relationships/#pi157388622=4 
https://messageboards.webmd.com/family-pregnancy/f/relationships/#pi157388622=5 
https://messageboards.webmd.com/family-pregnancy/f/relationships/#pi157388622=6 
https://messageboards.webmd.com/family-pregnancy/f/relationships/#pi157388622=7 
https://messageboards.webmd.com/family-pregnancy/f/relationships/#pi157388622=8 
+3

你的问题是什么?什么目前不工作?您的列表(“尝试迭代的列表”)与您期望的(“想要看起来像”)示例(1,2,3,4 ...)有不同的数字(8,6,5,14 ...) 。你想要什么? –

+0

我想做一个循环,在列表中的数字范围内迭代。例如第一个将在1-8的范围内。第二个会从子类别获得第二个链接并从1-6 – Data1234

+0

开始,那么你的问题是什么?哪部分不工作?它在做什么?它应该做什么? – wwii

回答

0

如果你的问题是,你不能让迭代从1将在初始列表中的号码(您的外代码示例),那么你可以尝试这样的事:

sub_links = [8, 6, 5, 13, 10, 16, 13, 15, 4, 4, 5, 7, 2, 6, 6, 8, 9, 8, 3, 8, 8, 1, 6, 3, 2, 15, 5, 4, 2, 12, 18, 5, 2] 
for length in sub_links: 
    for number in range(1, length + 1): 
     print(number, end=' ') 
    print() 

目前这打印所有你想在每一行的数字。调整循环内部的内部以将数字附加到链接上,然后获得所需内容。

如果您的问题是关于其他问题,那么您需要更清楚 - 我建议您只包含不工作的代码并解释问题所在。

+0

感谢您的帮助。我会下一次 – Data1234