BeautifulSoup提取XPATH或CSS节点的路径

我想从HTML中提取一些数据，然后能够在客户端突出显示提取的元素而无需修改源html。 XPath或CSS Path对此很好。 可以直接从BeautifulSoup中提取XPATH或CSS路径吗？
现在我使用目标元素的标记，然后lxml lib来提取xpath，这对性能非常不利。我知道BSXPath.py - 它不适用于BS4。由于复杂性，重写所有内容以使用本机lxml库的解决方案是不可接受的。BeautifulSoup提取XPATH或CSS节点的路径

import bs4 
import cStringIO 
import random 
from lxml import etree 


def get_xpath(soup, element): 
    _id = random.getrandbits(32) 
    for e in soup(): 
    if e == element: 
     e['data-xpath'] = _id 
     break 
    else: 
    raise LookupError('Cannot find {} in {}'.format(element, soup)) 
    content = unicode(soup) 
    doc = etree.parse(cStringIO.StringIO(content), etree.HTMLParser()) 
    element = doc.xpath('//*[@data-xpath="{}"]'.format(_id)) 
    assert len(element) == 1 
    element = element[0] 
    xpath = doc.getpath(element) 
    return xpath 

soup = bs4.BeautifulSoup('<div id=i>hello, <b id=i test=t>world!</b></div>') 
xpath = get_xpath(soup, soup.div.b) 
assert '//html/bodydiv/b' == xpath

来源

2014-09-22 Dmytro Sadovnychyi

简答：不，没有现有的方法。你必须自己构建它。 – 2014-09-22 08:31:55

这其实很容易提取简单的CSS/XPath的。这是lxml lib给你的。

def get_element(node): 
    # for XPATH we have to count only for nodes with same type! 
    length = len(list(node.previous_siblings)) + 1 
    if (length) > 1: 
    return '%s:nth-child(%s)' % (node.name, length) 
    else: 
    return node.name 

def get_css_path(node): 
    path = [get_element(node)] 
    for parent in node.parents: 
    if parent.name == 'body': 
     break 
    path.insert(0, get_element(parent)) 
    return ' > '.join(path) 

soup = bs4.BeautifulSoup('<div></div><div><strong><i>bla</i></strong></div>') 
assert get_css_path(soup.i) == 'div:nth-child(2) > strong > i'

来源

2015-08-28 04:15:56

恐怕图书馆还没有这个能力。您可以通过CSS的路径，抓住他们...... SORTA ......可是，它有点令人费解，在那里你命名每个元素和类，一个例子：

soup.find("htmlelement", class_="theclass")

您还可以使用的ID，而不是类或两者如果你喜欢更具体的你抓住。

，你可以修改它保持下去的路径：

soup.find("htmlelement", class_="theclass").find("htmlelement2", class_="theclass2")

等等等等。

也有办法通过调用内置的“下一个”功能浏览它：

find_next("td", class_="main").find_next("td", class_="main").next.next

来源

2014-11-26 17:55:15 CJACust

BeautifulSoup提取XPATH或CSS节点的路径

回答

相关问题