Расширение селекторов CSS в BeautifulSoup

Вопрос:

BeautifulSoup обеспечивает очень ограниченную поддержку селекторов CSS. Например, единственный поддерживаемый псевдокласс - nth-of-type, и он может принимать только числовые значения - аргументы типа even или odd не разрешены.

Можно ли расширить селектор CSS BeautifulSoup или позволить ему использовать lxml.cssselect внутри себя как основной механизм выбора CSS?

Посмотрите пример пример/пример использования . Найдите только четные строки в следующем HTML:

<table>
    <tr>
        <td>1</td>
    <tr>
        <td>2</td>
    </tr>
    <tr>
        <td>3</td>
    </tr>
    <tr>
        <td>4</td>
    </tr>
</table>

В lxml.html и lxml.cssselect, это легко сделать через :nth-of-type(even):

from lxml.html import fromstring
from lxml.cssselect import CSSSelector

tree = fromstring(data)

sel = CSSSelector('tr:nth-of-type(even)')

print [e.text_content().strip() for e in sel(tree)]

Но в BeautifulSoup:

print(soup.select("tr:nth-of-type(even)"))

выдаст ошибку:

NotImplementedError: только числовые значения поддерживаются в настоящее время для псевдокласса nth-type.

Обратите внимание, что мы можем обойти это с помощью .find_all():

print([row.get_text(strip=True) for index, row in enumerate(soup.find_all("tr"), start=1) if index % 2 == 0])

Ответ 1

После проверки исходного кода, кажется, что BeautifulSoup не предоставляет никакой удобной точки в своем интерфейсе для расширения или обезьяны патча его существующих функций в этом отношении. Использование функций из lxml невозможно, так как BeautifulSoup использует только lxml во время разбора и использует результаты синтаксического анализа для создания из них своих соответствующих объектов. Объекты lxml не сохраняются и не могут быть доступны позже.

Говоря это, с достаточным определением и с возможностями гибкости и интроспекции Python, все возможно. Вы можете изменить внутренние методы метода BeautifulSoup даже во время выполнения:

import inspect
import re
import textwrap

import bs4.element


def replace_code_lines(source, start_token, end_token,
                       replacement, escape_tokens=True):
    """Replace the source code between `start_token` and `end_token`
    in `source` with `replacement`. The `start_token` portion is included
    in the replaced code. If `escape_tokens` is True (default),
    escape the tokens to avoid them being treated as a regular expression."""

    if escape_tokens:
        start_token = re.escape(start_token)
        end_token = re.escape(end_token)

    def replace_with_indent(match):
        indent = match.group(1)
        return textwrap.indent(replacement, indent)

    return re.sub(r"^(\s+)({}[\s\S]+?)(?=^\1{})".format(start_token, end_token),
                  replace_with_indent, source, flags=re.MULTILINE)


# Get the source code of the Tag.select() method
src = textwrap.dedent(inspect.getsource(bs4.element.Tag.select))

# Replace the relevant part of the method
start_token = "if pseudo_type == 'nth-of-type':"
end_token = "else"
replacement = """\
if pseudo_type == 'nth-of-type':
    try:
        if pseudo_value in ("even", "odd"):
            pass
        else:
            pseudo_value = int(pseudo_value)
    except:
        raise NotImplementedError(
            'Only numeric values, "even" and "odd" are currently '
            'supported for the nth-of-type pseudo-class.')
    if isinstance(pseudo_value, int) and pseudo_value < 1:
        raise ValueError(
            'nth-of-type pseudo-class value must be at least 1.')
    class Counter(object):
        def __init__(self, destination):
            self.count = 0
            self.destination = destination

        def nth_child_of_type(self, tag):
            self.count += 1
            if pseudo_value == "even":
                return not bool(self.count % 2)
            elif pseudo_value == "odd":
                return bool(self.count % 2)
            elif self.count == self.destination:
                return True
            elif self.count > self.destination:
                # Stop the generator that sending us
                # these things.
                raise StopIteration()
            return False
    checker = Counter(pseudo_value).nth_child_of_type
"""
new_src = replace_code_lines(src, start_token, end_token, replacement)

# Compile it and execute it in the target module namespace
exec(new_src, bs4.element.__dict__)
# Monkey patch the target method
bs4.element.Tag.select = bs4.element.select

Это - часть модифицируемого кода.

Конечно, это все, кроме элегантного и надежного. Я не предполагаю, что это серьезно используется где угодно, когда-либо.

Ответ 2

Официально Beautifulsoup не поддерживает все селектор CSS.

Если python не единственный выбор, я настоятельно рекомендую JSoup (эквивалент java). Он поддерживает все селекторы CSS.

Это с открытым исходным кодом (лицензия MIT)
Синтаксис прост.
Поддержка всех селекторов css
Может также охватывать несколько потоков для масштабирования.
Поддержка Rich API в Java для хранения в БД. Таким образом, его легко интегрировать.

Другой альтернативный способ, если вы все еще хотите придерживаться python, сделать его реализацией jython.

http://jsoup.org/

https://github.com/jhy/jsoup/