Пакет гибкости HTML - таблицы разбора

Я хочу использовать пакет гибкости HTML для анализа таблиц с сложных веб-страниц, но я как-то теряюсь в объектной модели.

Я посмотрел пример ссылки, но так и не нашел никаких табличных данных. Могу ли я использовать XPath для получения таблиц? В основном я потерял после загрузки данных о том, как получить таблицы. Я делал это в Perl раньше, и это было немного неуклюже, но работало. (HTML::TableParser).

Я также рад, если вы просто можете пролить свет на правильный порядок объектов для синтаксического анализа.

Ответ 1

Как насчет чего-то вроде: Использование HTML Agility Pack

HtmlDocument doc = new HtmlDocument();
doc.LoadHtml(@"<html><body><p><table id=""foo""><tr><th>hello</th></tr><tr><td>world</td></tr></table></body></html>");
foreach (HtmlNode table in doc.DocumentNode.SelectNodes("//table")) {
    Console.WriteLine("Found: " + table.Id);
    foreach (HtmlNode row in table.SelectNodes("tr")) {
        Console.WriteLine("row");
        foreach (HtmlNode cell in row.SelectNodes("th|td")) {
            Console.WriteLine("cell: " + cell.InnerText);
        }
    }
}

Обратите внимание, что вы можете сделать его красивее с LINQ-to-Objects, если хотите:

var query = from table in doc.DocumentNode.SelectNodes("//table").Cast<HtmlNode>()
            from row in table.SelectNodes("tr").Cast<HtmlNode>()
            from cell in row.SelectNodes("th|td").Cast<HtmlNode>()
            select new {Table = table.Id, CellText = cell.InnerText};

foreach(var cell in query) {
    Console.WriteLine("{0}: {1}", cell.Table, cell.CellText);
}

Ответ 2

Самое простое, что я нашел, чтобы получить XPath для конкретного элемента - установить расширение FireBug для Firefox, перейдите на сайт/веб-страницу, нажмите F12, чтобы открыть firebug; щелкните правой кнопкой мыши элемент на странице, которую вы хотите запросить, и выберите "Inspect Element". Firebug выберет элемент в своей среде IDE, затем щелкните правой кнопкой мыши элемент "Элемент в Firebug" и выберите "Copy XPath", эта функция даст вам точный XPath Вы должны получить элемент, который хотите, используя библиотеку Agility Library.

Ответ 3

В моем случае есть одна таблица, которая является списком устройств с маршрутизатора. Если вы хотите прочитать таблицу, используя TR/TH/TD (строка, заголовок, данные) вместо матрицы, как указано выше, вы можете сделать что-то вроде следующего:

    List<TableRow> deviceTable = (from table in document.DocumentNode.SelectNodes(XPathQueries.SELECT_TABLE)
                                       from row in table?.SelectNodes(HtmlBody.TR)
                                       let rows = row.SelectSingleNode(HtmlBody.TR)
                                       where row.FirstChild.OriginalName != null && row.FirstChild.OriginalName.Equals(HtmlBody.T_HEADER)
                                       select new TableRow
                                       {
                                           Header = row.SelectSingleNode(HtmlBody.T_HEADER)?.InnerText,
                                           Data = row.SelectSingleNode(HtmlBody.T_DATA)?.InnerText}).ToList();
                                       }

TableRow - это простой объект с свойствами заголовка и данных в качестве свойств. Этот подход позаботится о нулевости и этом случае:

<tr>
    <td width="28%">&nbsp;</td>
</tr>

Ответ 4

Я знаю, что это довольно старый вопрос, но это было мое решение, которое помогло визуализировать таблицу, чтобы вы могли создать структуру класса. Это также использует HTML Agility Pack

HtmlDocument doc = new HtmlDocument();
doc.LoadHtml(@"<html><body><p><table id=""foo""><tr><th>hello</th></tr><tr><td>world</td></tr></table></body></html>");
var table = doc.DocumentNode.SelectSingleNode("//table");
var tableRows = table.SelectNodes("tr");
var columns = tableRows[0].SelectNodes("th/text()");
for (int i = 1; i < tableRows.Count; i++)
{
    for (int e = 0; e < columns.Count; e++)
    {
        var value = tableRows[i].SelectSingleNode($"td[{e + 1}]");
        Console.Write(columns[e].InnerText + ":" + value.InnerText);
    }
Console.WriteLine();
}

Ответ 5

Линия сверху ответа:

HtmlDocument doc = new HtmlDocument();

Это не работает в VS 2015 С#. Вы больше не можете построить HtmlDocument.

Другая функция MS, которая делает вещи более трудными в использовании. Попробуйте HtmlAgilityPack.HtmlWeb и посмотрите эту ссылку для примера кода.