Как использовать HTML Agility Pack

626

Как использовать HTML Agility Pack?

Мой документ XHTML не является полностью действительным. Вот почему я хотел использовать его. Как использовать его в своем проекте? Мой проект находится на С#.

  • 77
    Этот вопрос был очень полезным для меня.
  • 25
    Примечание: в Visual Studio, которая обрабатывает NuGet, теперь вы можете щелкнуть правой кнопкой мыши «Ссылки» и выбрать «Управление пакетами NuGet ...», выполнить поиск «HtmlAgilityPack» и нажать «Установить». Затем начните играть с кодом с помощью оператора using / Import.
Показать ещё 7 комментариев
Теги:
html-agility-pack

6 ответов

326

Сначала установите пакет HTMLAgilityPack nuget в свой проект.

Затем, в качестве примера:

HtmlAgilityPack.HtmlDocument htmlDoc = new HtmlAgilityPack.HtmlDocument();

// There are various options, set as needed
htmlDoc.OptionFixNestedTags=true;

// filePath is a path to a file containing the html
htmlDoc.Load(filePath);

// Use:  htmlDoc.LoadHtml(xmlString);  to load from a string (was htmlDoc.LoadXML(xmlString)

// ParseErrors is an ArrayList containing any errors from the Load statement
if (htmlDoc.ParseErrors != null && htmlDoc.ParseErrors.Count() > 0)
{
    // Handle any parse errors as required

}
else
{

    if (htmlDoc.DocumentNode != null)
    {
        HtmlAgilityPack.HtmlNode bodyNode = htmlDoc.DocumentNode.SelectSingleNode("//body");

        if (bodyNode != null)
        {
            // Do something with bodyNode
        }
    }
}

(NB: этот код является примером только и не обязательно лучшим/единственным подходом. Не используйте его вслепую в своем собственном приложении.)

Метод HtmlDocument.Load() также принимает поток, который очень полезен при интеграции с другими классами, ориентированными на поток, в платформе.NET. Хотя HtmlEntity.DeEntitize() - еще один полезный метод для правильной обработки html-объектов. (спасибо Мэтью)

HtmlDocument и HtmlNode - это классы, которые вы будете использовать больше всего. Подобно парсеру XML, он предоставляет методы selectSingleNode и selectNodes, которые принимают выражения XPath.

Обратите внимание на HtmlDocument.Option?????? boolean свойства. Они управляют тем, как методы Load и LoadXML обрабатывают ваш HTML/XHTML.

Существует также скомпилированный файл справки, называемый HtmlAgilityPack.chm, который имеет полную ссылку для каждого из объектов. Обычно это находится в базовой папке решения.

  • 11
    Также обратите внимание, что Load принимает параметр Stream, что удобно во многих ситуациях. Я использовал его для потока HTTP (WebResponse.GetResponseStream). Еще один хороший метод, о котором следует знать, - это HtmlEntity.DeEntitize (часть HTML Agility Pack). Это необходимо для обработки объектов вручную в некоторых случаях.
  • 1
    примечание: в последней бета-версии Html Agility Pack (1.4.0 Beta 2, выпущенной 3 октября 2009 г.) файл справки был перемещен в отдельную загрузку из-за зависимостей от Sandcastle, DocProject и Visual Studio 2008 SDK.
Показать ещё 5 комментариев
154

Я не знаю, поможет ли это вам, но я написал несколько статей, в которых представлены основы.

Следующая статья на 95% завершена, мне просто нужно написать объяснения последних нескольких частей кода, который я написал. Если вас это интересует, я постараюсь запомнить его здесь, когда опубликую его.

60

В HtmlAgilityPack используется синтаксис XPath, и хотя многие утверждают, что он плохо документирован, я не имел никакого смысла использовать его с помощью этой документации XPath: https://www.w3schools.com/xml/xpath_syntax.asp

Разбор

<h2>
  <a href="">Jack</a>
</h2>
<ul>
  <li class="tel">
    <a href="">81 75 53 60</a>
  </li>
</ul>
<h2>
  <a href="">Roy</a>
</h2>
<ul>
  <li class="tel">
    <a href="">44 52 16 87</a>
  </li>
</ul>

Я сделал это:

string url = "http://website.com";
var Webget = new HtmlWeb();
var doc = Webget.Load(url);
foreach (HtmlNode node in doc.DocumentNode.SelectNodes("//h2//a"))
{
  names.Add(node.ChildNodes[0].InnerHtml);
}
foreach (HtmlNode node in doc.DocumentNode.SelectNodes("//li[@class='tel']//a"))
{
  phones.Add(node.ChildNodes[0].InnerHtml);
}
  • 0
    Полностью верно. Это полностью зависит от стандарта XPath . Сначала нужно изучить этот стандарт, и после этого все будет легко.
  • 0
    Предоставленная вами ссылка больше не доступна. Это, вероятно, новый: w3schools.com/xsl/xpath_syntax.asp
Показать ещё 4 комментария
5

Основной код HTMLAgilityPack выглядит следующим образом

using System;
using System.Net;
using System.Web;
using System.Web.Services;
using System.Web.Script.Services;
using System.Text.RegularExpressions;
using HtmlAgilityPack;

namespace GetMetaData
{
    /// <summary>
    /// Summary description for MetaDataWebService
    /// </summary>
    [WebService(Namespace = "http://tempuri.org/")]
    [WebServiceBinding(ConformsTo = WsiProfiles.BasicProfile1_1)]
    [System.ComponentModel.ToolboxItem(false)]
    // To allow this Web Service to be called from script, using ASP.NET AJAX, uncomment the following line.
    [System.Web.Script.Services.ScriptService]
    public class MetaDataWebService: System.Web.Services.WebService
    {
        [WebMethod]
        [ScriptMethod(UseHttpGet = false)]
        public MetaData GetMetaData(string url)
        {
            MetaData objMetaData = new MetaData();

            //Get Title
            WebClient client = new WebClient();
            string sourceUrl = client.DownloadString(url);

            objMetaData.PageTitle = Regex.Match(sourceUrl, @
            "\<title\b[^>]*\>\s*(?<Title>[\s\S]*?)\</title\>", RegexOptions.IgnoreCase).Groups["Title"].Value;

            //Method to get Meta Tags
            objMetaData.MetaDescription = GetMetaDescription(url);
            return objMetaData;
        }

        private string GetMetaDescription(string url)
        {
            string description = string.Empty;

            //Get Meta Tags
            var webGet = new HtmlWeb();
            var document = webGet.Load(url);
            var metaTags = document.DocumentNode.SelectNodes("//meta");

            if (metaTags != null)
            {
                foreach(var tag in metaTags)
                {
                    if (tag.Attributes["name"] != null && tag.Attributes["content"] != null && tag.Attributes["name"].Value.ToLower() == "description")
                    {
                        description = tag.Attributes["content"].Value;
                    }
                }
            } 
            else
            {
                description = string.Empty;
            }
            return description;
        }
    }
}
  • 4
    Сайт больше не доступен
5
    public string HtmlAgi(string url, string key)
    {

        var Webget = new HtmlWeb();
        var doc = Webget.Load(url);
        HtmlNode ourNode = doc.DocumentNode.SelectSingleNode(string.Format("//meta[@name='{0}']", key));

        if (ourNode != null)
        {


                return ourNode.GetAttributeValue("content", "");

        }
        else
        {
            return "not fount";
        }

    }
0

Начало работы - пакет гибкости HTML

// From File
var doc = new HtmlDocument();
doc.Load(filePath);

// From String
var doc = new HtmlDocument();
doc.LoadHtml(html);

// From Web
var url = "http://html-agility-pack.net/";
var web = new HtmlWeb();
var doc = web.Load(url);

Ещё вопросы

Сообщество Overcoder
Наверх
Меню