从 C# 中的 HTML 代码中获取带有特定单词的链接

Question

我正在尝试解析一个网站。 我需要包含一些特定单词的 HTML 文件中的一些链接。 我知道如何找到“href”属性，但我不需要所有这些属性，无论如何要这样做吗？ 例如，我可以在 HtmlAgilityPack 中使用正则表达式吗？

HtmlNode links = document.DocumentNode.SelectSingleNode("//*[@id='navigation']/div/ul");

foreach (HtmlNode urls in document.DocumentNode.SelectNodes("//a[@]"))
{
    this.dgvurl.Rows.Add(urls.Attributes["href"].Value);
}   

我正在尝试使用此方法查找 HTML 代码中的所有链接。

Answer 1

如果您有这样的 HTML 文件：

<div class="a">
    <a href="http://www.website.com/"></a>
    <a href="http://www.website.com/notfound"></a>
    <a href="http://www.website.com/theword"></a>
    <a href="http://www.website.com/sub/theword"></a>
    <a href="http://www.website.com/theword.html"></a>
    <a href="http://www.website.com/other"></a>
</div>

例如，您正在搜索以下单词： theword和other 。 您可以定义一个正则表达式，然后使用 LINQ 获取具有与您的正则表达式匹配的属性href的链接，如下所示：

Regex regex = new Regex("(theworld|other)", RegexOptions.IgnoreCase);

HtmlNode node = htmlDoc.DocumentNode.SelectSingleNode("//div[@class='a']");
List<HtmlNode> nodeList = node.SelectNodes(".//a").Where(a => regex.IsMatch(a.Attributes["href"].Value)).ToList<HtmlNode>();

List<string> urls = new List<string>();

foreach (HtmlNode n in nodeList)
{
    urls.Add(n.Attributes["href"].Value);
}

请注意，XPATH 有一个contains关键字，但您必须为要搜索的每个单词复制条件，例如：

node.SelectNodes(".//a[contains(@href,'theword') or contains(@href,'other')]")

XPATH 也有一个matches关键字，不幸的是它仅适用于 XPATH 2.0，而 HtmlAgilityPack 使用 XPATH 1.0。 使用 XPATH 2.0，您可以执行以下操作：

node.SelectNodes(".//a[matches(@href,'(theword|other)')]")

Answer 2

我找到了这个，这对我有用。

HtmlNode links = document.DocumentNode.SelectSingleNode("//*[@id='navigation']/div/ul");
    foreach (HtmlNode urls in document.DocumentNode.SelectNodes("//a[@]"))
        {
           var temp = catagory.Attributes["href"].Value;
           if (temp.Contains("some_word"))
              {
                dgv.Rows.Add(temp);
              }
        }