PHP函数使用scrape方法获取远程站点上<DIV>内的所有链接

Question

任何人都有一个PHP函数，可以获取远程站点上特定DIV内的所有链接？ 因此用法可能是：

$ links = grab_links（$ url，$ divname）;

并返回一个我可以使用的数组。 抓住链接我可以弄清楚，但不知道如何使它只在特定的div内做。

谢谢！ 斯科特

Answer 1

查看PHP XPath。 它将允许您查询文档以查找特定标记的内容等。 php网站上的例子非常简单： http ： //php.net/manual/en/simplexmlelement.xpath.php

以下示例将实际获取文档中任何DIV中的所有URL：

$xml = new SimpleXMLElement($docAsString);

$result = $xml->xpath('//div//a');

您可以在格式良好的HTML文件上使用它，而不仅仅是XML。

好的XPath参考： http ： //msdn.microsoft.com/en-us/library/ms256086.aspx

Answer 2

在过去，我已成功使用PHP Simple DOM库：

http://simplehtmldom.sourceforge.net/

样品：

// Create DOM from URL or file
$html = file_get_html('http://www.google.com/');

// Find all images 
foreach($html->find('img') as $element) 
       echo $element->src . '<br>';

// Find all links 
foreach($html->find('a') as $element) 
       echo $element->href . '<br>';

Answer 3

我找到了似乎做我想要的东西。

http://www.earthinfo.org/xpaths-with-php-by-example/

<?php

$html = new DOMDocument();
@$html->loadHtmlFile('http://www.bbc.com');
$xpath = new DOMXPath( $html );
$nodelist = $xpath->query( "//div[@id='news_moreTopStories']//a/@href" );
foreach ($nodelist as $n){
echo $n->nodeValue."\n";
}

// for images

echo "<br><br>";
$html = new DOMDocument();
@$html->loadHtmlFile('http://www.bbc.com');
$xpath = new DOMXPath( $html );
$nodelist = $xpath->query( "//div[@id='promo_area']//img/@src" );
foreach ($nodelist as $n){
echo $n->nodeValue."\n";
}

?>

我也试过PHP DOM方法，看起来更快......

http://w-shadow.com/blog/2009/10/20/how-to-extract-html-tags-and-their-attributes-with-php/

$html = file_get_contents('http://www.bbc.com');
//Create a new DOM document
$dom = new DOMDocument;

//Parse the HTML. The @ is used to suppress any parsing errors
//that will be thrown if the $html string isn't valid XHTML.
@$dom->loadHTML($html);

//Get all links. You could also use any other tag name here,
//like 'img' or 'table', to extract other tags.
$links = $dom->getElementById('news_moreTopStories')->getElementsByTagName('a');

//Iterate over the extracted links and display their URLs
foreach ($links as $link){
    //Extract and show the "href" attribute. 
    echo $link->getAttribute('href'), '<br>';
}