网页数据采集:精准定位分页链接
本文探讨如何从网页HTML代码中高效提取分页链接。 我们将分析一个包含分页链接的HTML片段,并演示如何使用QueryList库在PHP中进行网页数据采集,解决页面链接匹配问题。
假设HTML结构如下:
初始代码尝试使用QueryList::range('.pagebox>a')
选择目标元素,但由于HTML中不存在pagebox
类,导致选择器失效。
为了正确提取所有页码链接,我们需要修改选择器,直接选择.page
下的所有标签。
改进后的PHP代码如下:
<?php $rules = [ 'url' => ['a', 'href'] ]; $list = QueryList::get($url, null, [ 'headers' => [ 'User-Agent' => 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.149 Safari/537.36', 'Accept-Encoding' => 'gzip, deflate, br', ] ])->rules($rules) ->range('.page a') // 修正后的选择器 ->queryData(); var_dump($list); ?>
通过将选择器修改为'.page a'
,我们精准地选中了div.page
下的所有标签,从而成功提取所有页码对应的
href
链接。 这有效解决了页面链接匹配问题,确保了数据采集的准确性。