首页 > 文章列表 > 网页数据提取:如何准确抓取“共X页”提示后的页面链接?

网页数据提取:如何准确抓取“共X页”提示后的页面链接?

305 2025-03-11

网页数据提取:如何准确抓取“共X页”提示后的页面链接?

高效抓取网页分页链接:解决QueryList选择器问题

本文介绍如何利用QueryList库从HTML代码中准确提取分页链接,特别是那些位于“共X页”提示后的链接。 问题在于原代码的选择器无法精准定位目标元素。

以下HTML片段展示了典型的分页导航区域,包含“共8页”提示和对应的页面链接: (此处应插入HTML片段,但因无法访问本地文件,故省略)

原代码使用range('.pagebox > a') 选择器,但.pagebox在实际HTML中并不存在,导致提取失败。

解决方案:直接使用更精准的CSS选择器div.page a,它能直接选中包含所有页码链接的标签。 无需使用range函数进行范围限定。

改进后的PHP代码如下:

<?php
$rules = [
    'url' => ['a', 'href']
];
$list = QueryList::get($url, null, [
    'headers' => [
        'User-Agent' => 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_3) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.149 Safari/537.36',
        'Accept-Encoding' => 'gzip, deflate, br',
    ]
])->rules($rules)
->find('div.page a') // 修改后的选择器
->queryData();
var_dump($list);
?>

通过修改选择器,QueryList将直接提取div.page内所有标签的href属性值,从而获取所有页码链接。 此方法比使用range更简洁高效,并避免了选择器错误导致的匹配失败。 如果需要进一步筛选(例如只提取数字页码),可在queryData()之后进行数据处理。