您的位置:首页技术文章
文章详情页

python - scrapy 处理 文章 分页的内容

浏览:28日期:2022-08-03 16:15:10

问题描述

如一篇文章有2-3页,然后想把这些内容页爬下来,拼接成一页,然后再放入数据库。文章url如:article_1.html,article_2.htmlitem有:item[’title’],item[’content’]而item[’content’]就是拼接成一页的内容。大概怎么写呢?

问题解答

回答1:

找到分页接口url

回答2:

找到那个下一页的链接,加入到爬取url列表中

回答3:

可以在rules里面写正则自动扫描符合的url

标签: Python 编程
相关文章: