Python怎么实现分类保存所有文章图片
本篇内容介绍了“Python怎么实现分类保存所有文章图片”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!
鼓楼网站建设公司成都创新互联公司,鼓楼网站设计制作,有大型网站制作公司丰富经验。已为鼓楼上千多家提供企业网站建设服务。企业网站搭建\外贸营销网站建设要多少钱,请找那个售后服务好的鼓楼做网站的公司定做!
项目目标
创建一个文件夹, 分类保存所有文章图片。下载成功,结果显示控制台。
项目分析
1、如何找到真正访问的地址,多网页请求?
滑动鼠标,观察网站,右键F12 。鼠标滚轮滑动加载新内容。
点开随机网页 , 点开Request URL ,观察网址的规律。
https://bh.sb/page/1/ https://bh.sb/page/2/ https://bh.sb/page/3/ https://bh.sb/page/4/
观察到,每增加一页page/{}/自增加1,用{}代替变换的变量,再用for循环遍历这网址,实现多个网址请求。
2. 反爬处理
1)获取正常的 http请求头,并在requests请求时,设置这些常规的http请求头。
2)使用 fake_useragent ,产生随机的UserAgent进行访问。
涉及的库和网站
1、网址如下:
https://www.doutula.com/photo/list/?page={}
2、涉及的库:requests、lxml、fake_useragent、time、os
3、软件:PyCharm
项目实施
1、我们定义一个class类继承object,然后定义init方法继承self,再定义一个主函数main继承self。导入需要的库和网址,创建保存文件夹。
import requests, os from lxml import etree from fake_useragent import UserAgent import time class bnotiank(object): def __init__(self): os.mkdir("图片") # 在创建文件夹 记住只有第一次运行加上,如果多次运行请注释掉本行。 def main(self): pass if __name__ == '__main__': Siper=bnotiank() Siper.main()
2、随机UserAgent ,构造请求头,防止反爬。
ua = UserAgent(verify_ssl=False) for i in range(1, 50): self.headers = { 'User-Agent': ua.random }
3、发送请求 ,获取响应,页面回调,方便下次请求。
'''发送请求 获取响应''' def get_page(self, url): res = requests.get(url=url, headers=self.headers) html = res.content.decode("utf-8") return html
4、定义parse_page函数,获取二级页面地址,for遍历获取需要的字段。
def parse_page(self, html): parse_html = etree.HTML(html) image_src_list = parse_html.xpath('//p/a/@href') # print(image_src_list)
5、对二级页面发生请求,xpath解析数据,获取大图片链接。
reo = parse_html1.xpath('//div//div[@class="content"]') #父结点 for j in reo: d = j.xpath('.//article[@class="article-content"]//p/img/@src')[0] text = parse_html1.xpath('//h2[@class ="article-title"] //a/text()')[0].strip()
6、请求图片地址,写入文档。
html2 = requests.get(url=d, headers=self.headers).content dirname = "./d/">
7、调用方法,实现功能。
url = self.url.format(page) print(url) html = self.get_page(url) self.parse_page(html)
8、设置延时。(防止ip被封)。
time.sleep(1) """时间延时"""
效果展示
1、点击绿色小三角运行输入起始页,终止页。
2、将下载成功信息显示在控制台。
3、text 作为图片命名,展示效果如下所示。
“Python怎么实现分类保存所有文章图片”的内容就介绍到这里了,感谢大家的阅读。如果想了解更多行业相关的知识可以关注创新互联网站,小编将为大家输出更多高质量的实用文章!
网站标题:Python怎么实现分类保存所有文章图片
分享链接:http://scjbc.cn/article/jipchi.html