美文网首页
PRO-006:实现爬取一个页面图片的小程序

PRO-006:实现爬取一个页面图片的小程序

作者: 杨强AT南京 | 来源:发表于2019-01-18 14:51 被阅读37次

本主题实现请求一个首页,并爬取首页中jpg,png图像的程序。本主题使用的技术:

  1. requests请求页面内容的模块
  2. 正则表达式
  3. os目录操作
  4. cv2中图像解码与保存操作API

一、代码

import re
import requests
import os
import cv2
import numpy as np

url = 'http://www.huanqiu.com'
session = requests.Session()
response = session.get(url)
content = response.content.decode('UTF-8')
regex = r'src="(\b.*?\.jpg\b|\b.*?\.png\b|)"'
result = re.findall(regex, content, re.M)   # 多行模式

# 文件名正则表达式
img_regex = r'.+/(.+)$'
save_path = 'images'
if not os.path.exists(save_path):
    os.makedirs(save_path)
    

for img  in result:
    img_content = session.get(img)
    # print(img_content.content)
    # 解析出文件名
    result = re.findall(img_regex, img, re.M)   
    buffer = cv2.imdecode(np.frombuffer(img_content.content, np.uint8), 1)    
    # 注意不能写gif文件
    print(os.path.join(save_path,result[0]))
    cv2.imwrite(os.path.join(save_path,result[0]), buffer)     # 保存
print('---over---')

二、执行效果

环球网下载后的图片

相关文章

网友评论

      本文标题:PRO-006:实现爬取一个页面图片的小程序

      本文链接:https://www.haomeiwen.com/subject/hesndqtx.html