python selenium保存图片最好的两种方法分别是什么
今天给大家介绍一下python selenium保存图片最好的两种方法分别是什么。文章的内容小编觉得不错,现在给大家分享一下,觉得有需要的朋友可以了解一下,希望对大家有所帮助,下面跟着小编的思路一起来阅读吧。
selenium
爬取页面时经常遇到要保存图片的需求,通常的做法是获取链接后用 requests
下载,但这种方法脱离了selenium环境,如遇到有校验的情况还需要绕过校验。
下面介绍两种直接通过selenium保存图片的方法:
1. 通过抓包
selenium-wire
是selenium扩展,它可以对所有请求抓包,同时还可以修改请求头,请求body,请求返回值等,功能非常强大。
selenium-wire
的使用和selenium一样,你只从seleniumwire导入webdriver就行,对于其他包还是从selenium导入
from selenium.webdriver.chrome.options import Optionsfrom seleniumwire.webdriver import Chromedriver = Chrome(options= Options())
下载图片有两种方法:
1-1.通过拦截器
通过拦截器预先把所有图片保存下来,要用到时在缓存目录中找
def get_img_path_from_url(url): # 自行实现 return urldef response_interceptor(request, response): t=response.headers['Content-Type'] if request.host=='xxx' and t and 'image' in t: with open(get_img_path_from_url(request.url), 'wb') as f: f.write(response.body) driver.response_interceptor = response_interceptordriver.get('...')class="lazy" data-src=driver.find_element_by_tag_name('img').get_attribute('class="lazy" data-src')img_path=get_img_path_from_url(class="lazy" data-src)
1-2. 请求后在所有请求中获取
这种方法有个缺点,浏览器会自动缓存图片,如果之前已经缓存过这张图片是不会有网络请求的
# 下载前先清理数据,不然请求太多del driver.requestsdriver.get('...')class="lazy" data-src=driver.find_element_by_tag_name('img').get_attribute('class="lazy" data-src')</code><code>for r in driver.iter_requests(): if r.url==class="lazy" data-src: with open('img', 'wb') as f: f.write(r.response.body)
2. 通过canvas
使用js把图片放到canvas中,然后获取base64字符串,再保存
import base64import osimport refrom io import BytesIOfrom PIL import Imagedef base64_to_image(base64_str): base64_data = re.sub('^data:image/.+;base64,', '', base64_str) byte_data = base64.b64decode(base64_data) image_data = BytesIO(byte_data) img = Image.open(image_data) return imgjs = "let c = document.createElement('canvas');let ctx = c.getContext('2d');" \ "let img = document.getElementsByTagName('img')[0]; " \ "c.height=img.naturalHeight;c.width=img.naturalWidth;" \ "ctx.drawImage(img, 0, 0,img.naturalWidth, img.naturalHeight);" \ "let base64String = c.toDataURL();return base64String;" base64_str = driver.execute_script(js)img = base64_to_image(base64_str)img.save('xx.png')
python是什么意思
Python是一种跨平台的、具有解释性、编译性、互动性和面向对象的脚本语言,其最初的设计是用于编写自动化脚本,随着版本的不断更新和新功能的添加,常用于用于开发独立的项目和大型项目。
以上就是python selenium保存图片最好的两种方法分别是什么的全部内容了,更多与python selenium保存图片最好的两种方法分别是什么相关的内容可以搜索编程网之前的文章或者浏览下面的文章进行学习哈!相信小编会给大家增添更多知识,希望大家能够支持一下编程网!
免责声明:
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341