python怎么爬取气象台每日天气图代码
今天就跟大家聊聊有关python怎么爬取气象台每日天气图代码,可能很多人都不太了解,为了让大家更加了解,小编给大家总结了以下内容,希望大家根据这篇文章可以有所收获。
前言
中央气象台网站更新后,以前的爬虫方式就不太能用了,我研究了一下发现主要是因为网站上天气图的翻页模式从点击变成了滑动,页面上的图片class="lazy" data-src也只显示当前页面的,因此,按照网络通俗的方法去爬取就只能爬出一张图片。看了一些大佬的教程后自己改出来一个代码。
1.安装Selenium
Selenium是一个Web的自动化(测试)工具,它可以根据我们的指令,让浏览器执行自动加载页面,获取需要的数据等操作。
pip install selenium
2. 安装chromedriver
Selenium 自身并不具备浏览器的功能,Google的Chrome浏览器能方便的支持此项功能,需安装其驱动程序Chromedriver
下载地址:http://chromedriver.storage.googleapis.com/index.html
在google浏览器的地址栏输入‘chrome://version/’,可以查看版本信息,下载接近版本的就可以。
3.代码
从图里可以看到,向前翻页指令对应的id是'prev'
from selenium import webdriver ## 导入selenium的浏览器驱动接口from selenium.webdriver.common.action_chains import ActionChainsfrom selenium.webdriver.support.ui import Selectimport timeimport osimport urllib.requestlevel=['地面','925hPa','850hPa','700hPa','500hPa','100hPa'] chrome_driver = '路径/chromedriver.exe' #chromedriver的文件位置driver = webdriver.Chrome(executable_path = chrome_driver) #加载浏览器驱动driver.get('http://www.nmc.cn/publish/observations/china/dm/weatherchart-h000.htm') #打开页面time.sleep(1)#模拟鼠标选择高度层for z in level: button1=driver.find_element_by_link_text(z) #通过link文字精确定位元素 action = ActionChains(driver).move_to_element(button1) #鼠标悬停在一个元素上 action.click(button1).perform() #鼠标单击 time.sleep(1) for p in range(0,6): #下载最近6个时次的天气图 str_p=str(p) #模拟鼠标选择时间 button2=driver.find_element_by_id('prev') #通过id精确定位元素 action = ActionChains(driver).move_to_element(button2) #鼠标悬停在一个元素上 action.click(button2).perform() #鼠标单击 time.sleep(1) #模拟鼠标选择图片 elem_pic = driver.find_element_by_id('imgpath') #通过id精确定位元素 action = ActionChains(driver).move_to_element(elem_pic) #action.context_click(elem_pic).perform() #鼠标右击 filename= str(elem_pic.get_attribute('class="lazy" data-src')).split('/')[-1].split('?')[0] #获取文件名 #获取图片class="lazy" data-src class="lazy" data-src1=elem_pic.get_attribute('class="lazy" data-src') if os.path.exists('存图路径/'+z+'') is not True : os.makedirs('存图路径/'+z+'') urllib.request.urlretrieve(class="lazy" data-src1 , '存图路径/'+z+'/'+filename) print(filename) time.sleep(1)
然后就可以轻松的爬取所有图片
看完上述内容,你们对python怎么爬取气象台每日天气图代码有进一步的了解吗?如果还想了解更多知识或者相关内容,请关注编程网行业资讯频道,感谢大家的支持。
免责声明:
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341