我的编程空间,编程开发者的网络收藏夹
学习永远不晚

怎么利用Python网络爬虫来提取信息

短信预约 -IT技能 免费直播动态提醒
省份

北京

  • 北京
  • 上海
  • 天津
  • 重庆
  • 河北
  • 山东
  • 辽宁
  • 黑龙江
  • 吉林
  • 甘肃
  • 青海
  • 河南
  • 江苏
  • 湖北
  • 湖南
  • 江西
  • 浙江
  • 广东
  • 云南
  • 福建
  • 海南
  • 山西
  • 四川
  • 陕西
  • 贵州
  • 安徽
  • 广西
  • 内蒙
  • 西藏
  • 新疆
  • 宁夏
  • 兵团
手机号立即预约

请填写图片验证码后获取短信验证码

看不清楚,换张图片

免费获取短信验证码

怎么利用Python网络爬虫来提取信息

怎么利用Python网络爬虫来提取信息,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。

下面小编就为大家带来一篇Python网络爬虫与信息提取(实例讲解)。小编觉得挺不错的,现在就分享给大家,也给大家做个参考。一起跟随小编过来看看吧
课程体系结构:
1、Requests框架:自动爬取HTML页面与自动网络请求提交2、robots.txt:网络爬虫排除标准3、BeautifulSoup框架:解析HTML页面4、Re框架:正则框架,提取页面关键信息5、Scrapy框架:网络爬虫原理介绍,专业爬虫框架介绍理念:The Website is the API …Python语言常用的IDE工具文本工具类IDE:IDLE、Notepad++、Sublime Text、Vim & Emacs、Atom、Komodo Edit集成工具IDE:PyCharm、Wing、PyDev & Eclipse、Visual Studio、Anaconda & Spyder、Canopy·IDLE是Python自带的默认的常用的入门级编写工具,它包含交互式文件式两种方式。适用于较短的程序。·Sublime Text是专为程序员开发的第三方专用编程工具,可以提高编程体验,具有多种编程风格。·Wing是Wingware公司提供的收费IDE,调试功能丰富,具有版本控制,版本同步功能,适合于多人共同开发。适用于编写大型程序。·Visual Studio是微软公司维护的,可以通过配置PTVS编写Python,主要以Windows环境为主,调试功能丰富。·Eclipse是一款开源的IDE开发工具,可以通过配置PyDev来编写Python,但是配置过程复杂,需要有一定的开发经验。·PyCharm分为社区版和专业版,社区版免费,具有简单、集成度高的特点,适用于编写较复杂的工程。适用于科学计算、数据分析的IDE:·Canopy是由Enthought公司维护的收费工具,支持近500个第三方库,适合科学计算领域应用开发。·Anaconda是开源免费的,支持近800个第三方库。Requests库入门Requests的安装:Requests库是目前公认的爬取网页最好的Python第三方库,具有简单、简捷的特点。官方网站:http://www.python-requests.org在"C:\Windows\System32"中找到"cmd.exe",使用管理员身份运行,在命令行中输入:“pip install requests”运行。
使用IDLE测试Requests库:>>> import requests
>>> r = requests.get("http://www.baidu.com")#抓取百度页面
>>> r.status_code
>>> r.encoding = 'utf-8'
>>> r.text
1
2
3
4
5
Requests库的7个主要方法
get()方法r = requests.get(url)get()方法构造一个向服务器请求资源的Request对象,返回一个包含服务器资源的Response对象。requests.get(url, params=None, **kwargs)url:拟获取页面的url链接params:url中的额外参数,字典或字节流格式,可选**kwargs:12个控制访问参数Requests库的2个重要对象· Request· Response:Response对象包含爬虫返回的内容Response对象的属性r.status_code :HTTP请求的返回状态,200表示连接成功,404表示失败r.text :HTTP响应内容的字符串形式,即,url对应的页面内容r.encoding : 从HTTP header中猜测的相应内容编码方式r.apparent_encoding : 从内容中分析出的相应内容编码方式(备选编码方式)r.content : HTTP响应内容的二进制形式r.encoding :如果header中不存在charset,则认为编码为ISO-8859-1 。r.apparent_encoding :根据网页内容分析出的编码方式可以 看作是r.encoding的备选。Response的编码:


r.encoding : 汇率查询从HTTP header中猜测的响应内容的编码方式;如果header中不存在charset,则认为编码为ISO-8859-1,r.text根据r.encoding显示网页内容r.apparent_encoding : 根据网页内容分析出的编码方式,可以看作r.encoding的备选爬取网页的通用代码框架Requests库的异常
Response的异常r.raise_for_status() : 如果不是200,产生异常requests.HTTPError;在方法内部判断r.status_code是否等于200,不需要增加额外的if语句,该语句便于利用try-except进行异常处理import requests
 
def getHTMLText(url):
  try:
    r = requests.get(url, timeout=30)
    r.raise_for_status() # 如果状态不是200,引发HTTPError异常
    r.encoding = r.apparent_encoding
    return r.text
  except: 
    return "产生异常"
 
if __name__ == "__main__":
  url = "http://www.baidu.com"
  print(getHTMLText(url))
1
2
3
4
5
6
7
8
9
10
11
12
13
14
通用代码框架,可以使用户爬取网页变得更有效,更稳定、可靠。HTTP协议HTTP,Hypertext Transfer Protocol,超文本传输协议。HTTP是一个基于“请求与响应”模式的、无状态的应用层协议。HTTP协议采用URL作为定位网络资源的标识。URL格式:http://host[:port][path]· host:合法的Internet主机域名或IP地址
· port:端口号,缺省端口号为80
· path:请求资源的路径HTTP URL的理解:URL是通过HTTP协议存取资源的Internet路径,一个URL对应一个数据资源。HTTP协议对资源的操作
理解PATCH和PUT的区别假设URL位置有一组数据UserInfo,包括UserID、UserName等20个字段。需求:用户修改了UserName,其他不变。· 采用PATCH,仅向URL提交UserName的局部更新请求。· 采用PUT,必须将所有20个字段一并提交到URL,未提交字段被删除。PATCH的主要好处:节省网络带宽Requests库主要方法解析requests.request(method, url, **kwargs)· method:请求方式,对应get/put/post等7种例: r = requests.request(‘OPTIONS’, url, **kwargs)· url:拟获取页面的url链接· **kwargs:控制访问的参数,共13个,均为可选项params:字典或字节序列,作为参数增加到url中;kv = {'key1':'value1', 'key2':'value2'}
r = requests.request('GET', 'http://python123.io/ws',params=kv)
print(r.url)
'''
http://python123.io/ws?key1=value1&key2=value2
'''
1
2
3
4
5
6
data:字典、字节序列或文件对象,作为Request的内容;json:JSON格式的数据,作为Request的内容;headers:字典,HTTP定制头;hd = {'user-agent':'Chrome/10'}
 
r = requests.request('POST','http://www.yanlei.shop',headers=hd)
1
2
3
cookies:字典或CookieJar,Request中的cookie;auth:元组,支持HTTP认证功能;files:字典类型,传输文件;fs = {'file':open('data.xls', 'rb')}
 
r = requests.request('POST','http://python123.io/ws',files=fs)
1
2
3
timeout:设定超时时间,秒为单位;proxies:字典类型,设定访问代理服务器,可以增加登录认证allow_redirects:True/False,默认为True,重定向开关;stream:True/False,默认为True,获取内容立即下载开关;verify:True/False,默认为True,认证SSL证书开关;cert:本地SSL证书路径#方法及参数
requests.get(url, params=None, **kwargs)
requests.head(url, **kwargs)
requests.post(url, data=None, json=None, **kwargs)
requests.put(url, data=None, **kwargs)
requests.patch(url, data=None, **kwargs)
requests.delete(url, **kwargs)
1
2
3
4
5
6
7网络爬虫引发的问题性能骚扰:受限于编写水平和目的,网络爬虫将会为web服务器带来巨大的资源开销法律风险:服务器上的数据有产权归属,网路爬虫获取数据后牟利将带来法律风险。隐私泄露:网络爬虫可能具备突破简单访问控制的能力,获得被保护数据从而泄露个人隐私。网络爬虫的限制·来源审查:加密货币http://www.gendan5.com/digitalcurrency/btc.html判断User-Agent进行限制



检查来访HTTP协议头的User-Agent域,值响应浏览器或友好爬虫的访问。· 发布公告:Roots协议告知所有爬虫网站的爬取策咯,要求爬虫遵守。Robots协议Robots Exclusion Standard 网络爬虫排除标准作用:网站告知网络爬虫哪些页面可以抓取,哪些不行。形式:在网站根目录下的robots.txt文件。案例:京东的Robots协议http://www.jd.com/robots.txt# 注释:*代表所有,/代表根目录
User-agent: * 
Disallow: /?* 
Disallow: /pop/*.html 
Disallow: /pinpai/*.html?* 
User-agent: EtaoSpider 
Disallow: / 
User-agent: HuihuiSpider 
Disallow: / 
User-agent: GwdangSpider 
Disallow: / 
User-agent: WochachaSpider 
Disallow: /
1
2
3
4
5
6
7
8
9
10
11
12
13
Robots协议的使用网络爬虫:自动或人工识别robots.txt,再进行内容爬取。
  约束性:Robots协议是建议但非约束性,网络爬虫可以不遵守,但存在法律风险。Requests库网络爬虫实战1、京东商品import requests
url = "https://item.jd.com/5145492.html"
try:
 r = requests.get(url)
 r.raise_for_status()
 r.encoding = r.apparent_encoding
 print(r.text[:1000])
except:
 print("爬取失败")
1
2
3
4
5
6
7
8
9
2、亚马逊商品# 直接爬取亚马逊商品是会被拒绝访问,所以需要添加'user-agent'字段
import requests
url = "https://www.amazon.cn/gp/product/B01M8L5Z3Y"
try:
 kv = {'user-agent':'Mozilla/5.0'} # 使用代理访问
 r = requests.get(url, headers = kv)
 r.raise_for_status()
 r.encoding = r.apparent_encoding
 print(t.text[1000:2000])
except:
 print("爬取失败"
1
2
3
4
5
6
7
8
9
10
11
3、百度/360搜索关键词提交搜索引擎关键词提交接口· 百度的关键词接口:http://www.baidu.com/s?wd=keyword· 360的关键词接口:http://www.so.com/s?q=keyword# 百度
import requests
keyword = "Python"
try:
 kv = {'wd':keyword}
 r = requests.get("http://www.baidu.com/s",params=kv)
 print(r.request.url)
 r.raise_for_status()
 print(len(r.text))
except:
 print("爬取失败")
1
2
3
4
5
6
7
8
9
10
11
# 360
import requests
keyword = "Python"
try:
 kv = {'q':keyword}
 r = requests.get("http://www.so.com/s",params=kv)
 print(r.request.url)
 r.raise_for_status()
 print(len(r.text))
except:
 print("爬取失败")
1
2
3
4
5
6
7
8
9
10
11
4、网络图片的爬取和存储网络图片链接的格式:http://www.example.com/picture.jpg国家地理:http://www.nationalgeographic.com.cn/选择一张图片链接:https://file.lsjlt.com/upload/202306/01/wnqxhb0envf.jpg图片爬取全代码
import requests
import os
url = "https://file.lsjlt.com/upload/202306/01/wnqxhb0envf.jpg"
root = "D://pics//"
path = root + url.split('/')[-1]
try:
 if not os.path.exists(root):
  os.mkdir(root)
 if not os.path.exists(path):
  r = requests.get(url)
  with open(path,'wb') as f:
   f.write(r.content)
   f.close()
   print("文件保存成功")
 else:
  print("文件已存在")
except:
 print("爬取失败")
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
5、IP地址归属地的自动查询www.ip138.com IP查询http://ip138.com/ips138.asp?ip=ipaddresshttp://m.ip138.com/ip.asp?ip=ipaddressimport requests
url = "http://m.ip138.com/ip.asp?ip="
ip = "220.204.80.112"
try:
 r = requests.get(url + ip)
 r.raise_for_status()
 r.encoding = r.apparent_encoding
 print(r.text[1900:])
except:
 print("爬取失败")
1
2
3
4
5
6
7
8
9
10
# 使用IDLE
>>> import requests
>>> url ="http://m.ip138.com/ip.asp?ip="
>>> ip = "220.204.80.112"
>>> r = requests.get(url + ip)
>>> r.status_code
>>> r.text

看完上述内容,你们掌握怎么利用Python网络爬虫来提取信息的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注编程网行业资讯频道,感谢各位的阅读!

免责声明:

① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。

② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341

怎么利用Python网络爬虫来提取信息

下载Word文档到电脑,方便收藏和打印~

下载Word文档

猜你喜欢

怎么利用Python网络爬虫来提取信息

怎么利用Python网络爬虫来提取信息,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。下面小编就为大家带来一篇Python网络爬虫与信息提取(实例讲解)。小编觉得挺不错的,现在就
2023-06-02

Python网络爬虫与信息提取

Requests安装用管理员身份打开命令提示符:pip install requests测试:打开IDLE:>>> import requests>>> r = requests.get("http://www.baidu.com")>>>
2023-01-31

Python中怎么利用网络爬虫获取招聘信息

Python中怎么利用网络爬虫获取招聘信息,很多新手对此不是很清楚,为了帮助大家解决这个难题,下面小编将为大家详细讲解,有这方面需求的人可以来学习下,希望你能有所收获。1、定义一个class类继承object,定义init方法继承self,
2023-06-16

如何使用python网络爬虫基于selenium爬取斗鱼直播信息

这篇文章给大家分享的是有关如何使用python网络爬虫基于selenium爬取斗鱼直播信息的内容。小编觉得挺实用的,因此分享给大家做个参考,一起跟随小编过来看看吧。一、本文使用的第三方包和工具python 3.8 谷歌浏览器seleniu
2023-06-29

手把手教你使用Python网络爬虫获取招聘信息

现在在疫情阶段,想找一份不错的工作变得更为困难,很多人会选择去网上看招聘信息。可是招聘信息有一些是错综复杂的。而且不能把全部的信息全部罗列出来,以外卖的58招聘网站来看,资料整理的不清晰。

怎么用python爬虫房屋信息

使用Python编写爬虫可以轻松爬取房屋信息,以下是一个简单的示例代码:pythonimport requestsfrom bs4 import BeautifulSoup# 定义爬取房屋信息的函数def get_house_info(ur
2023-10-19

怎么用python爬取douban信息

本篇内容介绍了“怎么用python爬取douban信息”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!首先导入库定义保存地址函数解析网址打印爬
2023-06-02

Python怎么利用正则表达式爬取网页信息及图片

小编给大家分享一下Python怎么利用正则表达式爬取网页信息及图片,相信大部分人都还不怎么了解,因此分享这篇文章给大家参考一下,希望大家阅读完这篇文章后大有收获,下面让我们一起去了解一下吧!一、正则表达式是什么?概念:正则表达式是对字符串操
2023-06-14

怎么用python爬虫抓取网页文本

使用Python爬虫抓取网页文本可以使用第三方库requests和beautifulsoup。首先,安装requests和beautifulsoup库:pip install requestspip install beautifulsou
2023-10-18

使用Python爬虫怎么避免频繁爬取网站

这期内容当中小编将会给大家带来有关使用Python爬虫怎么避免频繁爬取网站,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。python的数据类型有哪些?python的数据类型:1. 数字类型,包括int(整
2023-06-15

怎么用Python爬虫获取网址美图

本篇内容介绍了“怎么用Python爬虫获取网址美图”的有关知识,在实际案例的操作过程中,不少人都会遇到这样的困境,接下来就让小编带领大家学习一下如何处理这些情况吧!希望大家仔细阅读,能够学有所成!Python学习教程之爬虫:爬取街拍美图1.
2023-06-02

如何利用Scrapy爬虫框架抓取网页全部文章信息(上篇)

本文主要介绍Scrapy爬虫框架抓取其中某个网页数据的理论
Scrapy2024-12-03

Python中怎么利用Beautifulsoup爬取网站

这篇文章将为大家详细讲解有关Python中怎么利用Beautifulsoup爬取网站,文章内容质量较高,因此小编分享给大家做个参考,希望大家阅读完这篇文章后对相关知识有一定的了解。1.开始前准备1.1 python3,本篇博客内容采用pyt
2023-06-17

如何使用Python爬虫实现抓取电影网站信息并入库

这篇文章主要介绍如何使用Python爬虫实现抓取电影网站信息并入库,文中介绍的非常详细,具有一定的参考价值,感兴趣的小伙伴们一定要看完!一.环境搭建1.下载安装包访问 Python官网下载地址:https://www.python.org/
2023-06-29

编程热搜

  • Python 学习之路 - Python
    一、安装Python34Windows在Python官网(https://www.python.org/downloads/)下载安装包并安装。Python的默认安装路径是:C:\Python34配置环境变量:【右键计算机】--》【属性】-
    Python 学习之路 - Python
  • chatgpt的中文全称是什么
    chatgpt的中文全称是生成型预训练变换模型。ChatGPT是什么ChatGPT是美国人工智能研究实验室OpenAI开发的一种全新聊天机器人模型,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,并协助人类完成一系列
    chatgpt的中文全称是什么
  • C/C++中extern函数使用详解
  • C/C++可变参数的使用
    可变参数的使用方法远远不止以下几种,不过在C,C++中使用可变参数时要小心,在使用printf()等函数时传入的参数个数一定不能比前面的格式化字符串中的’%’符号个数少,否则会产生访问越界,运气不好的话还会导致程序崩溃
    C/C++可变参数的使用
  • css样式文件该放在哪里
  • php中数组下标必须是连续的吗
  • Python 3 教程
    Python 3 教程 Python 的 3.0 版本,常被称为 Python 3000,或简称 Py3k。相对于 Python 的早期版本,这是一个较大的升级。为了不带入过多的累赘,Python 3.0 在设计的时候没有考虑向下兼容。 Python
    Python 3 教程
  • Python pip包管理
    一、前言    在Python中, 安装第三方模块是通过 setuptools 这个工具完成的。 Python有两个封装了 setuptools的包管理工具: easy_install  和  pip , 目前官方推荐使用 pip。    
    Python pip包管理
  • ubuntu如何重新编译内核
  • 改善Java代码之慎用java动态编译

目录