Python短视频爬虫教程
短信预约 -IT技能 免费直播动态提醒
好难受，上次发了做游戏的居然没人看，每天为了给你们写啥，老夫心都操碎了~
真的是，今天来给大家爬一波短视频网站吧，都是些很养眼的~
网站地址在代码里面，大家用心一下就能看到了。
使用的软件
python 3.8
pycharm 2021.2
模块
requests
parsel
re
concurrent.futures
time
warnings
不会安装模块看这篇：python模块的安装以及安装失败的解决方法
知道你们不想看那些步骤，我直接上代码吧
import requests
import parsel
import re
import concurrent.futures
import time
import warnings
# 取消警告
warnings.filterwarnings("ignore")
def get_html(url):
"""发送请求获取网页源代码"""
html_data = requests.get(url=url, verify=False).text
return html_data
def parse_data_1(html_data):
"""第一次解析, 拿到所有的详情页链接"""
selector = parsel.Selector(html_data)
url_list = selector.xpath('//a[@class="meta-title"]/@href').getall()
return url_list
def parse_data_2(html_data):
"""第二次解析, 获取视频链接"""
video_url = re.findall('url: "(.*?)",', html_data)[0]
return video_url
def save(video_url):
"""保存视频"""
title = video_url.split('/')[-1] # 取链接当中的字段作为标题
video_data = requests.get(video_url, verify=False).content # 发送网络请求
with open(f'video/{title}', mode='wb') as f:
f.write(video_data)
print(title, "爬取成功!!!")
start_time = time.time()
url = 'https://www.520mmtv.com/hd/rewu.html'
# 1. 向目标网站发送请求
html_data = get_html(url=url)
# 2. 第一次解析数据 提取详情页链接
url_list = parse_data_1(html_data=html_data)
for info_url in url_list[:10]:
# 3. 向详情页发送请求
html_data_2 = get_html(url=info_url)
# 4. 第二次解析数据 提取视频播放地址
video_url = parse_data_2(html_data=html_data_2)
# 5. 保存视频
save(video_url=video_url)
print('花费时间：', time.time() - start_time)
到此这篇关于Python 短视频爬虫教程的文章就介绍到这了,更多相关Python 爬虫教程内容请搜索编程网以前的文章或继续浏览下面的相关文章希望大家以后多多支持编程网！
免责声明：
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的，并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据，供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341
